“AI혁명,특이점은오는가!”
AI는이제인간의개입없이자체적으로학습하고발전하는단계에까지이르렀다.최신AI들이보여주는성과는경탄을자아내는것을넘어가히경악스러운수준이다.AI는그야말로무소불위의전지전능한존재로나아가고있다.AI를둘러싼담론이넘쳐나는가운데기대와설렘,불안과두려움이혼재하는상황이다.
인간이노동으로부터자유로워지리라는장밋빛낙관도있지만,대다수노동자가AI에대체되어‘잉여’로전락할지모른다는공포가더우세해보인다.실제로전문가들은AI의너무빠른발전에우려를표하며위험성을경고하고있다.기술이가속화되면서AI가이미인간지능수준의범용인공지능(AGI)에근접했다는평가도있다.AI가언젠가AGI보다도강력한초지능(ASI)으로진화하여특이점을넘어서게된다면어떻게될까.세상은낙원이될것인가,지옥이될것인가.
AI는점점인간을닮아가고있다.인간은원하든원치않든AI와상호작용하며전진해야한다.이미인간세계의‘상수’로자리잡은AI를잘관리하고활용하기위해,저자는AI의이점과장점은최대화하고위험성은최소화하는방향으로대비해야한다고말한다.아울러과학기술과인문사회를아우르는통합적인접근을주문하고있다.
작가의말
지금인류가AI개발을통해하고있는것은우리자신을많이닮은피조물(creature)을만드는작업입니다.기억력과판단력을갖고,추상적인개념을다루고,추론이가능하며,언어로외부와소통하고,주변을제어할수있는존재가만들어지는중이니까요.머지않아AI는인류에필적하는지적능력을가진지구상의새로운존재로서확실히자리매김하게될겁니다.인간이평소에하는일을대신하는간단한AI는우리를편하게해주지만,인간에게도어렵거나불가능한일을해내는강력한AI는우리의삶과세상을근본적으로변화시킬겁니다.그리고바로그런능력을가진AI들이지금눈앞에출현해서우리를놀라게하고있습니다.
(중략)
인간과다름없는지능과희로애락의감정을가졌던나무인형피노키오는결국소년이됨으로써소망을이뤘죠.현실에서의AI는어떤존재이며,무엇을할수있으며,무엇을하게될것이며,무엇이되고자할까요.그리고우리인간은그들과어떤관계에놓이게될까요.
이책은그에관한것입니다.
