초월적대리인국가와국가의모방자기업은
어떻게탄생했는가
바야흐로AI의시대다.연일AI와관련된상품광고가넘쳐나고챗GPT는이제혼자서책을쓸경지에까지올랐다.우리는곧다가올AI혁명과그로인해변화될세상을‘특이점’이라고부르며그때가언제올지기대반,우려반으로기다리고있다.
하지만영국을대표하는정치학자,케임브리지대학교정치학교수데이비드런시먼은다소다른,특이한주장을펼친다.우리는이미300년동안AI와살아왔다는것이다.바로‘국가’와‘기업’이라고하는‘인공대리인’으로,런시먼에의하면국가와기업도로봇이기때문이다.인간적인한계로인해인류는기계적이지만스스로작동하는인공대리인을만들었는데,이인공대리인이작동하는원리는현재의로봇또는AI와다를바가없다는것이다.
복제성,긴생명력,
인간이감당할수없는책임을질수있는능력
런시먼은국가와기업의특징으로크게세가지를꼽는다.복제성,긴생명력,인간이감당할수없는부담과책임을질수있는능력이다.이는AI의특성이기도하다.
현대의국가와기업은저마다다른모습이긴해도큰틀에서는비슷한시스템으로움직인다.그런면에서이들은복제가가능하며확장가능성또한매우크다.다국적기업의경우는국가보다훨씬더넓은영역에서활약하며영향을미치기도한다.AI역시마찬가지다.오히려이들의복제성과확장성은국가와기업을뛰어넘는다.
또한현대의국가와기업은인간보다더오래산다.이것이우리가국가와기업이라는인공대리인을만든이유이기도하다.자연인인인간은언젠가는병들고죽게마련이다.하지만국가와기업은아니다.특히국가는특별한이유가없는한소멸하기가대단히어렵다.그렇기에인간의의사결정이세대를넘어지속될수있는것이다.기업역시인간이자신의일을더오래,더조직적이고일관된방식으로할목적으로설립되었다.AI또한수명이유한한인간보다오래존속할수있다.
우리는AI와공존할수있을까?
그렇다면우리삶은더좋아질까,아니면나빠질까?
무엇보다현대국가와기업의가장큰특징은‘인간이감당할수없는부담과책임을질수있다’는점이다.대표적인것이부채와전쟁이다.국가와기업은모두큰금액의부채를장기적으로감당할수있다.싸게빌려오래오래갚을수있는것이다.바로그때문에국가와기업은대출받기에도용이하다.무엇보다국가는부채를바탕으로전쟁을수행할수있다.이러한살상능력은개인이짊어질수있는것이아니다.
전쟁과장기적부채를부담할수있는국가의능력은곧혁신으로이어졌다.우리는흔히기술혁신은기업의몫이라고생각한다.하지만수많은혁신기술이전쟁을통해가능해졌다.국가는전쟁에서이기기위한기술및제품을연구하고발명하는데아낌없이투자할수있기때문이다.이세상에국가보다막대한자원을쏟아부을수있는존재는없다.생각해보라.기업이무너질위기에놓여있을때기업을구제해주는것도결국국가다.국가는그특성상기업보다더오래,더많이돈을빌리고투입할수있다.
로봇과AI역시마찬가지다.이들은인간의신체적능력을뛰어넘어인간의활동영역을넓혀주며,인간이할수없는일을담당할수있다.아주간단하게휴대폰을생각해보자.휴대폰은우리의기억력을보조해준다.다시말해우리가뇌기능의일부를외주주고있는것이다.이로인해우리는일상생활에서든업무에서든더큰능력을발휘할수있다.물론이러한기계가자신이한일에대한책임을지는것까지는아직먼이야기지만말이다.
인간같은기계가지배하는세계에살게될우리에게
지금꼭필요한미래담론
우리는초인적능력을가진인공대리인에게우리의권한을이양함으로써더강해졌다.빈곤을정복하고,질병을퇴치하며,평화를유지하고,몇세대전까지는불가능했을법한부를축적하게되었다.하지만순기능만있었던것은아니다.이러한편안함과안락함을위해국가와기업은다른국가혹은기업과경쟁하고,다른지역의자원과주민들을착취했으며,자연을파괴했다.이로인해인간의상태와생활양식도변해왔다.
이것이바로우리가이미경험한것으로,런시먼의표현에의하면‘첫번째특이점’이다.지금이러한세계에로봇과AI가진입하고있다.그렇다면이인위적인존재들끼리결합하면우리는어떻게될까?이들이우리를위해일하게될까,아니면우리가이들을위해일하게될까?우리는과연이들을통제할수있을까?
만약국가권력이우리가통제할수없는방식으로컴퓨터권력과결합하면어떻게될까?이미그런일이벌어지고있을지도모른다.우리는카드하나만으로우리의동선이드러날수있는세상에살고있다.조지오엘의《1984》에나오는사회가지금이순간에도펼쳐질수있다.
그런세상이온다면과연누가우리를구하러올까?국가와기업,AI의유사성을탐구해야하는이유가바로여기에있다.런시먼은우리가만들어낸인공대리인,즉현대의국가와기업에우리가어떤식으로권력을이양했는지를살펴보고,AI시대가우리사회를어떻게재구성할것인지를다각도로예측한다.그럼으로써우리가궁극적으로나아가야할방향을제시한다.이를통해우리는지금우리가가져야할자세가무엇인지,앞으로어떤미래를그려가야할지진지하게모색해볼수있을것이다.