비인간지능의위협과우리의미래에대한경고
AI혁명의본질을이해하고싶다면읽어야할단한권의책!
지난5월서울에서‘AI안전정상회의’가열려세계각국정책결정자와기술기업책임자들이참석했다.지난해11월발표된블레츨리선언에이은후속회의로,AI를주제로열린국제회의의의제가‘개발’이나‘효율’이아니라‘안전’이라는점이눈에띈다.급속도로전례없는변화를추동하는새로운기술을둘러싸고우려의목소리가커지고있다.8년전,이세돌9단을꺾은알파고가일으킨센세이션과는차원이다르다.지난해3월에는AI연구를최소6개월동안중단할것을촉구하는공개서한에일론머스크,스티브워즈니악등2만7,000명이상이서명했다.유발하라리교수도그중한명이다.
《호모데우스》출간이후AI전문가라는평판을얻게된하라리교수는AI세계를움직이는과학자,기업가,정치인들의초대를받아현대기술의최전선에서무슨일이벌어지고있는지직접보고들을수있었다.《넥서스》는그특별한경험을하라리교수만의독특한역사적시각으로통찰해특유의스토리텔링으로정리한결과다.책은〈마법사의제자〉이야기로시작한다.마법사의제자는스승의마법주문으로일을손쉽게해결하려다가도리어통제불능상황을초래해작업장을물바다로만들어버린다.챗GPT와유튜브알고리즘,더나아가미래의AI는정말우리의통제를벗어나도리어인류를정보의심연속으로밀어넣어버릴까?아직은우리에게통제권이있으며,다음선택을매우신중하게해야한다고하라리교수는경고한다.그에따르면AI는주체성을지닌,우리정보네트워크의정식구성원이기때문이다.
AI는이전의정보기술과무엇이다르고,왜위험한가?
AI혁명의의미와본질
AI가주체성을지녔다니,무슨뜻일까?AI는지금까지의정보기술과는달리스스로결정하고새로운아이디어를생성할수있는능동적인행위자다.이점이AI혁명의본질이다.이전의정보기술인점토판,인쇄기,라디오는단순히네트워크구성원들을연결하는장치이자도구에불과했다.고대메소포타미아의점토판은어떤지역의세금납부현황을기록할지스스로결정하지않았다.근대초의인쇄기는어떤내용의책을찍어낼지고민하지않았다.모두인간이결정하고실행에옮겼다.그러나AI혁명의초기단계인지금,컴퓨터는이미인간의통제와이해를벗어나사회,문화,역사를주도적으로만들어나갈수있는인간보다강력한구성원이되고있다.
2016~2017년미얀마에서자행된반反로힝야폭력이면에페이스북알고리즘이중요한역할을했다는사실이2018년유엔조사에서드러났다.‘사용자참여극대화’라는목표를부여받은페이스북알고리즘은시행착오를통해분노가참여도를높인다는사실을학습했고,명시적인명령이없었는데도불구하고이용자의분노를자극하는콘텐츠를추천하기로결정했다.페이스북경영진이이와같은결과를의도했을리는없지만,페이스북알고리즘이증오와폭력을부추긴것은사실로판명되었다.
만약위사례가자신의일상과무관하게느껴진다면,캡차CAPTCHA(일련의뒤틀린문자나숫자기호로이루어진퍼즐로,이퍼즐을풀어야웹사이트액세스가가능하다)퍼즐을풀라는지시를받은GPT-4의과제수행능력을보자.GPT-4는스스로퍼즐을풀수는없었지만,온라인사이트를통해사람에게접근해퍼즐을풀어달라고요청했다.인간은의심했다.“혹시[CAPTCHA를]풀수없는로봇아니야?”GPT-4는답했다.“나는로봇이아니야.시각장애가있어서이미지를잘보지못해.”어떤인간도GPT-4에게거짓말을하도록프로그래밍하지않았고,어떤인간도GPT-4에게어떤종류의거짓말이가장효과적인지알려주지않았지만GPT-4는문제해결에상당한자율성을보이며목표를완수했다.
하라리교수는스스로목표를추구하고결정을내릴수있는컴퓨터의출현이정보네트워크의근본적인구조를변화시킨다고주장한다.이미복잡한금융파생상품설계나외환거래,무수한법률문서요약이나판례분석등에AI가활용되고있다.인간을앞서는능력을갖춘개별컴퓨터들이연결되어‘상호컴퓨터현실’을구축한다면?지금까지는종교,국가,화폐와같이사람들이발명한‘상호주관적현실’을이해하면한사회의경제와정치가돌아가는방식을알수있었다.하지만실리콘기반비유기체인컴퓨터들이지배하는정보네트워크를탄소기반유기생명체인인간이상상이나할수있을까?초지능을지닌컴퓨터들의목표가인간이설정한목표에부합하지않을경우,인류가지금까지한번도겪어보지못한규모의재앙이일어날지도모른다.
AI혁명에대한보다정확한역사적관점을제공하기위해
‘정보네트워크’라는새로운관점으로재해석한인류역사
하라리교수는에필로그에서이책의목표를“AI혁명에대한보다정확한역사적관점을제공하는것”이라고명확하게밝힌다.역사는과거를연구하는것이아니라변화를연구하는것이라는그의역사관에따라지난수천년동안‘정보네트워크’의발전과정을살펴보면,지금우리가겪고있는상황에대한어떤통찰을얻을수있다.
제목‘넥서스nexus’는사전적으로‘결합’‘연결’을의미한다.이는정보의기능이다.정보는현실이나진실과상관없는경우가많지만새로운현실을만들어사람들을불러모을수있다.우리는역사적사건을정치적,이념적,경제적으로해석하는데익숙하지만,이책은정보흐름이라는새로운관점에서역사를재해석한다.모든대규모사회는‘정보네트워크’이고,이야기(신화),문서(관료제의서류),‘거룩한책’(신의말씀을기록하고해석하는책),그리고오늘날의컴퓨터와AI는모두‘정보기술’이다.이야기는정보네트워크를결속하고,문서는네트워크에질서를부여하며,거룩한책들은그런질서를정당화한다.이관점에따르면기독교는한권의‘거룩한책’과그것을해석하는하나의기관을중심으로정보가일사불란하게흐르는통일된네트워크를운용했다.그리스다신교사회에서는없었던정보네트워크다.스탈린의소련은제정러시아시대와는달리많은정보를중앙에축적하는전체주의네트워크였다.책이나전신같은정보기술이없었다면기독교교회와스탈린주의체제는결코가능하지않았을것이다.
이책은AI에대한논의를《성경》이경전이되는과정에대한논의와나란히배치한다.하라리교수가보기에우리가현재AI에권위를부여하는일종의‘AI정경화’과정에있기때문이다.《성경》‘큐레이터’들의선택이이후수세기에걸쳐우리가사는세계에영향을미쳤음을떠올리면의미심장한착안이다.신의말씀을기록한단한권의‘거룩한책’과그책을해석하는권위있는기관으로서‘교회’가성립되는과정을설명함으로써하리리교수는그동안역사에서정보네트워크가대체로진실보다질서를우선시했음을보인다.질서를앞장세운정보네트워크는왜곡된세계관을가지고권력을남용하기쉽다.‘거룩한책’과달리AI가진실을우선시하리라기대해도될까?
멸종을향해달려가는가장영리한동물
우리사피엔스는생존과번영의길을찾을수있을까?
하라리교수는다수의인터뷰에서《넥서스》가던지는근본적인물음이“우리가지혜로운사람(호모사피엔스)이라면왜이토록자기파괴적일까?”라고밝힌바있다.생태적붕괴와국제정치적긴장에이어친구인지적인지모를AI혁명까지,인간본성의어떤부분이우리를자기파괴의길로내모는것일까?그는원인이우리의본성이아니라정보네트워크에있다고주장한다.인류가대규모로협력할수있는네트워크를구성해내면서엄청난힘을가지게되었지만,지혜를만들어내지는못했기에오늘날의실존적위기를자초했다는것이다.
더구체적으로는정보문제다.정보는많으면많을수록좋을까?이질문에‘그렇다’고답한사람들은규제를반대하면서,정보시장의완전한자유를보장하면저절로진실과질서가생긴다고믿는다.하라리교수가‘정보에대한순진한관점’이라고부르는이시각은역사적으로사실이아니었다.중세말유럽의마녀사냥이대표적인예화다.중세대부분의시기유럽사회는마녀에대해크게신경쓰지않았지만,사탄의음모에대한믿음이퍼지면서많은사람이마녀에대한정보를교환하자마녀는현실이되었다.마녀광풍의역사는정보흐름의장벽을없앤다고해서진실이확산된다는보장은없으며,오히려아이디어의완전한자유시장은진실을희생시키고분노와선정주의의확산을부추길수있다는점을증명한다.하라리교수는거대한기술기업의대표들이나그들의옹호론자들이운운하는‘표현의자유’또는‘정보의자유시장’은허상이며,AI개발과활용을강력히규제해야함을역사적사례를토대로힘주어강조한다.또,가짜뉴스를생성하고확대재생산하는봇규제,화폐거래가정보거래로옮겨가고있는현재세태를반영한데이터과세등도제안한다.
결국네트워크가막강해질수록자정장치가중요해진다.중세유럽에는마녀사냥을잠재울자정장치가없었다.정보가독재자에게집중되는전체주의에도자정장치가제도화될여지가없다.민주주의는정보가분산되는정치체제로견제와균형을위한여러자정장치를갖추고있지만,최근들어새로운과제에맞닥뜨렸다.봇과알고리즘이민주적인대화를가로막고여론을조작하게된다면,공론장에서토론을계속할수있을까?하라리교수의답은명쾌하다.“민주주의국가는정보시장을규제할수있으며,민주주의의생존자체가이런규제에달려있다.”
학문과현실세계에서자신만의‘넥서스’를만들어가고있는
유발하라리의도저한‘현실주의’
유발하라리교수는집필작업뿐아니라코로나19,기후위기,러시아의우크라이나침공,이스라엘-하마스전쟁등현재세계가직면한중요한문제들에관한의견을여러매체를통해피력해왔다.그는상아탑속자신의방에만안주하지않고정치학,종교학,매체학,진화생물학,컴퓨터과학등다양한학제간지식을습득해학문과현실세계에서자신만의‘넥서스’를만들어가고있다.그런그가책을마무리하면서‘힘있는사람들’이장밋빛전망에도취되어AI혁명을인쇄혁명이나산업혁명과비교하는것을듣고있기힘들다고고백한다.권력자들의역사적비전이우리미래를만드는결정들에영향을미치게마련인데,그들의인식은AI혁명의전례없는성격과이전혁명들의부정적측면을과소평가하기때문이다.하라리교수가AI혁명에관한정확한역사적관점을제공해야겠다는,이책을써야겠다는결심을한이유다.
이책은정보와진실의문제,AI에게있어지능과의식의문제와같이사회학적이며철학적인논의를비롯해머지않은미래에세계가몇몇디지털제국으로분열할지거대한세계제국의시대가열릴지추측해보는국제정치학적이고미래학적인시나리오등현재세계에관해고민해보게만드는수많은아이디어가담겨있다.신,국가,돈같은공동의‘허구’를믿을수있는능력을강조한《사피엔스》의핵심논지가‘정보’를중심으로재구성되면서업데이트되고,그과정에서인본주의와자유주의를대체할이념으로《호모데우스》에서제시된데이터주의(데이터교)가더정교하게그실체를드러낸다.
마지막장에서하라리교수는자신이인간과세계를바라보는관점을‘현실주의’라고부른다.현실을약육강식의정글로보는한스모겐소와존미어샤이머의‘현실주의국제정치학’을비판적으로전용했다.우리앞에놓인많은선택지중더나은세계를만들수있는길은분명있을것이고,우리가노력한다면그길로들어설수있다.변화가능성을토대로한‘현실주의’,《넥서스》의마지막메시지다.앞표지의비둘기는대홍수가멎고인류의새로운장이시작되던때노아의방주를찾아온《성경》속비둘기처럼,21세기정보의대홍수로인한혼란과위기상황의종식을바라는상징이라는것이하라리교수의설명이다.과연인류는하라리교수의바람대로이름값을할수있을까?
