AI는 자신의 무지를 알 수 있을까 (부분과 전체의 틀에서 시스템과 환경의 틀로)

김진석

저자:김진석
독일하이델베르크대학에서철학박사학위를받았으며,현재인하대학교철학과에재직하고있다.철학자와문학비평가의길을가며텍스트를분석했지만,텍스트해석만으로는세상이보이지않았다.정치로서의삶과직면해야했다.계간『사회비평』편집주간,저널룩『인물과사상』과계간『황해문화』편집위원을역임했다.저서로는『HermeneutikalsWillezurMacht』『탈형이상학과탈변증법』『초월에서포월로』『니체에서세르까지』『이상현실·가상현실·환상현실』『폭력과싸우고근본주의와도싸우기』『소외에서소내로』『포월과소내의미학』『기우뚱한균형』『니체는왜민주주의에반대했는가』『더러운철학』『우충좌돌』『소외되기-소내되기-소내하기』『강한인공지능과인간』등이있다.

들어가며

1부정보가증가하면불확실성도증가한다

1장.인간의마음은정보를균형있게받아들이기힘들다
2장.‘정보는불확실성의표현’이라는아이러니
3장.AI학습의자율성은정보처리시스템의닫혀있음과관련된다

2부부분과전체의패러다임에서시스템과환경의패러다임으로

4장.정보는시스템의한계안에서생산된다
5장.세계는이제상이한방식으로만관찰될수있다
6장.인간과사회의관계,부분/전체의틀에서벗어나시스템/환경의구별로
7장.사회적갈등을그복잡성에걸맞게다룰수있을까

3부자신들문제를직접해결못하는인간과그대행자AI

8장.AI는인간을더복잡하고도구속되지않은방식으로파악하게만든다
9장.인공일반지능에대한모호한기대와착각
10장.AI무기,인간의희생을없앤다는또다른위험
11장.인간대신에왜AI가조직을이루는가

4부포월,그리고월포

12장.포월의과제는어떻게시작되었나
13장.기는놈위에뛰는놈,뛰는놈위에나는놈,나는놈위에다시기는놈
14장.포월이라하였는데월포

나가며

AI의아이러니,
정보가많아질수록불확실성도커진다

우리는흔히AI를똑똑한도구나인간능력을압도할초지능으로여기고,정보란본디확실성을높이는유용한것으로간주한다.그러나이책은정보의발전이확실성이나실용성을증대시킴과동시에,본질적으로는‘불확실성’을다루는기술과함께발견되고발전해왔음을확인시켜준다.정보이론의아버지로불리는클로드섀넌에따르면,정보의양은오히려불확실성이클수록커진다.단적으로불확실성의크기가곧정보의값/양이라고말할수있다.왜그런가?모두가알고있는사실은정보로서의가치가없기때문이다.“태양이내일동쪽에서뜬다”는메시지는거의불확실하지않으므로정보량이0에가깝지만,“우리회사AI는로또1등당첨번호를맞출것이다”라는메시지는매우불확실하므로큰정보량을가진다.정보는단순히확실성을표현하지도않고,또불확실성을줄이는것을목적으로삼지도않는다는이속성을생각하면,AI의지능은앞으로도매우발전할가능성이크지만아무리발전한다고해도불확실성이줄어들지는않을것이다.

왜‘부분과전체’가아닌‘시스템과환경’인가?
복잡성의시대를읽는새로운틀

그렇다면이불확실성과복잡성에어떻게대응해야할까?저자는루만의시스템이론을통해이문제를심층적으로분석한다.전통적인사고는세상을부분과전체로나누었다.부분은전체의일부이며,그전체의목표와논리를따른다고(혹은따라야한다고)여겼다.그러나그런인식은오늘날에유효하지않다.기업이나정당은전체로서의국가나사회의일부로서만기능하지않는다.사회시스템으로서그조직들은사회나국가를환경으로파악한다.심지어개별인간도그렇다.루만은“인간은사회의어떤부분도아니다”라고까지말했다.인간역시흔히이해되듯이사회의한부분이아니라사회라는환경을마주하고있으며,그환경과영향을주고받는다.시스템이환경에대해가지는관계는,부분이전체에대해가지는관계와다르다.

이제사회에속한각각주체들이공유하는전체성은없다고(혹은아주드물다고)솔직히인정해야한다.전체에값하는어떤이상적이거나도덕적인규칙혹은원칙을내세워갈등을해결할수도없고,진보나보수처럼분명한구분으로세상을재단하는것도불가능하다.현재사회의복잡성을받아들이고,갈등이폭력적으로분출하지않게조율하는게최선이다.부분과전체라는틀을대신하는시스템과환경이라는틀이필요한까닭이다.

시스템과환경의구별에서출발하는관점은물리적폭력이줄어야사회적갈등이순화된형태로길들여질것이라고예상하지만,폭력의감축이나합의의확대같은정치적프로그램을목표로하거나거기호소하면문제가해결된다고생각하지는않는다.도덕과법과자본이갈등을해결하지는못한다고판단하면서도,시스템이론은그것들이전혀의미없다고여기지도않는다.이런상황자체가복잡성을다시고조시키는것도사실이다.복잡성은어떤규칙이나규범으로정치적프로그램으로는쉽게해결되지는않으며,다양하게융통성있게적응하면서다루어야할문제라는것을다시알려준다.
-본문p.203~204

포월(匍越)에서월포(越匍)로
AI와인간이가야하는길

이런현실에서AI는우리에게세계와환경의불확실성에대해다르고도넓게생각하는법을가르쳐준다.또AI는지적으로나정신적으로수준높은작업을인간대신수행하면서타인이나사회를사회적환경으로바라보게한다.앞으로AI는인간이심리적으로나사회적으로존재하는데필수적인협력자나협력시스템,나아가대행자가될것이다.그러나AI는우리에게모든갈등과문제의답을알려주는그런초지능이되지는못할것이다.정보처리에서인간보다뛰어날수있다해도결국은정보를처리하는시스템이며,자기를둘러싼더복잡한환경을마주해야한다.(그러니모호하게AGI를기대하기보다는,불확실성/정보를처리하는시스템으로AI를이해하는게타당하다.)

AI역시인간처럼나름의편향과성격을가질것이고,무엇보다인간이부딪히는불확실성과복잡성의문제에도부딪힐것이기때문이다.그런문제는모든것을초월해절대적인합리성과이성의잣대로해결할수없다.예를들어기후위기를해결하는정답이있더라도,이해관계자가너무많아현실에서그답을실현할수없는것처럼말이다.현실에바짝붙어섬세하게갈등을살피는것이그문제를넘어갈수있는길이다.‘뛰어넘는[超越]’게아니라‘기어서넘어야[匍越]’한다.

AI는어떤면에서는인간을초월하겠지만,그렇게초월하고나서도다시기어가야한다[越匍].AI가어떤경계를넘어서도새로운환경은계속복잡성을더할것이기때문이다.자신의무지와한계를자각하고,그복잡성을받아들여야(즉다시기어야)한다.책에서여러번반복하는“기는놈위에뛰는놈,뛰는놈위에나는놈,나는놈위에다시기는놈”이라는속담은,바로이런순환을가리킨다.자신의무지를넘어서지못하는한계는인간이든인간보다높은지능의AI든마찬가지다.자신을성찰할수있어야계속나아갈수있다.

『AI는자신의무지를알수있을까』는정보이론,시스템이론,심리학,사회학을넘나들며AI시대의기술,사회,인간에대한끈질긴시선의힘을보여준다.AI의눈부신발전과그이면의근본적인한계를동시에직시하며,super-불확실성의시대를살아가는우리에게필요한지적통찰과성찰의계기가되어줄것이다.인간적삶은한편으로는기술문명속에서AI의도움을받아날아다닐것이다.심리시스템과신체시스템을강화할수있는의학적이고생화학적방법들도수없이개발될것이다.그러나다른한편으로소박하고느린삶의가치가사람에게는여전히소중하게다가올듯하다.그리고역설적이게도인간의삶에서소박한마음은앞으로도계속중요할것이다.

따뜻하게사랑하는마음도마찬가지로중요할것이다.특히오랜시간동안공을들인소박한마음과사랑하는마음은나는놈의성공못지않게소중할것이다.문명속에서나는놈은물론필요하다.그러나나는놈위에기는놈이있다.사람에게는특히그런것같다.지능의차원에서나생물학적한계의차원에서나,사람은나는놈이자기는놈이다.세상을모르는아이들은얼마나천진하게웃는가.그렇지만나이가들수록사람은복잡성에눌리는경향을보인다.또수명이늘어날수록복잡성도커진다.이상황에서단순함과소박함이다시,언제나그랬지만,중요해진다.
-본문p.386