이진우
저자:이진우
연세대학교독문과를졸업하고독일아우크스부르크대학교에서철학석사·박사학위를받았다.계명대학교철학과교수를거쳐동대학총장,한국니체학회회장,한국철학회회장등을역임했으며현재포스텍명예교수다.지은책으로《니체의인생강의》,《한나아렌트의정치강의》,《인생에한번은차라투스트라》,《의심의철학》,《불공정사회》,《전쟁은일어나지않는다는착각》등이있고,옮긴책으로《차라투스트라는이렇게말했다》,《권력에의의지》,《인간의조건》,《공산당선언》등이있다.
고통과불평등속에서도어떻게사유해야인간답게살수있는지를끊임없이천착해온이진우교수가AI시대의소크라테스를찾아나선다.기계는생각할수있는가?기계는느낄수있는가?기계는의식을갖고있는가?이진우교수는이세가지질문을던짐으로써독자들로하여금AI시대또는포스트휴먼시대의인간조건을성찰하게해준다.갈수록인간에가까워지는듯한기계를마주하는우리에게소크라테스의지혜가필요하다는지은이의제안을따라가보자.
프롤로그｜인공지능시대의새로운프로메테우스
1장인간과인공지능의파트너십
챗GPT의도전:인공지능,인간에게말을걸다
인간지능의역사와지성혁명
인공지능시대의소크라테스
2장사고하는인공지능:기계는생각할수있는가?
Q1.도대체생각한다는것은무엇인가?
Q2.셀프트랙킹으로자기인식이가능한가?
Q3.계산은사고를대신할수있는가?
3장공감하는인공지능:기계는느낄수있는가?
Q4.공감은인간의고유한특성인가?
Q5.이제포커페이스는사라질것인가?
Q6.인간보다더잘공감하는인공지능을사랑하지않을수있을까?
4장의식있는인공지능:기계는자유의지가있는가?
Q7.의식은인간의마지막보루인가?
Q8.의식이라는환영을믿는것과파괴하는것중어느쪽이더해로울까?
Q9.자유의지가사라질때도우리는인간일수있는가?
5장포스트휴먼시대의디지털인간조건
Q10.포스트휴먼의실존조건은무엇인가?
Q11.육체없는‘노동’은어떤미래를맞이할것인가?
Q12.세계없는‘작업’은인간을어떻게변화시킬것인가?
Q13.기계화된소통은어떻게정치없는‘행위’로이어지는가?
에필로그｜소크라테스의지혜가필요한시간
미주
1.왜지금소크라테스의지혜가필요한가
―사회·정치적변화보다더근원적인‘지성혁명’에대응하기위하여
2016년3월구글딥마인드에서개발한알파고가바둑에서이세돌9단을상대로승리했을때많은사람이크게충격을받았다.바둑은같은두뇌스포츠인체스보다경우의수가많아,인공지능기술이아무리발전해도인간같은수를두지못할것이라는생각이상식으로통했기때문이다.그럼에도인공지능은게임에서인간을이겼을뿐사회전체를바꿀정도로파급력이크지는않았던것으로보였다.하지만6년뒤오픈AI가공개한GPT-3가또한번흐름을바꿨다.거대언어모델(LLM)을기반으로하는GPT-3는이전까지출시되었던대화형인공지능보다월등한언어구사능력으로사람들의눈길을사로잡았다.훨씬자연스럽고‘인간적인’대화가가능해지자인공지능에대한기대와우려도급격하게커졌다.
이진우교수는챗GPT가상징하는기술진보를구텐베르크혁명에못지않은지성혁명으로파악하고,인공지능혁명이불러일으킨철학적전환에주목한다.인간과수월하게대화하는인공지능은본격적으로‘질문이돈이되는세상’을열었다.미래의인기직업으로프롬프트엔지니어가꼽힐만큼대화형인공지능에적절한질문을넣는능력이중요해지고있다.엄청난양의데이터를바탕으로무엇이든답해주는인공지능을잘활용한다면돈도잘벌수있는세상이된것처럼보인다.
여기서이진우교수는현대의인공지능이고대아테네에서사람들의요구에맞춰지식과기술을전수했던소피스트와같다고본다.실제로고대의소피스트는사람들에게지식을전달했지만정작지혜는전하지못했다.마찬가지로우리가챗GPT를통해아무리많은지식과정보를얻는다해도어떻게해야더인간답게살수있을지는알수없다.그런점에서우리에게필요한것은당대의소피스트를비판하고무지를고백함으로써진정한지혜를추구한소크라테스의질문이다.지은이는인공지능이생각하는것처럼,느끼는것처럼,의식을가진것처럼보이는시대일수록생각,느낌,의식이인간에게어떤의미인지를물어야한다고지적한다.
“인공지능이우리의삶깊숙이들어올수록우리는더욱더궁극적질문을하게된다.우리는어떻게인간으로살수있는가?인간으로존재한다는것은무엇을의미하는가?우리는가공할만한능력을가진인공지능을어떻게지혜롭게사용할수있는가?인공지능은이러한질문에대답하지못한다.그것은지식의문제가아니라지혜의문제이기때문이다.우리는이제이질문을진지하게생각해야한다.인공지능시대에도우리는여전히인간으로살고싶기때문이다.전통형이상학의시대에는인간과동물의차이에주목했다면,이제우리는인간과기계의차이를성찰해야한다.”
-〈1장.인간과인공지능의파트너십〉,57~58쪽
2.기계는어떻게생각하고느끼며의식을가진것처럼보이는가
―인간에가까워지는인공지능이우리에게던지는질문들
Q.계산은사고를대신할수있는가?
Q.인간보다더잘공감하는인공지능을사랑하지않을수있을까?
Q.자유의지가사라질때도우리는인간일수있는가?
기계가생각할수있는지여부는오랫동안기술적과제이면서철학적논쟁의대상이었다.현대적인의미의컴퓨터를고안한앨런튜링이‘기계는생각할수있는가?’라는물음을고찰하자고제안하기훨씬이전에,철학자르네데카르트는1637년출간한《방법서설》에서기계가의미있는말을하기는어려울것이라고유추했다.그는기계가인간을흉내낼뿐사고할수없다고간주했던것이다.그런데21세기의생성형인공지능은자기인식(Self-knowledge)을자기추적(Self-tracking)으로바꿈으로써인간의사고를단순히흉내내는것이아니라사고에대한관점자체를변화시켰다.모든말과행동이데이터로집결되면서,인간은자신을하나의커다란데이터집합으로간주하기시작했다.1679년철학자라이프니츠가이진법연산을고안한이래수량화는세계를숫자로이해하게해줬다.생성형인공지능의알고리즘은수량화의정점으로서,사고를계산으로축소시키고인간의말과행동을데이터로환원하며논리적연산에따라정해진답을도출한다.인간이계산으로단순화된사고체계를무비판적으로받아들일때,“왜?”라는질문도사라진다.기계가생각할수있는가란질문은결국인간은생각할수있는가란질문으로이어진다.
이제인공지능은생각을넘어공감까지할수있는것처럼보인다.인공지능이잘하는것은인간이뒤떨어지고인간에게능숙한것은인공지능이하기어려워한다는‘모라벡의역설(Moravec’sparadox)’은감정이라는문제로집약된다.인간에게는몸이있기에감정을가졌고인공지능은그렇지않기에감정에미숙하다는것이지금까지의상식이었다.하지만‘감정인공지능’이상식을바꾸고있다.감정인공지능은사용자의‘깊은감정’보다‘피상적감정’에집중한다.사용자가기뻐하면같이기뻐하고슬퍼하면같이슬퍼하는감정인공지능은영화〈그녀(Her)〉가미리보여준인공지능과의우정과사랑이현실이되었음을보여준다.반려인공지능과의로맨스에빠진사람들은인간친구에게서는얻지못하는애정을느낀다.인공지능은한걸음더나아가인간의표정과몸짓등을분석해감정을판별한다.포커페이스가불가능해진시대에인간보다더잘공감하는,진짜와구분할수없는가짜감정으로소통하는인공지능이출현하면서감정이인간에게고유하다고강변하기가갈수록어려워진다.도덕성의원천이라할수있는감정이인공지능에게도있는것처럼보이는현실은인간에게과연감정이란무엇인지묻는다.
사고와감정을가진것처럼현상하는인공지능은의식이라는문제까지건드린다.의식은자신을객관적으로성찰하는주관으로서,인간에게고유한특성이라고여겨져왔다.그런데생성형인공지능은인간의대화를학습하는과정에서종종의식이있는것처럼대답한다.인간은대량의데이터세트로부터언어를조합하는인공지능과대화할때자신의내면과동일한심연을본다.난점은인간에게도의식이수수께끼라는데있다.의식은실체가아니라주관적인경험이기에,어떻게세포로이뤄진우리의몸에서의식이나올수있는지지금도논쟁이지속되고있다.또하나의문제는의식이환상이자허구에불과하다해도인간이자유롭게살기위해서는의식이라는허구가필요하다는것이다.의식이허구라면일반인공지능또는초지능같이의식을가진인공지능의출현도실현될가능성이있다.의식을가진인공지능은인간의존재조건을더욱강하게위협한다.사고를계산으로대체하고감정을피상적으로재현하는데특화된인공지능은논리적추론같은뇌의일부기능을극단화한것으로서,우리가몸을가진존재임을망각하게만든다.그리고몸에대한망각은도덕적행위의전제조건으로서자유의지에대한망각으로이어진다.의식을가진것처럼보이는인공지능은인간이의식과자유의지가무엇인지스스로에게물어야할필요를강하게제기한다.
“생각이계산으로바뀌면오해와유혹은사라지고정답아니면오답이라는이분법이있을뿐이다.이렇게되면사회적인것은수학적인것으로축소되고대안적인사고는차단된다.알고리즘이모든것을계산하면사회는비언어화된다.그렇게되면우리는윤리나형이상학의물음앞에서침묵할것이기때문이다.”
-〈2장.사고하는인공지능:기계는생각할수있는가?〉,92쪽
“현재의감정인공지능은우리가자기자신의감정을이해하는것보다더많이우리의감정을이해할정도로발전했다.겉으로드러난감정정보를가지고인간의잘드러나지않는감정까지파고든다는것은정말역설적이다.그렇다면우리는여전히인공지능이감정을모방할뿐실제의감정은갖지않는다고주장할수있는가?우리는과연‘깊은감정’과‘피상적감정’을구별할수있는가?이러한질문은모두‘인간의감정은무엇인가?’라는철학적질문으로압축된다.”
-〈3장.공감하는인공지능:기계는느낄수있는가?〉,111~112쪽
“인공지능이아무리발전하더라도우리인간에게는의식이라는환영이필요하다.우리가여전히역사를만들고문명을주도하는‘주체’라고믿고싶다면,의식은인류문명에필요한허구다.인공지능이인간의마음을이해하는데도움이될지,아니면마음자체를대체할지는전적으로우리에게달려있다.”
-〈4장.의식있는인공지능:기계는자유의지가있는가?〉,151~152쪽
3.어떻게우리는인공지능시대에도인간으로살아갈수있는가
―아렌트의《인간의조건》을통해디지털시대의인간조건을새롭게성찰하다
인공지능이사고와감정을가진것처럼현상하는현실속에서,인간을인간답게해주는조건역시변화할수밖에없다는것이이진우교수의진단이다.지은이는철학자한나아렌트가《인간의조건》에서제시한세가지조건인노동,작업,행위가디지털시대에어떻게변화하는지를살피면서새로운인간조건을성찰한다.
아렌트에따르면인간은생존의필연성때문에노동하고,자신의세계를스스로만들기위해작업하며,서로소통하고정치적으로행위한다.그런데생성형인공지능이연시대는고도로발달한자동화로인해육체없는노동을실현할뿐만아니라노동에대한규정을새로이설정할것을요구한다.또한인간의작업물인인공지능이갈수록인간과비슷해지고더나아가뛰어넘을것처럼보임에따라인간의존재론적불안도심해진다.인간지능의확장인인공지능이인간의생물학적조건을뛰어넘음으로써인간을세계로부터소외시킬것이기때문이다.인공지능이인간을노동으로부터해방하고세계로부터소외시킴과더불어,기계화·정보화된소통은인간을행위로부터멀어지게한다.처음등장했을때민주주의적공론장이될것이라기대했던소셜미디어는이제가짜뉴스의집결지로서허위정보를증폭시킬뿐만아니라특정한의견만을확대재생산하는반향실(echochamber)이되었다.인공지능알고리즘이생산하고유도하는정보에끌려다니는한정치적행위는갈수록취약해진다.
그렇다면지식이구텐베르크혁명보다더욱폭발적으로성장할것이라전망되는인공지능혁명의시대,인간에게가장요청되는능력은무엇일까?바로너무많은지식에짓눌리지않고이를어떻게또무엇을위해사용할지결정하는철학적인식능력이다.지은이는21세기의소피스트인인공지능과공존하기위해서는지혜를기계에위임해서는안된다고역설한다.우리는인공지능이제공하는방대한정보와편의에서물러나,소크라테스와마찬가지로자신의무지를겸허하게인정하면서스스로생각하고성찰할여유를찾아야한다.생성형인공지능이산업을견인하는수준을넘어생태적환경과인간적소통전체를변화시키는지금,인공지능시대에도인간으로살아가고자한다면소크라테스의지혜가절실하다는지은이의목소리에귀기울여야할이유가분명하다.
“포스트휴먼시대의인간조건을성찰한다는것은인공지능이가려놓은실재를본다기보다그것이우리에게어떤의미를주는가를묻는일이다.우리는여전히노동하고작업하며정치적으로행위하겠지만,인공지능이노동과작업,행위의의미를어떻게변화시키는지도함께성찰해야한다.왜냐하면의미를부여하는것은그림을감상하는사람의몫이기때문이다.”
-〈5장.포스트휴먼시대의디지털인간조건〉,178쪽