AI를둘러싼과장된서사를넘어서
이책은먼저AI의발전과미래를말하는영향력있는서사들을소개하는것으로시작한다.가장대표적인것으로는종국에는우리가기계를지배하는것이아니라기계가우리를지배하게될것이라는초지능에대한이야기다.이것은폭발적인기술발전으로인해세상에도대체무슨일이일어나는지더는이해할수없을정도가됨으로써인간사가종말을고하고말것이라는기술적특이점이라는생각과밀접한관계가있다.따라서오늘날우리가직면한과제는AI를어떻게든우리가원하는대로통제할수있어야한다는것이고,그러기위해서는첨단기술을이용해인간스스로자신을‘신’으로업그레이드해야한다고한편에서는주장한다.저자는이와같은인간과기계의경쟁서사혹은‘프랑켄슈타인콤플렉스’를넘어서기위한해법을서구문화바깥에서찾는다.거기에는종말에관한사상도없고,인간은근본적으로기계보다우월하며물질성을초월하려는존재임을끊임없이옹호하는플라톤적욕망도없으며,기계에대해보다우호적인태도를발견할수있기때문이다.
이어서저자는AI를둘러싼과장된이야기를넘어서고AI에대한윤리적논의를단순히미래에대한꿈혹은악몽으로제한하지않기위해기계에서인간같은지능이가능한지,인간과기계의차이점은무엇인지,AI는단지기계일뿐인지아니면어떤형태의도덕적고려를받을자격이있는지등을하나하나검토한다.
그런뒤저자는AI에관한철학적논의나역사적맥락화를뒤로하고AI기술이오늘날우리삶에서실제로어떻게작동하고있는지를설명하기위해AI의역사와함께기호적AI나신경망인공지능같은기술을소개하고기계학습,데이터과학을자세히들여다본다.그리고프라이버시,투명성,설명가능성,편향,공정성,불평등등AI윤리에서다루어지는쟁점들을개괄한다음이러한이슈들에정책적으로어떻게접근할지를검토한다.마지막으로기후변화나에너지문제같은전지구적현안을AI문제와연관지어논의함으로써지속가능한삶을구축하는방법에대해더깊이돌아보게한다.옮긴이는이렇게말한다.
“AI를그저막연하게두려워하거나,밑도끝도없이무작정신뢰하거나,혹은우리에게아무선택권도없다면서단지AI의혜택과해악을감수할뿐이라고수동적으로물러나있지만말고,이책을통해서우리가AI에대해서그리고AI와함께어떤일을할수있고또해야하는지고민할수있는계기가마련되었으면한다.”
책속에서
-이책은AI의미래에대한영향력있는서사와인간의본성과미래에관한철학적질문에서부터책임과편견에대한윤리적우려,그리고기술로인해제기되는현실세계의실천적인문제를정책을통해처리하는방법에이르기까지,폭넓게이해된AI의윤리적문제에대한좋은개괄을가능한한너무늦지않게독자에게제공하는것을목표로하고있다.(21~22쪽)
-AI에대한서구의사고는이러한근대적공포와매혹,그리고그고대의뿌리라는감옥에갇혀있을운명인가?우리는과장된이야기를넘어설수있을까,아니면논의의초점이계속초지능에맞춰질것인가?나는우리에게탈출구가있다고생각한다.첫째,우리는서구문화바깥에서기술에관한비프랑켄슈타인적서사와비플라톤적사고방식을찾아볼수있다.(41쪽)
-대륙철학자들은대개인간과마음은기계와근본적으로다르다는점을강조하며,형식적인기술이나과학적설명으로환원될수없고또한환원되어서도안되는자기의식적인인간경험과인간실존에초점을맞춘다.그러나대개분석철학전통에속하는다른철학자들은AI연구자들의인간관을지지한다.이들은인간의뇌와마음은컴퓨터모델과실제로같으며그렇게작동한다고생각한다.(48쪽)
-원칙적으로인간과기계사이에는많은유사성이있으며이론적으로일반AI가가능하다고믿는과학자와철학자조차도보스트롬의초지능에대한비전이나인간-같은AI가머지않았다는유사한생각을거부하는경우가많다는점에다시한번주목하자.(50쪽)
-AI에대한윤리적논의를간접적으로형성하는세가지분열에대해간략히살펴보자.첫번째는근대초기에빚어진계몽주의와낭만주의사이의분열이다.다른둘은비교적최근에전개된일이다.하나는근대성의긴장속에자리하고있는휴머니즘과트랜스휴머니즘사이의분열이고,다른하나는근대성을넘어서려는휴머니즘과포스트휴머니즘사이의분열이다.(52쪽)
-포스트휴머니스트들은근대존재론과윤리학에서인간의중심성에의문을제기한다.이들에따르면비인간도중요하며,우리는인간과비인간사이의경계를넘는것을두려워해서는안된다.이는인간과기계의경쟁서사를넘어서게한다는점에서흥미로운탐구의방향이다.(56쪽)
-이러한포스트휴머니즘에힘입어AI는인간을모방하거나재구성해야한다는부담에서벗어나여러다른비인간종류의존재,지능,창의성등을탐색할수있을것으로보인다.AI가꼭인간의모습으로만들어질필요는없다.여기서진보란인간을넘어비인간적인존재에게자신을개방하고그것으로부터배우는것을의미한다.(57~58쪽)
-AI에대해생각하는것은AI에관해서만알려주는것이아니라,우리자신에대해서도무엇인가를알려준다.우리가어떻게생각하고,실제로어떻게비인간과관계맺고있으며또관계맺어야하는지에관해서말이다.(중략)AI에관한질문은인간지식,인간사회,인간도덕의본성에관한비판적질문의심연을열어준다.(77쪽)
-그자체로존재하는AI는없다는말의또다른의미는기술이항상사회적이며인간적이라는것이다.AI는기술에관한것일뿐만아니라,인간이그것으로무엇을하는지,어떻게그것을사용하는지,어떻게그것을지각하고경험하는지,어떻게그것을더넓은사회적·기술적환경에내장시키는지에관한것이다.이는인간의결정에관한것이기도한윤리학에중요하며,윤리학이역사적·사회적·문화적관점도포함할필요가있음을의미한다.(96쪽)
-여기서위험은오늘날의민주주의사회에서도AI가새로운형태의조작,감시,전체주의로이어질수있으며,반드시권위주의정치의형태가아니더라도더은밀하되대단히효과적인방식으로그렇게될수있다는것이다.(120쪽)
-AI에특화된또다른쟁점은편향문제다.AI가결정을내리거나,아니더정확하게는결정을추천할때편향이발생할수있다.그결정이특정개인이나집단에부당하거나불공정할수있다는것이다.(149쪽)
-한계를설정하는부정적윤리말고도좋은삶과좋은사회의비전을발전시키는긍정적윤리를명시적이고정교하게만들어야할필요가있다.(204쪽)
