인공지능시대,우리가반드시던져야할10가지질문
인공지능의활용은더욱활성화될전망이다.이제인공지능은도구로서가아니라우리삶의‘환경’과도같은존재가되어가는중이다.하지만그에비해우리가인공지능기술과사회적영향에대해잘알거나충분히대비하고있는것같지는않다.인공지능은연예인에대한악의적인딥페이크영상을만들기도하고,가짜정치뉴스를만들어퍼뜨리기도한다.인공지능면접시스템이문제가되어소송까지간사례도있고,인공지능알고리즘이소득수준에따라학생들의점수를차별해서격렬한시위가벌어지기도했다.만약무기나의료분야인공지능에문제가생긴다면그영향력은엄청나게커질수있다.인공지능의자율성이인간을더큰위험에빠뜨리지는않을지,이책에서도10가지질문을통해인공지능시대의윤리를특별히강조하는이유다.
1장<인공지능,넌누구?>에서는‘컴퓨터가생각할수있을까?’라는질문과상상으로시작된인공지능의역사를짚어보며인공지능의정확한개념을알아본다.2장<인공지능윤리는왜필요할까?>에서는인공지능윤리란무엇이며왜하필인공지능분야에는윤리가중요시되는지,인간의삶과사회에유익한인공지능을만들고활용하기위해서는어떤원칙을세워야하는지이야기한다.3장<인공지능스피커,내고민을팔았다고?>에서는인공지능스피커의데이터수집문제를통해개인정보와프라이버시의중요성,심각성을다룬다.4장<인공지능이심사하면더공정할까?>에서는데이터편향성,알고리즘편향성이라는개념을중심으로인공지능과차별의재생산문제를깊이있게들여다본다.5장<인공지능이우리의일자리를대체할까?>에서는인공지능기술의등장으로변화해온노동의현실을서술하면서‘대체’가아닌‘변화’를읽을수있는실마리를제공한다.6장<인공지능이민주주의를위험에빠뜨릴까?>에서는2018년에일어난‘케임브릿지아날리티카스캔들’을상세히전하며알고리즘에의해변질된허위정보와딥페이크문제를정면으로다룬다.7장<인공지능의결정에반대할수있을까?>에서는투명성,이해가능성,설명가능성개념을서술하며인공지능이내린결정의논리적이유가분명히제시되어야함을강조한다.8장<인공지능자율주행차에운전을맡겨도될까?>에서는‘트롤리딜레마’생각실험을통해인공지능이사고를내면누가책임져야할지,책임을다하는최선의선택이란어떤것이어야할지생각해본다.9장<인공지능이기후위기를악화시킬까?>에서는인공지능이기후변화에나쁜영향을미치는원인을살펴보면서기술이우리에게주는편리함의정체가무엇인지되돌아본다.10장<미래의인공지능,어떤관계를맺을까?>에서는챗GPT의등장을주시하고초지능의출현을예측하면서우리가궁극적으로추구해야할인공지능의모습은어떤것이어야할지바람직한미래상을조망한다.
인간성의나쁜측면을인공지능이그대로반복한다면?
이책은인공지능과도친구가될수있을지친근하게질문하며시작한다.이제인공지능은우리삶과떼려야뗄수없는존재가되어가는중이기에,인간과인공지능이이만큼이나긴밀한관계를맺는다면어떻게든좋은관계를지향하는것이우리에게도바람직하기때문이다.친구가된다는것은서로를존중하고이해하며서로에게유익한관계를맺어나가는것이다.인간이아닌인공지능을존중한다는말은얼핏이상하게들린다.하지만인간을존중한다는것의의미가인간으로서의잠재능력을꽃피우며살아갈수있도록대하는것임을생각하면,인공지능에대한존중은목적에맞는가능성을개발하고제대로작동하게하는것정도면충분하다.그러기위해서는‘인공지능기술과윤리’에대한철저한이해가반드시선행되어야한다고저자는목소리를높인다.인공지능은고도로자동화된시스템이며,학습과정이인간의방식과전혀다르기때문에인간이작동과정이나결과를충분히이해하기어렵다.이해하기어려운존재를무작정가까이하기도,그런존재가우리에게정말유익할것인지확신하기도힘들다.
그래서인공지능에대한이해는거꾸로우리자신에대한이해를요청한다는것이이책에담긴철학적메시지의핵심이다.인간성의나쁜측면을인공지능이그대로반복할수도있기때문이다.이를생각하기위해서는우리에게좋은것,모두가바랄만한좋은삶이나좋은사회가무엇인지먼저고민할필요가있다.그러므로인공지능을이해하는더욱쉽고안전한길은처음부터우리가바라는것이무엇인지알고,인공지능이할수있는것과없는것은어떤것인지확인하고,우리가충분히이해할수있는방식으로인공지능을만드는것이다.지금우리가무엇을고민하고,어떤선택을하며,어떤실천을하는지가그래서매우중요하다.그로부터미래의인공지능도,우리삶의미래환경도,인공지능과우리의관계도새롭게만들어질것이기때문이다.
