인공지능의 윤리학

이중원

서울대학교물리학과를졸업하고,동대학원에서석사와박사학위를받았다.현재서울시립대학교철학과교수로재직중이다.

1부인공지능의윤리적쟁점들
1장자율주행자동차를어떻게규율할것인가_고인석
2장섹스로봇의윤리_이영의
3장군사로봇의윤리:전쟁에서의기술적위임과책임의문제_천현득

2부윤리적인공지능로봇만들기
4장인공적도덕행위자설계를위한고려사항:목적,규범,행위지침_목광수
5장윤리적인공지능로봇:구성적정보철학관점에서_박충식
6장인공지능의도덕적행위자로서의가능성:쉬운문제와어려운문제_이상욱

3부인공지능과의공존의윤리학
7장책무성중심의인공지능윤리학모색:동·서철학적접근_이중원
8장인공지능,또다른타자_신상규
9장인공지능시대와동아시아의관계론_정재현

‘포스트휴먼시대의인공지능철학’시리즈제1권『인공지능의존재론』(2018)의연구성과를바탕으로하는후속연구작『인공지능의윤리학』이출간되었다.이번권에서는왜인공지능의윤리학을논했는가?전통적으로윤리학이라하면인간의윤리학,엄밀히말해도덕적사고와행위의유일한주체인인간의윤리학이었다.인간외의타자들은도덕적주체로서가아니라도덕적대상으로만간주되었다.인간만이도덕성과자율성그리고자유의지를지니고있고따라서인간만이행위에대해책임질수있다고보았기때문이다.하지만자기스스로학습을통해자율적으로사고하고행동할줄아는새로운존재자인인공지능(로봇)의등장은다음과같은질문들을계속해서던져주고있다.인공지능(로봇)은전통적으로인간에게만귀속되었던윤리적행위자의지위를가질수있는가,행위자가되기위한전통적요건은이성,의식,지향성,자유의지등인데인공지능은전통적인의미의행위자가갖는이러한요건들을충족하는가,아니면이제인공지능과같은새로운기술적존재자를포괄할수있는새로운행위자개념이필요한가,인공지능과공존하는세상을상상한다면전통적인의미의행위자/피동자구분을넘어서는새로운도덕적존재자에대한논의가필요하지않을까등등.이러한문제들은인공지능의윤리학에매우중요한화두들이다.
이책은이러한문제의식아래총3부로구성되며,각부별로내용을간략히소개하면다음과같다.

1부인공지능의윤리적쟁점들에서는일상의중요한몇가지구체적인사례를통해인공지능이제기하는윤리적도전이무엇인지를확인하고그에답하고자했다.현재또는가까운미래에윤리적으로가장민감한문제를던질사례로인공지능을갖춘자율주행자동차와섹스로봇그리고자율형군사(킬러)로봇을선택했다.이것들은몸체를지닌로봇이지만인공지능이실제로조정하고있고,또한다양하면서도일반적인그렇지만매우심각한윤리적문제들을제기하고있다.그윤리적문제들이무엇인지구체적으로분석하고자했다.
1장자율주행자동차를어떻게규율할것인가(고인석)는자율주행자동차가현실화되기위해선결되어야할규범적문제들을다루었다.2장섹스로봇의윤리(이영의)는인간과섹스로봇간의관계를바탕으로섹스로봇의정체성과함께섹스로봇자체의윤리적정당성에관한문제를다루었다.3장군사로봇의윤리:전쟁에서의기술적위임과책임의문제(천현득)는KAIST의보이콧사태로우리에게잘알려진자율형군사(킬러)로봇의윤리적문제들을다루었다.
2부윤리적인공지능로봇만들기에서는1부에서제기된윤리적문제들에대응하기위해윤리적으로사고하고행동하는윤리적인공지능로봇을만들방안을모색했다.이를위해먼저윤리적인인공지능로봇을만들기위해고려해야할가치또는규범들이무엇인지를확인하고,이렇게확인되고검토된규범들을갖춘윤리적인인공지능로봇을만들방안으로성찰의계산모델을제시했다.나아가이러한능력의구현이인공지능을진정한의미의도덕적행위자로만들수있는지,그것이얼마나어려운문제인지에대해숙고하고자했다.
4장인공적도덕행위자설계를위한고려사항:목적,규범,행위지침(목광수)은인공지능과관련된도덕논의중현재가장많은연구가진행되고있는영역가운데하나인인공적도덕행위자(artificialmoralagent:AMA)설계를위해서고려해야할것들이무엇인지를다루었다.5장윤리적인공지능로봇:구성적정보철학관점에서(박충식)는윤리적인공지능로봇을위한핵심적인아이디어로성찰의계산적모델을다루고있다.6장인공지능의도덕적행위자로서의가능성:쉬운문제와어려운문제(이상욱)는인공지능과관련된윤리적쟁점을해결하는실천적방안이어떤방식으로추구될때가장효과적인지를탐색했다.‘쉬운문제’와‘어려운문제’를구별하고두종류의문제를순차적으로(적어도개념적으로라도)다루는방식이다.
3부인공지능과의공존의윤리학에서는인공지능의도덕적지위에대한고찰과함께인공지능과의공존을상상하기위한새로운윤리학의가능성을검토했다.이를위해전통적인인간중심의책임개념에바탕을둔서구근대윤리학의한계를지적하고,인공지능에게책임은아니지만어떤행위에대한설명의책무를부여할수있는가능성을검토했다.또한전통적인의미의행위자나피동자개념을재검토하여인공지능을또하나의타자로서볼수있는가능성을살펴보았다.서구와는다른지적전통을발전시켜온동양적사유에서새로운가능성을찾아보고자했다.
7장책무성중심의인공지능윤리학모색:동·서철학적접근(이중원)은인공지능에게도결과에대한책임을물을수있는방안으로인간중심의책임개념대신행위자중심의책무개념에대해탐색했다.8장인공지능,또다른타자(신상규)는인공지능로봇을중심으로인간-기계사이의정서적상호작용및감정적관계의가능성을탐색하고그러한경험을해석하고의미화할수있는한가지접근방법을모색하고있다.9장인공지능시대와동아시아의관계론(정재현)은인공지능의오작동내지잘못된행위에대한책임이어디에있는가의문제를다룸에있어서동아시아의관계론이새로운접근방식을제공함을강조하고있다.

인공지능이우리와함께생활하는경우발생할수있는다양한윤리적인문제들에대한인지는이에대한제도적인차원의대응책을선제적으로마련하는데충분히기여할수있다.또한단순히알아서척척잘하는똑똑하기만한인공지능의연구·개발이아니라,시작부터윤리적인가치규범에의해판단과행동이통제받는도덕적인공지능을연구·개발하는것은인공지능으로인한사회윤리적문제를최소화하는좋은대안이될수있다.궁극적으로인간개체중심의윤리학에머물지않고관계론적관점에서인간과인공지능의긴밀한관계에바탕한윤리학이등장한다면,이는바로공존의윤리학으로서인공지능시대에필요한미래의윤리학이라는시대적의의를지닐것이다.하지만이책은아직까지인공지능의‘윤리학’이라할만큼완성된것은아니다.엄밀히말한다면‘윤리학의기초’에해당한다고말할수있다.윤리학을구성하는데필수적인(인간이든인공지능이든)행위자의도덕적지위혹은본성에관한논의와이를지지해줄수있는기존의윤리이론들에대한고찰은어느정도이루어졌지만,관계론적관점에서새로운윤리학이론을체계적으로구성한것은아니기때문이다.이책의출판을계기로새로운인공지능의윤리학에관한더풍요로운논의들이지속적으로이루어지길기대해본다.