윤리적 AI로봇 프로젝트

변순용

서울교육대학교교수

서문

1부AI로봇의윤리와AI로봇에대한윤리

제1장로봇윤리의이론적기초
제2장로봇윤리헌장의필요성과내용
제3장인공지능로봇윤리의4원칙에대한연구
제4장인공지능로봇과인간의관계에대한윤리적성찰과전망

2부윤리적AI로봇을위한시도

제5장인공적도덕행위자(AMA)개발을위한윤리적원칙개발
-하향식접근(공리주의와의무론)을중심으로
제6장10세아동수준의도덕적인공지능개발을위한예비연구
-인공지능발달과정을중심으로
제7장인공적도덕행위자(AMA)프로그래밍을위한논리연구
제8장모럴튜링테스트(MoralTuringTest)개발의이론적토대
제9장10세수준인공지능의도덕성판단적용기준에관한연구
제10장10세아동수준의도덕적인공지능의도덕성판단적용기준에관한기초연구

3부AI로봇의현실적인윤리적쟁점

제11장자율주행자동차의윤리적가이드라인에대한시론
제12장자율주행자동차에대한한국형윤리적가이드라인
제13장인간,기술그리고건축:AI로봇기술의변화와건축서비스산업
제14장로봇과인공지능시대의시민윤리와도덕교육적함의
-인공지능형로봇의활용을중심으로-
제15장수술로봇의윤리적쟁점
제16장의료용케어로봇과환자간의서사와공감관계의가능성
제17장소비자관점에서본AI로봇의윤리문제

알파고의등장으로앞으로사라지게될직업군과각광받을직업군에대한예측이제시되면서인공지능시대로우리의불안한심정이드러난다.우리는자율주행자동차의운행으로인해새로운변화에대한호기심을드러내면서도교통사고에대한의문을제기한다.이러한의문은,자율적인인간이차량운행상황에서판단하는사고구조를분석하고이것을형식화하여판단을내릴수있는사고모듈을개발하여자동차에탑재한다면자율주행자동차는자동성이라고판단하기어려워지기때문이다.운전자의운전습관에대한정보를학습하여자율주행운행에반영한다면단순한자동화로보기힘들어질것이다.
그러나자동성과자율성을동일한범주에서이해하는것에대한적절성보다AI로봇기술이복잡한자동화과정을거치면서자율성의외양을갖추는데에주목한다면인간이허용한범위내에서로봇은위임된자율성을가질것이다.위임된자율성을가진로봇은‘행위자’로서행위자의자격(personasagent)으로어떤권리를부여받으며행위와관련된책임을어떻게부담할수있을까.
AI로봇의도덕적권리문제는도덕적행위능력(자율성)과도덕과관련된이해관심이라는주제로논의해볼수있다.앞으로AI로봇이개발하고변화하면서도덕적‘행위능력’자에서‘도덕적행위’능력자로변할수도있다.
최근IEEE에서는인공지능이나로봇이라는용어대신에자율적/지능적시스템(autonomous/intelligentsystem,A/IS)이라는표현을채택하고있는데,AI로봇윤리는AI로봇의인공성(Artificiality),즉인간의설계와제작에의해생성되고속성이결정된산물이라는것과그럼에도불구하고AI로봇이현상적으로는행위주체성내지자율성(agencyorautonomy)을가지고있는것처럼보인다는이중성의인식에서부터시작된다.인공지능시대에우리는AI로봇의윤리적문제를고려해보지않을수없다.
이책의1부에서는AI로봇의인식,결정,실행의기준과관련된초기에아시모프류의윤리원칙의형태로제시되었다가최근에제기되는AI로봇에대한윤리,즉AI로봇의설계나제작,사용을위한윤리적가이드라인의형태로제시되는경향을다룬다.
2부에서는AI로봇을위한윤리모듈을개발하기위해AI로봇의도덕성유형을구분한다.AI로봇의도덕성유형을구분하고앞으로제기될윤리인증제를대비하기위해모럴튜링테스트(MoralTuringTest)작업을위한이론적토대를마련한다.
끝으로3부에서는자율주행자동차,수술로봇,의료용케어로봇등과관련된다양한문제들을다룬다.