인공지능과 윤리 (개정판)

김효은

한밭대학교인문교양학부조교수이며,과학철학자,실험철학자다.국제전기전자기술자협회(IEEE)인공지능윤리이니셔티브ExtendedReality분과위원으로AI윤리지침작성작업에참여하고있다.국내에서최초로인공지능윤리교과를개설하여운영중이다.세인트루이스소재워싱턴대학교의철학ᐨ신경과학ᐨ심리학프로그램(PNP,PhilosophyᐨNeuroscienceᐨPsychologyprogram)과정에서인지과학석사,이화여자대학교에서의식연구로박사를마치고,뉴욕대학교철학과와듀크대학교MadLab에서객원학자,고등과학원초학제연구단주니어펠로를지냈다.의식,신경상관자,지각에대한이론을기반으로도덕판단의본성에대해실험철학방법으로연구하고있다.한국인지과학회편집위원,한국과학철학회연구위원,아시아태평양과학철학연합회(APPSA,AsiaᐨPacificPhilosophyofScienceAssociation)운영위원을지내고있다.

01왜인공지능윤리인가
02로봇은전자인격체인가
03알고리즘편향과디지털공평성
04투명성과설명가능성
05책임과책무성
06뇌?컴퓨터인터페이스와정신의경계
07설계자,제작자,사용자윤리
08하향식인공도덕성구현
09상향식인공도덕성구현
10인공도덕성과인간도덕성

AI,윤리세워야기술과비즈니스가능하다

인공지능은인간에게유용한조력자로태어났다.하지만인공신경망개발과신경네트워크알고리즘의발전등성장과정을거치면서인간을지배하는결과로이어질지모른다.자율시스템으로서인공지능에는정보보안을넘어선윤리적문제들이있기때문에윤리적문제들을미리예측하고논의해방향을설정하지않으면사회적문제가발생할수있다.AI시스템을사용하는로봇은규칙에따라작동하는단순기계가아니다.‘의사결정’을하는‘자율시스템’이다.자율시스템은데이터에서규칙이나패턴을파악해낸다.데이터를스스로학습해패턴을인식하고결정을내린다.그래서바둑도두고그림을그리고작곡도하고시나소설도멋있게쓰는것이다.문제는AI가고상한영역을넘어위험한시도를하는데있다.자율주행자동차에서부터군사용까지확대되면로봇의의사결정이인간생명의존엄성을위협할수있다.

김효은저자는“인공지능시대이전에는윤리를도외시해도기술발전이나생산으로얻는이익에큰타격을받지않았”으나“인공지능시대는윤리문제를해결해야만기술발전과이익확보가가능하다”고했다.한예로“인공지능무인자동차는특정교통상황과관련된윤리적문제를해결해야만최종목표,곧완전한자율주행이가능한자동차로완성된다”는것이다.결국“윤리적상황의해결이기술의완성을이끌고이것이다시비즈니스의지속가능성을보장한다”.과거에는기술발전과비즈니스가윤리와갈등관계에있었던반면,인공지능의발전은윤리를고려해야만기술발전과비즈니스가가능한사회로우리를이끌고있는것이다.

머신러닝디프러닝덕택으로AI는인간이생산한방대한자료를순식간에분석해학이시습한다.머지않아인간과똑같은수준의지능과감정을가진기계나컴퓨터의출현도가능할지모른다.인간세계의흔들리는윤리의식이AI윤리를어떻게바로세울지걱정스럽다.