인공지능이 뽑은 반장 (동화로 배우는 인공지능 윤리)

허유선과학생들

글:허유선과학생들
동국대학교에서<인공지능시대의윤리>를강의한허유선선생님과이수업을들은김선일,김유빈,김원,김지영,박다은,우연주,이혜교,장예은학생이함께썼습니다.미래의주인공들에게어떻게하면인공지능윤리이야기를재미있게들려줄수있을지머리를맞대고이야기를만들었습니다.허유선선생님은‘다함께잘사는삶’에대해연구하는철학자입니다.동국대학교철학과에서칸트철학을전공하고강의와저술작업을통해‘철학하다’의재미와의미를안내하고있습니다.『인공지능윤리를부탁해』등을썼습니다.

그림:우지현
1972년12월북한산아래작은마을에서태어났다.숲과도서관을좋아하고,날마다그림을그리며살고있다.지은책으로『걸었어』,『울보바위』,『내가태어난숲』,『느릿느릿도서관』이있고,그린책으로는『수학도깨비』,『아빠와함께걷는문학길』,『매일매일힘을주는말』,『마고할미네가마솥』,『위기일발지구를구한감동의환경운동가들』,『송곳니의법칙』,『우리반채무관계』등이있다.

앞이야기
첫번째이야기_나만의선택을찾아서
두번째이야기_인공지능이뽑은반장
세번째이야기_운전은내가할게
뒷이야기

‘나의선택은오로지나만할수있다는걸잊지말기!’
‘AI에게차별을가르치지않는세상이오기를!’
‘자율주행차가모두에게아름답고행복한여행을선물하기를!’

바야흐로인공지능시대,사람이하던일을인공지능이자동으로해줘서편리해졌지만,우리가잘살기위해만든인공지능이오히려우리의삶을망가뜨릴수도있다.그런증거는셀수없이많고나라안팎을가리지않는다.실제로영국에서는인공지능이부자동네학생과가난한동네학생을점수로차별해서큰사회문제가되기도했다.바로이것이우리가인공지능윤리를배워야하는까닭이고어린이도예외는아니다.기술을만드는것은결국사람이기때문에,우리가지금어떤선택을하는지에따라기술의미래도바뀔것이라는희망은그래서필요하다.

첫번째이야기〈나만의선택을찾아서〉에서는인공지능추천시스템에만의지하다보면스스로생각해서결정하는능력이약해질수있음을그렸다.아이들은오늘뭘먹을지도,취미생활도,심지어는친구를사귀는일까지도스스로결정하지않고인공지능의추천에맡긴다.그러다가체육대회참가종목을정할때‘달리기는키큰아이가빠르고통통한아이는느릴’거라는인공지능의편향된판단을그대로믿을위기에놓인다.하지만아이들은자신만의타임캡슐을열어보면서알고리즘의추천만믿고따른다면다른사람을제대로이해하고사귀는능력을잃게될수있음을깨닫게된다.

두번째이야기〈인공지능이뽑은반장〉에서는인공지능이사람을평가해도되는지에대하여진지한물음표를던진다.새학기가시작되자선생님은투표대신인공지능에맡겨반장을뽑자고제안한다.인공지능은사람과달리마음의영향을받지않으니까더믿을만하고,누구에게나기회가주어지는만큼더공정하다는생각에아이들도환영한다.하지만아이들은이내인공지능의결정을믿을수없게된다.인공지능은남자가여자보다리더십이뛰어나다는잘못된결정을내리고,큰학원에다니는아이들이성적도좋을거라며점수로아이들을차별하기도하고,민감한개인정보를허락없이사용해서아이들을당황하게한다.마침내아이들은‘인공지능은우리에대해모르는게많은것같다’는의문을가지고우리반만의인공지능사용규칙을정하기에나선다.

세번째이야기〈운전은내가할게〉에서는‘기술’만큼이나중요한‘안전’과‘제도’에대해이야기한다.만약자율주행차가사고를피할수없는상황에놓였다면어떤판단을내려야할까?한쪽에는어린이가있고다른한쪽에는노인이있다면자율주행차는누구를우선보호해야할까?한쪽에는장애가있는사람,다른한쪽에는장애가없는사람이라면?이때누구는피하고누구는다치게하는것이과연공정하다고할수있을까?실수로하늘나라감옥에갇히게된아이들의이야기를통해자율주행차가모두에게도움이되는기술이되려면어떤기준과규칙이필요한지알게된다.


*인증유형:공급자적합성확인