AI 시대, 인류에게 기회인가 위기인가 (The Age of AI: Opportunity or Crisis for Humanity?)

이상민

서울대학교불어교육과를졸업하고동(同)대학원에서불문학교육박사학위를받았다.(사)기독교세계관학술동역회실행위원및동역회기관지『신앙과삶』편집위원을맡고있다.프랑스사상가자크엘륄JacquesEllul을소개하는저서들을꾸준히펴내고있으며,프랑스에서출간된『오늘날의자크엘륄JacquesEllulaujourd'hui』에서'한국에서의엘륄운동의주동인물'로소개되었다.

저서로는『자크엘륄,시대를앞서간사상가』,『기술,선전,정치,혁명』,『세상속의그리스도인1권,2권』(공저)등이있고,번역서로는『기술체계Lesystèmetechnicien』,『잊혀진소망L'espéranceoubliée』,『이슬람과기독교Islametjudéo-christianisme』,『하나님은불의한가?CeDieuinjuste?』,『굴욕당한말Laparolehumiliée』(공역),『뒤틀려진기독교Lasubversionduchristianisme』(공역)등이있으며,편찬서로는『기초프랑스어사전』이있다.

책을시작하기에앞서


여는말을대신하여–장밋빛기대와엇갈린재앙과위험


제1부인공지능시대의도래

1장다양한분야에서의인공지능
1.일상생활및교육분야
∙일상생활속에서의인공지능기술
∙‘에이전트기반전자상거래’시대
∙인공지능기반교육용시스템과도구
2.보건의료및제약분야
∙보건의료분야에서의실용적접근
∙의료영상판독및진단용인공지능
∙홈헬스케어로봇의기능과작동원칙
∙인공지능기술을활용한신약개발
3.금융및법률분야
∙인공지능기술을활용한금융업
∙인공지능투자자문역로보어드바이저
∙생성형인공지능의활용과리걸테크

2장인공지능시대의쟁점
1.인공지능로봇과인간
∙인공지능로봇과피지컬인공지능
∙휴머노이드로봇과감정인식로봇
∙인공지능섹스로봇의등장과진화
∙인공지능로봇과인간의관계
∙인공지능로봇의법적지위와권리
2.트랜스휴머니즘과인간의미래
∙트랜스휴머니즘과뇌·컴퓨터인터페이스
∙트랜스휴머니즘의낙관적전망과희망
∙트랜스휴머니즘에대한철학적·기술적비판
∙트랜스휴머니즘에대한윤리적·사회적비판
3.인공지능예술과가상인플루언서
∙인공지능기술을활용한예술
∙창작의보완적동반자로서의인공지능
∙가상인플루언서의등장과활동
∙가상인플루언서의사회적·윤리적쟁점

제2부인공지능에대한비판적고찰

1장인공지능의부정적영향과결과
1.인공지능기술자체의문제
∙생성형인공지능의‘환각’현상
∙오픈소스의보안위협
∙자율주행자동차와적대적공격
2.인공지능기술의역기능과부작용
∙자율살상무기시스템과사이버공격
∙딥페이크와가짜뉴스
∙‘알고리즘·데이터’편향으로인한차별
∙생성형인공지능과의동반자관계
3.민주주의와포스트휴먼시대
∙‘디지털파놉티콘’과파놉티콘감시
∙민주주의에대한위협과부정적영향
∙새로운인간으로서의포스트휴먼
∙포스트휴먼시대의사회적·정치적문제
4.일자리감소와환경문제
∙노동환경의변화와일자리퇴출
∙인공지능기술로인한실업문제
∙대량실업으로인한사회적갈등
∙인공지능기술로인한환경문제

2장고전적기술철학자의고찰과경고
1.자크엘륄의기술사상과인공지능
∙‘기술담론’에대한비판
∙기술의자율성과인공지능
∙기술의양면성과인공지능
2.인공지능의한계와신성화된인공지능
∙인공지능의한계와관련된지적
∙인공지능의한계에대한반론
∙신성화된인공지능에대한비판
∙새로운신화로서의인공지능
3.한스요나스의책임윤리와인공지능
∙기술시대의윤리로서의책임윤리
∙인공지능과관련된책임윤리의지침
∙인공지능기술의위험요소와책임윤리
3장인공지능전문가와사상가의경고
1.스튜어트러셀과초인적지능
∙초인적지능의위험에대한경고
∙인공지능의위험을반박하는주장에대한비판
2.무스타파술레이만과인공지능기술억제
∙인공지능기술에대한규제와억제
∙인공지능기술의억제를위한단계
3.닉보스트롬과초지능인공지능
∙인류의생존을위협하는초지능인공지능
∙초지능인공지능을통제하는방법
4.유발노아하라리와쓸모없는계급
∙쓸모없는계급으로전락할수있는인간
∙진화된인공지능의위험에대한경고


제3부인간을위한인공지능

1장윤리적쟁점과인공지능윤리
1.인공지능과관련된윤리적쟁점
∙인공지능의딥러닝과‘투명성’
∙인공지능의편향성과‘알고리즘편향’
∙‘책무성’과‘감사가능성’
2.생명미래연구소와국제전기전자공학자협회
∙생명미래연구소의‘아실로마인공지능23원칙’
∙국제전기전자공학자협회의‘윤리적조율설계’
3.경제협력개발기구,유네스코,한국
∙경제협력개발기구의‘인공지능윤리원칙’
∙유네스코의‘인공지능윤리권고’
∙한국의인공지능윤리기준

2장인공지능관련법제도와국제협약
1.유럽연합의법제도
∙유럽연합의‘일반개인정보보호규정’
∙‘유럽연합인공지능법’의장점과특징
∙‘유럽연합인공지능법’의규제사항
2.미국,중국,한국의법제도
∙미국의‘알고리즘책임법’
∙미국의인공지능패권유지전략
∙중국의인공지능기술규제
∙한국의‘인공지능기본법’
3.인공지능관련국제협약과선언
∙‘히로시마인공지능프로세스’와‘브레츨리선언’
∙‘국제인공지능안전보고서’
∙인공지능관련공개서한과성명서

3장새로운인공지능시대를향하여
1.인공지능과인간의공존
∙인공지능으로인한재앙적위험
∙공존관계와협력적파트너십
∙신뢰할수있는인공지능
2.새로운인공지능을위한방향
∙인간의창의성과인간다움의특성
∙‘인공지능격차’로인한불평등과소외
∙‘인공지능디톡스’를향한발걸음
3.모두를위한인공지능생태계
∙인공지능과관련된행위주체별책임
∙인공지능생태계를위한‘참여적거버넌스’
∙지속가능한인공지능을위한방안



책을마무리하며


인공지능관련용어


인공지능관련자료


외국어약어


주(註)


참고문헌

AI충격을지나AI가일상이되고삶에스며드는단계로접어든지금,우리는이전과는전혀다른시대의문턱에서있다.인공지능은더이상먼미래의기술이아니다.이미우리의선택을돕고결정을유도하며교육과의료,금융과노동의구조를조용하지만근본적으로바꾸고있다.

이책은바로그변화의한가운데에서출발한다.지금이순간,세상은어떻게바뀌고있는지,그리고우리는이거대한흐름앞에서어떤선택을해야하는지를차분하고균형있게묻는다.

책은인공지능을단순한기술이아니라시대를재편하는힘으로바라본다.뉴스추천과자동완성같은일상적인기능에서부터의료진단과신약개발,금융의사결정과법률서비스에이르기까지인공지능은이미인간의판단과행동깊숙이개입하고있다.나아가개인비서에이전트와자동화된소비의확산은인간이직접하지않아도되는영역을빠르게넓혀가고있다.이러한변화는효율의문제가아니라인간의역할과의미자체를다시정의하는문제로이어진다.

기술이발전할수록새로운질문도함께생겨난다.우리는인공지능의판단을어디까지신뢰할수있는지,알고리즘의편향과통제문제를어떻게다루어야하는지,인간의일과가치는앞으로어떻게달라질것인지고민하게된다.이책은다양한전문가와사상가들의논의를바탕으로인공지능이만들어낼수있는가능성과위험을동시에조망한다.인공지능은인류에게가장큰기회가될수도있고,통제하지못할경우가장큰위기가될수도있다는사실을차분하게보여준다.

이책이강조하는핵심은기술자체가아니라방향이다.인공지능은인간을대체하는존재가아니라도구이며,그도구를어떻게사용할것인가는결국인간의선택에달려있다.기술이인간을이끄는것이아니라인간이기술을이끌어야한다는점에서,이책은윤리와제도,책임과공존이라는문제를함께제시한다.

인공지능에대한정보는넘쳐나지만,그것을하나의흐름으로이해하기는쉽지않다.이책은흩어진논의를정리하고지금벌어지고있는변화를구조적으로이해할수있도록돕는다.빠르게변하는시대속에서무엇을믿고어떤방향을선택해야하는지고민하는독자에게이책은분명한기준을제시한다.

결국이책이말하는것은단순하다.인공지능의미래는이미시작되었고,그미래의방향은아직결정되지않았다.그리고그방향을결정하는주체는기술이아니라인간이다.

이책은인공지능을이해하는데서멈추지않고,그시대를살아갈태도까지생각하게만드는책이다.