그림으로 쉽게 배우는 AI 사용설명서 : 인공지능으로 무엇을 할 수 있을까?

에마아리사

저자:에마아리사

도쿄대학미래비전연구센터준교수.2017년부터국립연구개발법인이화학연구소혁신지능통합연구센터의객원연구원을맡고있고,2012년부터국립연구개발법인산업기술통합연구소정보·사람공학영역연구지원고문을역임하고있다.인공지능학회윤리위원회위원이자일본딥러닝협회이사다.2012년도쿄대학대학원종합문화연구과박사과정을수료했다(학술박사).전공은과학기술사회론(STS)이다.주요저서로『AI사회의행보』(2019)가있다.

머리말

1장다양한미래상
1.1미래사회상상하기
1.2AI로인한트레이드오프
1.3인간과AI의관계
1.4AI와가치의세계지도
1.5AI와미래비전
1.6AI가불러오는과제
1.7이책의개요도

2장AI기술의기초
2.1AI를뒷받침하는기술과환경
2.2AI의역사와겨울
2.3학습하는AI가할수있는일
2.4기계를학습시키는방법
2.5AI를학습시키는방법
2.6뇌구조를응용한심층학습
2.7인공신경망에서심층학습으로
2.8AI연구분야의확대

3장AI의기술적과제
3.1AI시스템만들기:요리에빗대어보기
3.2AI의품질관리
3.3설명가능성과투명성향상하기
3.4AI에상식과지식도입하기
3.5견고한AI만들기
3.6생성적AI
3.7전이학습
Column데즈카오사무프로젝트
3.8AI의민주화

4장AI가만들어낸사회적과제
4.1어리버리AI탐정의사건수첩
4.2문제가발생하는이유
4.3데이터세트편향문제
4.4알고리듬과사회문제
Column트롤리문제
4.5프로파일링
4.6사회를분단하는AI
4.7페이크와혐오발언
4.8개인정보보호와사생활권
4.9보안과안전

5장기술과사회의디자인
5.1AI시스템만들기:평가와조정
5.2인터페이스디자인
5.3AI의개발자와평가자
5.4사람다움을추구하다
5.5사람다운대화
5.6사람다운외모와동작
5.7AI시스템설명하기
5.8인간·기계의생사디자인

6장사회적과제재검토
6.1AI와함께하는생활그리고일
6.2일과과업
Column과업분담워크숍
6.3기계에맡겨야할일
6.4개량과개혁
6.5데이터활용의과제
6.6AI거버넌스
Column코로나바이러스와데이터거버넌스
6.7인간의관여와리스크대응
6.8책임과신뢰성
6.9이중용도와군사이용

7장우리가할수있는일
7.1어떤미래로나아갈까
7.2포섭과배제의디자인
7.3설계사상과바이디자인
7.4우리가할수있는일
Column리스크체인모델

맺음말
참고웹사이트
찾아보기

기술적배경부터AI의명과암까지
미래사회를위한인공지능AtoZ가이드

일상생활곳곳에인공지능(artificialintelligence,AI)이사용되지않는곳을찾아보기가어려울만큼AI기술은성공적으로우리생활에안착했다.우리는행정,의료,교통등여러분야에서그결과물을사용하며편리함을누린다.그러나AI가불러오는문제들도적지않다.AI로만들어낸페이크동영상으로심각한범죄가일어나기도하고,미국에서는재범률을판단하는AI가흑인의재범률을실제보다높게예측해문제가되었다.AI는완벽하거나‘똑똑’하기만한기술이아니다.개발자를비롯한관계자뿐아니라일반사용자역시반드시AI라는기술을이해하고그명과암을인식할필요가있다.

이책은AI와함께하는사회를살아가는독자들을위한단한권의가이드다.AI의기술적인배경과역사,나아가AI가불러오는사회적문제와대안까지담았다.도쿄대학미래비전연구센터준교수,인공지능학회윤리위원회위원을역임하고있는저자에마아리사는AI와사회에관한예리한통찰을바탕으로우리가AI에관해이해해야할내용들을간결하게전달한다.사용자도개발자도이시스템을구성하는행위자라는관점을바탕으로,AI와관련해세계적으로어떤논의가진행되고있는지,이기술이사회를어떻게바꾸며또어떤문제점이있는지알아보자.세상에관한이해력이훌쩍자라날것이다.

AI가발생시키는사회적과제에어떻게대처할까?
AI라는렌즈로들여다보는우리사회의문제와편견

이책은AI와사회가적극적으로상호작용하는관계임을강조한다.AI는기존데이터를기반으로인식·예측·생성한다.그런데이데이터는미래가아닌‘과거’의인간활동을통해만들어진것일수밖에없다.AI의인식및예측에편향이존재할수밖에없는이유다.따라서AI의맹점을사람이잘파악하고이에기술적으로,사회적으로대처하는것이중요하다.기술적인대처로는,AI가시중에나와운용되는중에도상황에맞게수시로AI를업데이트하는것이있다.AI의판단을무비판적으로따르지않도록AI에설명가능성을도입하는것도중요하다.

사람의생명이걸린교통이나의료시스템에도AI가상용화될가능성이크므로,환경변화에유연하게대응하고예측하지못한상황에도대응할수있는견고성을높이는것이관건이다.사회적으로는우리의무의식적인편견을깨닫고다양한이들을AI논의에끌어들여AI의편향을줄여야한다.나아가AI가내놓는결과를여러전문가와함께모니터링하고오류를수정할수있어야한다.이책에따르면AI는인간사회편견을그대로반영하는거울이다.이는AI시스템의맹점이기도하다.그러나반대로생각하면AI를통해거꾸로우리사회의편견을깨달을수도있다.AI와의상호작용을통해인간사회를더나은방향으로만들어갈방법을탐구해보자.

개발자와사용자가함께구축해나갈AI거버넌스
사회구성원으로서우리가할수있는일은무엇일까?

AI를개발하고사용자에게제공하기까지수많은이들이관여한다.관계자가늘어날수록각자의책임범위가모호해지기에,각자어떤역할을맡아야하고훗날사건사고가일어났을때어떤책임을질지검토해야한다.예컨대AI모델은정밀도와견고성부분을책임져야하고,서비스제공자는공정성과사생활보호를보장해야한다.이용자와소비자역시AI를올바르게사용해야하고,기본적인문해력을갖출필요가있다.AI가상용화되는것은사회전체의변화다.그변화를받아들여야하는상황에서개발자를비롯한관계자도,사용자도이기술에관해더잘이해해야부작용을최대한줄일수있을것이다.우리는AI에많은기대를걸지만그것이단지기술일뿐이라는사실을잊지말아야한다.결국사회가어떤방향으로나아가야할지비전은인간이세워야한다.이책의설명을차근차근따라가다보면,AI기술과사회가어떤목적을가지고나아가야할지각자의관점을가질수있을것이다.다양한사람들과그관점을나눠보고미래에관한진지한이야기를나눌수있기를바란다.