신뢰할 수 있는 인공지능 (인공지능을 사회에서 받아들이기 위한 조건)

한상기

서울대학교컴퓨터공학과를졸업했고카이스트에서인공지능분야중지식표현에관한연구로박사학위를받았다.삼성전자전략기획실과미디어서비스사업팀에서인터넷사업을담당한후2003년다음커뮤니케이션전략대표와일본법인장을역임했다.두번의창업을했고카이스트와세종대학교교수를거쳐2011년부터테크프론티어대표를맡고있다.
현재기업을위한기술전략컨설팅과정부정책자문과연구를하고있으며기술과사회에관한강연을하고있다.인공지능윤리를위한기술프레임워크,신뢰가능한인공지능등에관한연구과제를수행했다.『AI타임스』등여러매체에기술관련칼럼을기고하고있다.공공영역에서는인공지능데이터세트구축을위한인공지능데이터로드맵총괄기획위원,인공지능그랜드챌린지기획위원등으로활동하고있다.
주요저서로는『한상기의소셜미디어특강』이있다.그외주요공저로는『인공지능은어떻게산업의미래를바꾸는가』『4차산업혁명과미래사회』『초연결시대인간-미디어-문화』『2019미래를읽다』등이있다.

들어가는글

1장인공지능의신뢰성

1.왜인공지능의신뢰성이중요한이슈인가

2.우리가주목해야할원칙과기준은무엇인가
아실로마23원칙/유럽연합집행위원회의가이드라인과프레임워크/경제협력개발기구의인공지능원칙/유럽연합의인공지능법초안과추가전략들/그외기관들이만든원칙또는선언문/국내의접근

3.주요테크기업은신뢰성에어떻게대응하는가
구글의책임감있는인공지능정책/마이크로소프트의인공지능원칙/IBM의신뢰할수있는인공지능/페이스북의책임감있는인공지능/국내기업의경우:카카오,네이버,삼성전자

4.마치며

2장인공지능의공정성

1.왜내얼굴은잘인식하지못하는가

2.왜언어처리에서불공정성이생기는가

3.왜나에대한인공지능평가가불공정한가

4.인공지능은감시사회를만들것인가

5.주요테크기업은공정성에어떻게대응하는가

6.마치며

3장인공지능의윤리성

1.철학,인지과학,심리학에서는어떻게논의되고있는가

2.학자들의인공지능윤리연구는어떻게되고있는가
초기의연구들/윤리적딜레마/개별적윤리결정/집단적윤리결정

3.인공지능윤리연구의주요그룹은무엇이있는가

4.마치며

4장인공지능의투명성과설명가능성

1.왜인공지능의투명성이필요한가

2.인공지능의투명성연구는어떻게되고있는가

3.주요테크기업은투명성에어떻게대응하는가

4.마치며

5장인공지능의견고성과안전성

1.왜적대적머신러닝이위험한가

2.왜자율주행차는사고를일으키는가

3.로봇이일으키는사건들은무엇이있는가

4.딥페이크의문제는무엇이고어떻게대응해야하는가

5.주요연구그룹은안전성연구를어떻게하는가

6.마치며

나오는글
미주

인공지능의신뢰문제는미래의일이아니라지금의일이다!
“인공지능!인공지능!인공지능!”
모두가앞다투어미래를이끌어갈핵심기술이라고하면서인공지능개발에박차를가하고있다.모든산업에인공지능이활용되고있다.그런데그러면서중요한한가지질문이생겼다.“그런데그인공지능을신뢰할수있나요?만약그인공지능을신뢰할수없다면어떻게되는거죠?”
지금인공지능신뢰문제는곳곳에서일어나고있다.예를들면얼굴인식이인종과성별의차이로됐다거나금융,복지,채용에서프로그램에의한판정이자신에게부당하게처리됐다고여겨도그과정이제대로설명되지못하고있다.왜네이버나유튜브에서뉴스나영상콘텐츠를추천하는지,왜내가보는검색결과는다른사람과다른지,과연인공지능을얼마나신뢰할수있는지의심하기시작한것이다.자율주행이나의료진단,치료방식제안의경우인공지능이제시하는결정이윤리적으로올바르고사회적으로용납될수있을것인가하는딜레마에빠질수도있다.
따라서이제우리는인공지능의원칙은그만얘기하고실제적용할기술을통해신뢰문제를해결해야한다!데이터와알고리듬등인공지능의신뢰성이기술적으로도구현돼야한다.이미해외에서는이미인공지능의신뢰성과관련해학계,기업,정부등각분야에서다양한논의가이루어지고있다.그러나국내에인공지능신뢰성과관련해다학제적이고종합적인논의가제대로이루어지지못하고있다.그런점에서이책은국내최초로인공지능의신뢰성에대한다학제적이고기술적구현에관한논의의출발점이될모멘텀을제공하고있다.

인공지능의공정성,윤리성,투명성과설명가능성,견고성과안전성을논의하자
이책은여러인공지능원칙을‘신뢰’라는하나의주제로묶었고다시4개의주제인인공지능의공정성,윤리성,투명성과설명가능성,견고성과안전성으로나누어심도있게논의한다.
총5장으로구성돼있다.우선1장에서는왜인공지능의‘신뢰성’이중요한이슈인지,학계와산업계가신뢰성과관련해서어떤노력을하는지,우리가주목해야할주요원칙과가이드라인은무엇인지,주요기업의접근방식과현황은어떤지다루고있다.
2장에서는지난몇년동안사회적으로가장예민한이슈가된‘공정성’문제를다루고있다.현재기업들이가장민감하게반응하는주제로서불공정을완화하기위해개발된다양한도구와기술을소개하고있다.공정성은사회구성원이동의하는공통기반이무엇이고어떤지표가기준인지에따라매우다양한결과를보일수있는주제이다.
3장에서는인공지능의‘윤리성’문제를다루고있다.이는가장오래된주제이며접근하기쉽지않은문제이다.어떤것이윤리적으로올바른판단인가를누가어떻게정할것인가와함께과연인공지능이도덕적판단을하는개체가되는것이맞는가를동시에질문해야하기때문이다.윤리적인인공지능에는아주다양한차원의이슈와여러연구결과가있다.하지만아직실제로활용할수준은아니다.앞으로우리가무슨연구를더해야하는가를함께고민해보고있다.
4장에서는인공지능시스템의알고리듬과모델의‘투명성’문제를소개하고있다.여기에서의투명성은기업에서주요의사결정의투명성이나정부또는법집행기관과의관계에서의투명성과는조금다른개념이다.투명성에서가장문제시되는설명가능성기능은우리가인공지능을사용하는영역에따라필수적일수도있고아닐수도있다.하지만많은사람이직접접하는금융,채용,공공서비스영역에서는매우중요한기능이다.따라서이연구는매우활발하게이루어지고있다.앞으로인공지능서비스에투명성을포함하지않는다면기업이나기관에서서비스로채택되기쉽지않을것이다.
5장에서다룬‘견고성과안전성’은우리가사용하는인공지능이가진취약성이다.인공지능의판단을어디까지믿을수있으며사용자들의안전과시스템보안을위해어떤상황이이루어지는지소개하고있다.인공지능시스템이아주간단한속임수로도잘못된판단을할수있다는것이알려지면서국방과같은미션크리티컬missioncritical분야에서매우민감한주제가됐다.또한자율주행차처럼사람의안전문제가중요한영역에서인공지능의판단이얼마나안전한지와이를검증하기위한노력에대해다루고있다.