왜 AI에겐 우리가 필요한가

왜 AI에겐 우리가 필요한가

$19.50
Description
AI 시대의 비전, 기술 혁신의 역사에서 길을 찾다!
AI의 미래를 바꾸고 우리의 미래를 구할 수 있는 건, 바로 우리 인간이다
인공지능은 우리 시대의 가장 혁신적 기술이다. AI의 위상이 높아짐에 따라 이 기술이 정말로 무엇을, 그리고 누구를 위한 것인지 따져볼 필요성도 커지고 있다. 베리티 하딩은 이 시급한 질문에 답하고 AI가 그 가능성을 실현하도록 우리가 주도권을 쥐는 것이 중요하다고 주장한다. 아울러 20세기 세 가지 혁신 기술(우주 경쟁, 체외수정, 인터넷)의 역사와 거버넌스를 통해 민주주의 사회의 수많은 시민이 인공지능의 미래를 형성하는 데 적극적인 역할을 할 수 있으며, 또 그렇게 해야 한다는 점을 분명히 보여준다.
과학기술과 정치의 최전선에 선 내부자로서 자신의 시각을 공유하면서 하딩은 AI의 출현을 종종 원자폭탄의 등장에 비유하는 지배적 서사를 거부한다. 역사를 되짚어볼 때, 민주적으로 결정된 가치가 AI의 의도를 평화적으로 이끌 수 있는 길, 즉 한계를 수용하고 이익이 아닌 목적에 이바지하며 사회적 신뢰에 단단히 뿌리 내린 미래로 나아갈 길이 있음을 설파한다.
저자

베리티하딩(지은이),조미현

저자:베리티하딩(VerityHarding)
인공지능과공공정책분야에서세계적으로인정받는전문가로,〈타임〉이선정한AI분야가장영향력있는인물100인중한사람이다.현재케임브리지대학교베넷공공정책연구소AI및지정학프로젝트디렉터이며,지저스칼리지인텔렉추얼포럼수석연구원이다.10년동안알파벳에서근무했으며,그후딥마인드의공공정책글로벌책임자로일했다.2017년회사의연구및윤리부서DMES(DeepMindEthics&Society)와비영리다중이해관계자조직인‘AI에대한파트너십(PartnershiponAI)’을공동설립했다.2018~2019년에는G20이서명한최초의AI원칙을개발한OECD의AI전문가네트워크일원이었다.유럽의구글보안정책책임자,영국부총리닉클레그의특별고문으로일하기도했다.옥스퍼드대학교에서현대사를전공했으며,하버드대학교예술과학대학원연구원을지냈다.

역자:조미현
서울대학교언론정보학과를졸업하고,영화잡지〈월간키노〉기자로일했다.옮긴책으로《자본없는자본주의리부트》《자본없는자본주의》《소크라테스구하기》《지식의헌법》《지구오염의역사》《디지털화폐》《꿀벌의숲속살이》《불평등의역사》《무신론자와교수》《마음의혼란》등이있다.

목차


머리말
1그림자자아
2평화와전쟁:우주탐사와유엔우주조약
3과학과조사:체외수정과워녹위원회
4목적과이윤:9·11이전의인터넷
5신뢰와테러:9·11이후의인터넷
결론:역사의교훈

감사의글

참고문헌
찾아보기

출판사 서평

포괄적용어로서AI

AI를둘러싼불안과매혹이공존하는것으로볼때,급변점에도달했다고할수있다.표현만해도이전에는틈새학문분야에국한되었던‘인공지능’또는‘AI’란말이이제는컴퓨터과학의수많은기술과제품과서비스를설명하는포괄적용어로널리사용된다.체스게임의모든규칙과전략을코딩하지않고도수백만가지체스게임을학습함으로써체스두는방법을익히듯컴퓨터프로그램이명시적으로프로그래밍하지않아도작업을수행할수있게하는방법을말한다.또한‘AI’란용어는챗GPT(ChatGPT)같은생성형모델부터안면인식프로그램이나심지어받은편지함에서귀찮은스팸메일을필터링하는것같은최첨단알고리즘에이르기까지특정한기술역량을한마디로요약하는데도사용된다.데이터가어떤것이든,제품이어떤기능을수행한다고표방하든,방대한양의데이터에서패턴을매칭하는것도AI라부른다.제품과목표를차별화하기위해일부에서는‘AGI’,즉범용인공지능(artificialgeneralintelligence)을거론한다.상이한과제사이에학습된지식을전달할수있고전분야에서잠재적으로인간의인지능력을뛰어넘을수있는한층똑똑한AI프로그램을가리킨다.여기서‘초지능(superintelligence)’‘신과같은AI’등의표현이파생했다.이제AI는더놀라운작업을완수하는갈수록더똑똑한소프트웨어를의미하기에이르렀다.

그러나AI는마법이아니며,불가피하지도않다.그것을구축하는것은인간이고,그모든장점과결함은인간이제공한다.그것은선택이며,그것을만들고누리고규제하는사람들의기분·가치·정치에따라내려지고취소될수있는일련의결정이다.아주현실적인측면에서봤을때,그것은새롭지도않다.역사에는어떻게구축하고사회와그지도자들이어떻게대응하느냐에따라큰기쁨을가져다줄수도,큰피해를끼칠수도있는기술사례가얼마든지있다.우리가AI의발전방향을선도할수있다는뜻이다.

AI를사회에도입하는데더다양한집단,더많은사람이참여하는것이중요하다

AI는강력하고혁신적이다.그러나최근몇년간의AI열풍은테크놀로지선구자들을그들의창조물이흔히초래한사회적문제의권위자로위치시키는신콤플렉스(godcomplex)에일조했다.과학자와혁신가의말을경청하는것은중요하다.그러나AI열풍으로이익을보는자들이그일을어떻게판단해야하는지에대한전문가는아니다.오히려AI기반노동자감시의최전선에이미살고있거나AI가의사결정을하는카프카식악몽에갇혀있는사람들이그일에훨씬더적격이다.따라서한층더다양한집단의사람들이AI의미래형성에개입하는것이중요하다.

변혁의힘을가진모든테크놀로지의등장이그랬듯우리가실제로직면한것은우리자신의최고와최악의모습이다.나,너,우리,즉인간은지금이순간을판단하고,AI를어떻게사용할수있을지,어떻게사용해야할지를정하는대화와결정과정책에참여할모든권리가있다.이기술을의심쩍거나억압적인용도로쓰지못하게하고평화와공동의목적에기여하는방향으로이끌려면수고가따른다.AI는선의의잠재력을실현할수있다.우리가좋아하고신뢰하며궁극적으로받아들일만한기술이될수있다.하지만그러려면집단적인간성의가장좋은부분을담아야하며,우리중되도록더많은사람이AI의미래와그것이어떻게우리삶의일부가될것인지를결정하는데참여해야한다.

우주경쟁

닐암스트롱과버즈올드린은달표면을떠나용감한지구귀환을위해착륙선이글호로돌아오면서아폴로호의평화적인의도의상징을우주에남겼다.2년전추락사고로사망한소련우주비행사유리가가린과블라디미르코마로프를기리는두개의메달,그리고자신들과같은목표를추구하다목숨을잃은미국우주비행사들을위한아폴로1호조각이다.금색올리브나뭇가지배지는지금까지도달표면에남아있는패키지의일부다.암스트롱은달의빛나는흰색표면이자기뒤에보이게사진을찍은뒤자신이뛰어내려역사를창조했던바로그달착륙선에서계단에부착된강철판의나사를조심스럽게풀었다.그는이명판을달의먼지속에놓았다.바람이없어장차그곳에착륙할모든사람에게그명판은그대로노출될터였다.거기새겨진불멸의말은이것이다.
“우리는전인류의평화를위해왔다.”
아무리불완전하다해도,그기원이전쟁이었을지라도,이고귀한생각과그것을지키려던전세계의노력은달탐사선발사의가장놀라운유산이다.

체외수정

낙태권을둘러싼분열로들끓던1970년대미국은‘생명’이언제부터시작되는지,태아에권리가있는지,정부가여성의선택권과생명중어디에비중을둬야하는지를놓고혼란에빠졌다.로널드레이건대통령과후임인조지H.W.부시대통령은낙태를헌법상권리로인정한1973년연방대법원의‘로대웨이드(Roev.Wade)’판결이후지독한낙태논쟁과맞물린반발을우려해인간배아연구라는새로운분야의연방기금확보를거의불가능하게만들었다.1970년대말인간배아연구에대한연방기금지원중단은해제되었지만,미국의모든태생학연구는민간부문에떠넘겨진뒤였고,당연히초점은윤리적경계설정보다는이윤에더맞춰졌을테고복잡한도덕적·윤리적·과학적문제는사법제도의해결과제로남았다.과학초강대국이이렇게주도권을포기하면서이분야를정립할문은다른나라들에활짝열렸다.
체외수정과배아연구가본격적으로시작된곳은영국이고,최초의‘시험관아기’탄생으로명성을얻은곳도영국이다.과학적발견의탁월함에다당시의회의진지한토론과심의민주주의가뒤따랐고,그결과영국은과학자체만이아니라그런혁신을가능케하는규제환경에서도세계의선도국이되었다.그것은사회학자이자생식생물학자인사라프랭클린(SarahFranklin)교수가말했듯“엄격하지만관대한”제도다.이렇듯체외수정과인간배아연구를일반대중의삶과통합한영국의성공사례는과학적진보를둘러싼합리적인공론이얼마든지가능함을입증한다.

인터넷

인터넷커뮤니티의,인터넷커뮤니티를위한국제기구인국제인터넷주소관리기구(ICANN)의개념은인터넷이가져올결과에대한낙관주의와신뢰를배경으로탄생했다.그것은명확한난제,즉어떻게해야국경을넘나드는무정형의테크놀로지를잘관리할수있을것인가에대한해답이었다.다자간토론·타협·합의가그해답이다.그런데문제는인공지능이시민과정부,정부와힘있는기업들,자유민주주의와권위주의의정치적이념들사이에신뢰가무너진환경속에서구축되고있다는점이다.하지만ICANN에서교훈을얻을수있다.직접적인유사성은없지만참여하는정부,대표자정부,협의하는정부라는도구가AI기반기술의허용한도를판단하는데어떻게활용될수있는지를보여준다.합의는국제적차원에서도가능하다.
그러나ICANN이거의무너질뻔한이야기에도그에못지않은중요한교훈이있다.최고의이상에서비롯된대담한비전도중요하지만,그가치를세상에투영하고자한다면우리스스로가그이상을지켜야한다는것이다.

AI의사결정을어디까지허용할수있는가?그선을어디에그을지는누가결정할것인가?이는지극히어려운질문들이며,확고하고상반된견해들이존재한다.인공지능업계가인간발생학논쟁사례에서교훈을찾는다면,그것은바로이모든다양한견해를표명하게하고경청해야한다는것이다.하지만경청이란고개를끄덕이고미소지은채원래계획대로계속진행하는것그이상을의미한다.진정으로민주적과정이라면상반된의견들까지도존중하고아울러야한다.또참가자모두약간의실망감을느낄규칙으로마무리될가능성도높다.이것이진정한타협의본질이다.
AI는세계적테크놀로지가될것이고,가장어려운도전과큰기회에는세계적협력이필요하다.AI분야에서국가적우위를내세우는태도는국제사회의신뢰를약화시킬뿐이다.민주주의가치에위배되는AI사용은그런신뢰를한층더약화시킨다.AI를어떻게사용하면안되는지의조건을확립하는작업부터시작해야한다.

“나의개인적야심은과학이우리최고의모습을반영하는미래를보고자하는모든이들을격려하고그들에게활기를불어넣는것이다.……인간의독창성과열정과야망은끊임없이세상을변화시킨다.기억하라,희망에는잘못이없고빈곤한비전에는지혜가없다는것을.신기술로세상을반드시더나은방향으로변화시킬가치들에영향을미치는것도그가치들을선택하는것도우리모두에게달려있다.AI에겐우리가필요하다.”