AI 지도책 : 세계의 부와 권력을 재편하는 인공지능의 실체

케이트크로퍼드

마이크로소프트연구소선임수석연구원,프랑스고등사범학교AI·창의학과초빙석좌교수,멜버른대학교미에구냐초빙석좌교수.뉴욕대학교AI나우연구소를공동설립했으며기계학습재단국제연구단을이끌고있다.인공지능의사회적의미를연구하는선도적인학자로서지난20년간역사,정치,노동,환경등광범위한맥락에서대규모데이터시스템,기계학습및AI를이해하는데초점을맞춰왔으며<네이처>,<사이언스>같은세계적인과학학술지와<뉴욕타임스>,<더애틀랜틱>,<하퍼스매거진>등에도기고하고있다.

서문
세상에서가장영리한말│AI란무엇일까?│AI를지도책으로보아야하는이유│연산의지형학│추출,권력,정치

1지구
AI를위한채굴│연산의풍경│광물학적층위│검은호수와흰라텍스│청정기술이라는환상│물류의층위│거대기계로서의AI
2노동
작업장AI의과거역사│포템킨AI와메커니컬터크│해체와작업장자동화에대한구상:배비지,포드,테일러│시카고의도축장│시간관리,시간사유화│사적인시간은권력의전략│속도의무자비한리듬
3데이터
기계에보는법훈련시키기│데이터수요에대한짧은역사│얼굴포착│인터넷에서이미지넷으로│동의따위는필요없다│데이터의신화와은유│로켓이어디떨어지든무슨상관이랴│공유재포획으로억만장자되기
4분류
순환논증체계│편향해소시스템의한계│편향에대한여러정의│분류엔진으로서의훈련집합:이미지넷의사례│‘사람’을정의하는권력│인종과성별을구성하다│측정의한계
5감정
감정예언자:감정이돈이될때│세계에서가장유명한관상가│감정:관상학에서사진까지│감정을포착하다:감정을연기하는수법│표정은실제로감정을표현하는가│얼굴의정치학
6국가
제3차상쇄전략│메이븐계획│국가의외주화│테러범신용점수에서사회적신용점수로│초국가,국가,나의일상
맺음말권력
한계를모르는게임│AI의파이프라인│지도는영토가아니다│정의를위한연대를향하여
덧붙이며우주

감사의말
옮긴이의말
주
참고문헌
찾아보기

AI는우리가살고있는세계를어떻게바꾸고있을까?
“인공지능은결코인공적이지도않고지능도아니다!”

오늘날사람들은‘AI(인공지능)’를어떻게이해하고받아들이고있을까?현대과학과첨단기술의정점으로,또는인간이풀지못한문제까지도단번에해결할수있는놀라운존재로여기고있는건아닐까?하지만이는맹목적인신뢰가빚어낸환상일뿐이라고이책은말한다.미국뉴욕대학교AI나우연구소의공동설립자이자인공지능의사회적의미를오랫동안연구해온케이트크로퍼드는이책에서인공지능이만들어지는과정을면밀히들여다보면서,그것이어떤함정을만들어내는지낱낱이파헤친다.아직까지많은사람들은인간정신과비슷한시스템을백지상태에서만들어낼수있고인공지능을자연적이며독자적으로존재하는무언가로받아들이지만,이는너무나단순하고편협한인식일뿐이라는것이다.

이책은AI가‘인공’적이지도않고‘지능’도아니라고주장한다.오히려인공지능은체화되고물질적인지능이며천연자원,연료,인간노동,하부구조,물류,역사,분류를통해만들어진다.AI시스템은자율적이지도합리적이지도않으며대규모데이터집합이나기존의규칙및보상을동원한방대하고집약적인훈련없이는아무것도분간하지못한다.사실우리가아는형태의인공지능은훨씬폭넓은정치적사회적구조에전적으로의존한다.또한AI를대규모로구축할자본과AI를최적화할방법이필요한탓에AI시스템은궁극적으로기득권에유리하게설계된다.이런의미에서인공지능은권력의등기부인셈이다.

이책은인공지능이어떻게만들어지는지를폭넓은의미에서들여다보고인공지능을빚어내는경제적정치적문화적역사적힘을탐구한다.AI를이넓은구조와사회체제에연결하면우리는인공지능이순전히기술적영역에속한다는통념에서벗어날수있다.기본적차원에서AI는기술적행위이자사회적행위요,제도이자토대요,정치이자문화다.연산추론과체화된일은서로깊숙이연결되어있다.AI시스템은사회관계와세계에대한이해를반영하는동시에생산한다.

이책에서는AI를‘정치,노동,문화,자본을아우르는대규모의산업적구성물’이라는의미로쓴다.사실‘인공지능’이라는용어는마케팅에서더많이쓰인다.자금지원을신청하는기간이나벤처투자가들이수표장을들고찾아올때,연구자들이새연구결과에대해언론의주목을끌고싶을때는AI라는용어가곧잘동원된다.이때문에AI라는용어는채택되기도하고거부되기도하면서의미가끊임없이달라진다.

그런데인공지능이만들어지는과정을이해하는데어떻게지도책이도움이될수있을까?지도책비유는곧인공지능을이해하는새로운방법이다.인공지능을추동하고지배하는국가와기업,지구에흉터를남기는추출식채굴,데이터대량수집,이를떠받치는불평등하고착취적인노동관행등을설명하는AI담론이필요하기때문이다.지형학적접근법은인공지능이나최신기계학습모형의추상적약속을넘어선새로운관점과규모를제시한다.그목적은연산의다양한지형을주파하면서이것들이어떻게연결되는지살펴봄으로써AI를더넓은맥락에서이해하는것이다.

AI분야에존재하는것은열어야할하나의블랙박스,폭로해야할하나의비밀이아니라수없이얽힌권력의체계이다.그렇기에완전한투명성은불가능한목표다.AI가세상에서어떤역할을하는지더잘이해하려면물질적구조,맥락환경,지배적인정치적성격에주목하여그것들이어떻게연결되는지추적해야한다.이책에담긴저자의사상은과학기술연구,법학,정치철학을배경으로10년가까이학계와업계AI연구실에몸담은경험에서영감을얻은것이다.

AI가어떻게부와권력을집중시키고있을까?
인공지능을둘러싼자원채굴,노동권,개인정보보호,국가와기업,불평등…

이책은인공지능을‘추출산업’으로규정한다.현대AI시스템을창조하려면지구의에너지와광물자원,값싼노동력,대규모데이터를추출해야한다.이일이벌어지는현장을관찰하기위해저자는AI가실제로만들어지는장소들을여행한다.

인공지능이무엇이고무엇으로만들어지는지를알기위한첫번째출발점은컴퓨터에동력을공급하는데필요한여러광물채굴장중하나인미국네바다의리튬광산이다.채굴은AI에추출의정치적성격이결부되었음을가장적나라하게보여주는분야다.희토류,석유,석탄에대한기술부문의수요는엄청나지만이채굴의진짜비용을AI업계에서부담하는경우는전혀없다.소프트웨어부문을보자면,자연어처리와컴퓨터시각의모형을구축하려면에너지가어마어마하게필요하며더빠르고효율적인모형을제작하려는경쟁때문에AI의탄소발자국을키우는탐욕스러운연산기법이도입되었다.최초의대서양횡단해저케이블에필요했던라텍스를생산하기위해수확된말레이시아의마지막나무로부터독성잔류물이모여생성된내몽골의거대한인공호수에이르기까지지구적연산네트워크의환경적인간적출생지를추적하며이행위들이어떻게지구를대규모로변화시키는지살펴본다.

사실인공지능은인간의노동으로만들어진다.단순반복작업을위해클릭을하면서푼돈을받는디지털삯꾼과거대물류제국의알고리즘에장단을맞추는아마존창고의직원들,동물사체를해체하고가공하는시카고의도축장에서일하는노동자들……이들은기업주를위해감시와통제를강화하는AI시스템에어떻게적응해나가고있을까?인간의행동을로봇과조립라인기계의반복적동작에맞추기위해시간관리메커니즘이어떻게작동하는지,그문제점이무엇인지를꼼꼼하게짚어봄으로써노동의미래가어떤모습일것인가를가늠해볼수있을것이다.

지구와인간노동의관계를규정한추출의논리는AI가데이터를이용하고이해하는방식과도결부된다.공개적으로접근할수있는모든디지털자료는AI모형을생성하는데이용되는훈련데이터집합을위해자유롭게수집되는데,이것들은얼굴인식,언어예측,대상탐지등의기능을수행하는알고리즘을개선하는데쓰인다.그런데AI가데이터를이용하는현재의관행은개인정보유출과감시자본주의라는심각한문제외에도적잖은윤리적방법론적인식론적우려를낳는다.그중가장대표적인것은인공지능시스템에서의분류행위이다.현행시스템이어떻게이분법적성별,획일적인종구분,성격과신용에대한미심쩍은평가등을라벨의주된바탕으로삼아신원을예측하는지들여다보고그과정에서AI시스템이어떻게위계를강화하고불평등을증폭하는지알수있다.

AI가인간의감정을어떻게인식하는지도중요한쟁점이다.심리학자폴에크먼등의연구성과를통해감정인식을둘러싼여러주장을검토하고,파푸아뉴기니의산악마을을여행하며감정인식의역사를탐구한다.아마존,마이크로소프트,IBM같은기술기업들이어떻게감정탐지시스템을설계하고적용하는지알아보고,그에따른과학적논란및우려와부작용가능성도살펴본다.

AI시스템이어떤방식으로국가권력의도구로이용되고있는지도이책의핵심내용중하나다.과거와현재인공지능의군사적활용은감시,데이터추출,위험평가등의관행을빚어냈다.기술부문과군사부문의밀접한관계는강력한국가주의적의도에들어맞도록통제되고있다.한편정보부문에서쓰이던탈법적도구들이군사분야에서상업기술분야로전파되어교실,경찰서,직장,고용지원센터에서쓰이고있다.AI시스템을빚어낸군사적논리는이제지방정부운영의일부가되었으며,더나아가국가와국민의관계를왜곡하고있다.

인공지능이어떻게권력구조의역할을하며하부구조,자본,노동을결합하는지제대로알고그대안을마련하는것은우리의현재,미래와직결되어있다.교묘하게통제받는우버운전자를비롯하여추적당하는미등록이민자,주택내얼굴인식시스템에항의하는공영주택임차인에이르기까지AI시스템은자본,치안,군사화의논리에따라구축되며이조합은기존의권력불균형을더욱확대한다.따라서AI시스템이산업적추출과차별이아니라정의와평등을향해시급히새로운길을열어야한다.기술우선식접근법을거부하고기저의불평등과불의에맞서는국가적,국제적운동을확장해야할필요성이제기되고있으며노동,기후,데이터정의를함께요구해야한다는것이다.이책은인공지능이실제로어떻게만들어지고있는지를생생하게들여다보면서이전의편향된인식과불확실한기술낙관주의에서벗어나현실적이고지속가능한미래를그리는데큰도움이될것이다.