AI는 인간을 먹고 자란다 (인공지능 신화에 가려진 보이지 않는 노동자들)

마크그레이엄,제임스멀둔,캘럼캔트

저자:마크그레이엄(MarkGraham)
옥스퍼드대학교인터넷연구소교수.디지털노동,플랫폼경제,글로벌노동시장의불평등문제를꾸준히연구해왔다.디지털플랫폼노동의공정한기준을만들고감시하는국제평가프로젝트,페어워크프로젝트를이끌며,AI산업의이면에숨겨진노동자들의역할을조명하고그들의노동환경을개선하는데힘쓰고있다.그의연구는세계은행,국제노동기구,유엔등에서디지털시대노동정책의중요한자료로활용되고있다.

저자:제임스멀둔(JamesMuldoon)
에식스대학교정치학교수.디지털기술과플랫폼경제가노동과민주주의에끼치는영향을탐구해왔다.특히노동자가플랫폼을직접소유하고운영하는플랫폼협동조합에관심이많다.자동화시대에노동자는단순한소모품이아니라자신이만들어낸가치를스스로통제할수있어야한다는관점에서디지털민주주의의필요성을꾸준히제기하고있다.

저자:캘럼캔트(CallumCant)
에식스대학교노동사회학강사.AI와자동화기술이플랫폼노동자에게미치는영향을이론과현장을넘나들며연구해왔다.배달플랫폼노동자의현실을밀착조사한『RidingforDeliveroo』를집필했다.그는플랫폼노동이겉으로는유연한일자리처럼보이지만실제로는매우불안정하고착취적인구조속에있다고진단한다.동시에노동자들이스스로조직화해노동조건을개선할수있다고믿으며,그가능성을꾸준히탐색하고있다.

역자:김두완
고려대학교불어불문학과를졸업하고연세대학교커뮤니케이션대학원에서문화연구로석사학위를받았다.대중음악전문컨트리뷰터,온라인백과사전관리자,단행본출판편집자,음악DB매니저등여러직함을거치면서프리랜서-비정규직-정규직은물론대기업-중소기업-1인기업까지‘다채로운’근로형태를경험중인‘프로노동자’이기도하다.『도파민네이션』『뇌를이기는습관』『파리는그림』『유니버설야구협회』『모타운:젊은미국의사운드』(공역)등번역한책들도못지않게다양하다.현재한국대중음악상선정위원으로있다.

머리말:추출기계의시대,보이지않는노동자들

1장.기계가우리를닮아갈수록,우리는기계가되어간다:우간다굴루,데이터주석작업자
기계적이고단순하며예측가능한노동|갱시스템:당신을쥐어짜겠습니다
기계는어떻게학습하는가|기계는인간을먹고자란다|세계는평평하지않다

2장.AI는사유하지않는다:영국런던,머신러닝엔지니어
AI는우리를대체할수있을까|알고리즘공포증|최후의심판
디지털우생학|공정하다는착각

3장.얼음과불의데이터센터:아이슬란드,기술자
냉각과전력없이는AI도없다|전세계를연결하는데이터대동맥
인프라권력을차지하라|왜구글이우리마을의물을마시는가|AI군비경쟁

4장.당신목소리의주인은누구인가:아일랜드,예술가
예술가없는예술,인간없는창작|창의력테스트:AI는진정한창의력을가질수있을까?
“그순간,베르테르의구상이완성됐다”|모방과창작을가르는선
새로움의저주를두려워말것

5장.기계를멈춰세워라:영국코번트리,물류노동자
속도는시스템이정한다|아마존의추출기계를소개합니다
AI감시:출근에서퇴근까지|기계를멈춰세워라

6장.자유를지키는독재자들:미국실리콘밸리,투자자
황금광시대|캘리포니아벤처캐피털의역사|민주주의가배제된기술
자기합리화인가,더나은미래를위한선택인가

7장.오래된미래에맞서는사람들:나이지리아나이로비,노조활동가
아프리카최초의데이터노동자조합|그래서무엇이달라졌는가
국경을넘어서

8장.기계재설계하기:인공지능시대의노동전략
노동조합과노동자조직의집단적힘을강화한다
시민사회가조직적으로기업을견제하고책임을묻는다
엄격한규제를도입한다
노동자들이경영에참여할수있는구조를모색한다
시스템의불평등과부정의에맞선다

맺음말:이스라엘가자지구를바라보며
감사의말
후주

어떻게인공지능은노동을소외시키고창의성을빼앗는가
10년,30여개국의연구자,수백건의현장인터뷰를통해완성한
옥스퍼드대학교인공지능보고서

우리는지금,상상마저자동화된시대에살고있다.“우리가족사진을지브리스타일로바꿔줘.”명령어한줄이면,몇분만에깜찍하고이쁜내아이의개성은살려주면서도미야자키하야오특유의따뜻하고몽환적인감성이담긴그림이완성된다.“내가쓴시를밴드콜드플레이풍의노래로바꿔줘”라고하면10분안에노래한곡이완성된다.
그러나세상에공짜점심은없다.챗GPT를서비스하는오픈AI는지브리스타일의그림요청이급증하면서하루수백만건의이미지가생성되고있으며이에따라수십테라바이트에달하는데이터와막대한GPU연산자원과전력이소모되고있다고밝혔다.오픈AI의CEO샘올트먼은“지브리스타일이미지요청때문에서버가녹아내릴지경”이라고언급하며이현상의폭발적인기를강조했다.
AI기술은이제단순한오락을넘어검색,광고,교육,가전제품,자동차등우리의일상곳곳에깊숙이침투하고있다.하지만기술이너무도마법같아서우리는그것이실제로어떻게작동하는지를거의묻지않는다.SF작가이자미래학자인아서클라크는“충분히발전한기술은마법과구별되지않는다”고말한바있다.오늘날의AI는정말로마법처럼보인다.사용자의질문에즉시답하고,상상만으로도그림과음악을창조하는것처럼보인다.그러나그이면에서무슨일이일어나고있는지제대로아는사람은많지않다.

기계가우리를닮아갈수록,우리는기계가되어간다

모두가AI의가능성과미래에환호하는지금,『AI는인간을먹고자란다』는이마법의이면을직시하며우리에게불편한질문을던진다.AI는정말자율적인가?AI의창의성과편리성은어디에서오는가?AI는과연신처럼공평무사한가?그리고그모든과정은어떻게이뤄지며그안에문제는없는가?
이책은옥스퍼드대학교인터넷연구소의마크그레이엄교수와에섹스대학교의제임스멀둔,캘럼캔트교수가10년넘게전세계를돌며수백명의AI산업관계자들을인터뷰하고기록한연구서이자생생한현장르포다.저자들은책에서데이터주석자,콘텐츠검수자,성우,물류노동자,기술자,투자자,노동운동가등AI산업의최전선에서일하는사람들을만나그들의목소리를통해AI의본질과그구조를파헤친다.

“기계는인간을먹고자란다.그것은우리의노동,우리의창작,우리의시간을삼킨다.그리고그것을데이터와통계로바꾸어다시우리에게돌려준다.”-본문중에서

이책의핵심메시지는간결하지만강력하다.저자들은오늘날의AI를‘추출기계(ExtractionMachine)’로이해해야한다고주장한다.추출기계란인간의지식과감정,창의성과노동을흡수해데이터를만들어내고,이를다시알고리즘으로가공하여이윤을창출하는구조적장치를뜻한다.데이터는하늘에서떨어지지않는다.AI가존재하려면반드시‘보이지않는노동자’들의헌신이필요하다.우리가매일사용하는AI서비스는누군가의반복적인클릭과태깅,그리고분류작업의결과다.이데이터는인간의시간과감정,판단과신체활동이고스란히스며든노동의산물이다.
이처럼AI는인간의삶에서가치를추출해작동하는시스템이며,결코중립적인기술이아니다.저자들은AI가특정한목적과이해관계에따라설계된다는점에서,인간을해방시키는도구가아니라노동을은폐하고,추출하며,통제하는메커니즘이라고지적한다.그과정에서노동은점차비가시화되고,창의성은코드로환원되며,우리의일상과삶은알고리즘의논리에의해재편된다.따라서기술이‘객관적’이라는환상에서벗어나야한다.알고리즘은중립적계산이아니라특정한세계관과권력관계를구현하는장치다.저자들은이를‘디지털식민성’이라부른다.과거제국이식민지에서자원과노동을추출해부를축적했듯,오늘날의빅테크기업들은남반구에서데이터와노동을추출해북반구에서수익을창출하고있다.

“오늘날의AI산업은식민주의적착취구조의최신버전일뿐이며,이시스템은노동자들이구조자체를바꿀수없도록철저히설계되어있다.”-본문중에서

“한편의디스토피아소설을읽는것같다”-퍼블리셔스위클리
추출기계를숨쉬게하는일곱사람의이야기

이추출기계가어떻게작동하는지는책에등장하는인물들의서사를통해생생하게드러난다.예를들어머리말에소개되는케냐의콘텐츠검수자머시는메타의하청업체에서하루수백개의게시물을검토하며폭력과혐오를걸러낸다.그러던어느날,그녀는교통사고장면이담긴영상속에서자신의할아버지를목격한다.고통과충격속에서도그녀는영상을끝까지보고판단을내려야했다.그녀의감정과고통은시스템안에서고려되지않는다.
우간다의데이터주석자애니타(1장)는자율주행차훈련에필요한데이터를수작업으로분류한다.그녀는하루열시간이상을컴퓨터앞에앉아,눈깜빡임이나신호등같은사소한디테일에태그를붙인다.“기계가똑똑해지려면나같은사람이필요해요.”그녀는자신의일에자부심을느끼지만,그녀는3개월의계약직으로,고작하루1.6달러의임금을받는다.인간의창의력또한추출기계의먹이다.아일랜드의성우로라(4장)는자신의목소리가본인의동의없이AI훈련에사용되었다는사실에충격을받는다.목소리는단순한음향이아니라예술이자그녀의정체성이다.그러나AI는예술성과인간성을추출하여이윤으로바꾸고있다.이과정에서예술가들의설자리사라지고있다.
한편영국코번트리의아마존물류센터노동자알렉스(5장)는AI기반의감시시스템아래에서스스로를기계처럼느끼며살아간다.효율성의이름으로,그는점차인간이아닌숫자로환원된다.인간의노동력만이AI의먹이일까?3장에서만날수있는아이슬란드의데이터센터기술자에이나르의일상을쫒다보면새로운깨달음을얻게된다.AI가막대한전력과냉각자원이필요하다.데이터센터한곳에서쓰이는전력과물은미국의소도시한곳이사용하는것과비슷한수준이다.AI는인간뿐아니라행성의자원까지함께추출하고있다.
미국실리콘밸리의벤처투자자타일러(6장)의사례는민주주의관점에서더욱충격적이다.그는AI스타트업에투자하며,데이터주석업무를더저렴한노동력이있는지역으로옮기도록지시한다.그의결정하나로수많은노동자의삶이결정되지만,타일러에게중요한것은오직투자수익률이다.이처럼소수의권력자들이AI를통해다수를더욱정교하고효율적으로통제할수있다는점에서,AI는사회의공정한룰을침해하고장기적으로는민주주의를위협하는도구가될수있다.
기술의발달경로는필연이아니라선택이다.그선택에따라사회구조가결정되고권력이생겨난다.그리고우리는어쩌면그권력을다시설계할수있는마지막시점에서있는지모른다.저자들은AI가진짜로우리를이해한다고믿게되는그순간,우리는기술에감탄하기보다질문해야한다고강조한다.이시스템은어떻게구축되었으며,누구의희생으로유지되는가.우리는어떤데이터를제공하고,어떤사람의노동을통해그결과물을받는가.이질문이야말로기술을사용하는이들이반드시가져야할책임이라고강조한다.

인간중심의인공지능을설계하는법

『AI는인간을먹고자란다』는단순한고발서가아니다.기계는다시설계할수있다는,작지만분명한희망도이야기한다.실제로7장에서만날수있는케냐의검수자들은빅테크기업에맞서자신의노동권을지키기위해세계최초로디지털노동자조합을결성했다.영국의아마존물류센터직원들역시비인간적인노동을개선하기위해파업을벌였고파업의열기는영국을넘어유럽과캐나다로번져나갔다.이책은기술감시에대한시민사회의권한,알고리즘설계에대한민주적통제,플랫폼노동의법적보호등구체적인대안을제시한다.
이책은AI기술의현재와미래를따라갈수있는가장정교한나침반이기도하다.AI가어떻게만들어지고작동하는지,그리고어떤자원과관계를통해유지되며,앞으로어떤방향으로진화할지까지구조적으로짚어낸다.AI가무엇을가능케하느냐보다,무엇을배제하고있느냐를묻는것.그것이이책이던지는본질적인질문이다.우리가사용하는검색창과음성명령,이미지생성기,챗봇과자율주행차량이결국어떤사람들의노동과어떤시스템의논리위에서작동하고있는지를이해할때,비로소AI의신비에서벗어나현실이된다.이책이중요한이유는기술에대한비판적성찰과함께더공정하고지속가능한디지털미래를만드는구체적인가능성을제시하기때문이다.우리가이책을읽어야하는이유가여기에있다.