디지털의 배신 (플랫폼자본주의와테크놀로지의유혹 | 디지털은인간을어떻게조종하는가?)

이광석

테크놀로지,사회,문화가상호교차하는접점에비판적관심을갖고연구와비평,저술과현장활동을해오고있다.미국텍사스오스틴대학Radio,Television&Film학과에서박사학위를받고,서울과학기술대학교IT정책대학원디지털문화정책학과교수로일한다.현재비판적문화연구저널『문화/과학』공동편집주간으로활동하고,『경향신문』에칼럼을연재하고있다.주요연구분야는기술문화연구,미디어·아트행동주의,플랫폼과커먼즈,인류세와포스트휴먼,비판적제작문화등에걸쳐있다.지은책으로는『데이터사회미학』·『데이터사회비판』·『옥상의미학노트』·『뉴아트행동주의』·『디지털야만』·『사이방가르드』등이있고,기획하고엮은책으로는『사물에수작부리기』·『현대기술·미디어철학의갈래들』·『불순한테크놀로지』등이있다.

프롤로그:테크놀로지의유혹과덫ㆍ4

제1장유튜브와넷플릭스가지배하는플랫폼세계

플랫폼이현실을좌우하는피지털세상
물질의‘피지컬’세계와비물질의‘디지털’세계ㆍ19현실로스며드는피지털논리ㆍ21‘공유경제’플랫폼,피지털의실세ㆍ23피지털의사회적감수성찾기ㆍ25
빅데이터가삶을바꾸어놓다
‘기술문화’와‘소프트웨어문화’ㆍ28빅데이터가자본주의를집어삼켰다ㆍ30인플루언서와소셜테이너의시대ㆍ32빅데이터가만드는문화적편향ㆍ35
유튜브는어떻게블랙홀이되었는가?
유튜브에있는‘창의시민’ㆍ39청년들의‘그림자노동’ㆍ43유튜브의알고리즘편견ㆍ44극우성향의정치콘텐츠들이성황인이유ㆍ47
넷플릭스알고리즘이취향을납작하게만든다
과로사회의콘텐츠소비문화ㆍ49시청자가콘텐츠를선택하지않는다ㆍ52넷플릭스와〈킹덤〉ㆍ55넷플릭스의빛과그림자ㆍ57

제2장플랫폼자본주의와알고리즘의야만성

위태로운노동과공유경제의민낯
공유경제와임시직노동ㆍ63물류혁신과유통혁명ㆍ65“네것이다내것”ㆍ66공유경제의딜레마ㆍ67
플랫폼노동을어떻게볼것인가?
플랫폼노동의탄생ㆍ70플랫폼노동을바라보는3가지시선ㆍ71사회포용적플랫폼기술혁신ㆍ75플랫폼노동자들의결사체ㆍ80
플랫폼협동조합을어떻게만들것인가?
시간에쫓기는타임푸어ㆍ84불로소득자와빈곤임금ㆍ86조합원의공동선을추구하는사회적연대ㆍ88약탈적플랫폼시장을넘어ㆍ91
노동자를노예로만드는알고리즘의야만성
‘플랫폼자본주의’시대ㆍ94‘과학적경영’에서‘알고리즘경영’으로ㆍ96노동자들을길들이는‘훈육장치’ㆍ98“제4차산업혁명이우리를노예로만들고있다”ㆍ101
자동화예찬,이의있습니다
자동화와노동의종말ㆍ104화려한공산주의ㆍ106만성적인세계경기침체의원인ㆍ108기술이낳은노동착취ㆍ109
‘인공지능국가전략’에사람은없다
인간의얼굴을한야만의기술ㆍ114‘생각하는기계’의역습ㆍ116인공지능이지구환경을잠식하면ㆍ118노동의탈숙련과사회적탈숙련ㆍ121

제3장그린뉴딜과불타는지구

인류세시대의생태위기
지구의종말을알리는경고ㆍ127‘지구행성주의’라는함정ㆍ129자연을지배하고자하는욕망ㆍ131브레이크없는자본주의ㆍ134
반인권과반생명의부메랑
테크놀로지의두얼굴ㆍ136첨단IT기업들의탄소발자국ㆍ138야만의테크놀로지에속박된사람들ㆍ141첨단기업들의사회적책임ㆍ143
그린뉴딜은‘불타는지구’를구할수있을까?
우리는‘인류세’를살얼음판걷듯살고있다ㆍ145불타는지구ㆍ147성장과발전이라는종교ㆍ150지구생태전환을위한실험ㆍ153
테크놀로지와포용도시
‘스마트시티’에서‘공유도시’까지ㆍ155서울의위험한테크노도시기획ㆍ157도시권과테크놀로지ㆍ161도시의주인은누구인가?ㆍ162

제4장코로나19팬데믹과인포데믹

코로나19와연대의기술
지구촌의‘코로나19전쟁’ㆍ167기술‘신천지’의신기루ㆍ169감염공포와비접촉의사각지대ㆍ171비대면접속에서타자결속의기술로ㆍ174
안심밴드는빅브러더가될수있다
‘애국법’과‘자가격리자안전보호앱’ㆍ177기술감시와인권보호ㆍ179기본권을침해하는테크놀로지ㆍ181‘방역모범국가’의길ㆍ184
‘한국형뉴딜’이망각한것들
‘유령노동’을양산하는기폭제ㆍ186비대면자동화노동의민낯ㆍ189노동시장유연화와기업규제완화ㆍ191노동·정보·생명권리를위해ㆍ193
탈진실과가짜뉴스시대
탈진실의탄생지ㆍ195진실이사라진다ㆍ198진실보다진실한가짜ㆍ200사회신용체제라는빅브러더ㆍ203

제5장데이터인권과디지털민주주의

데이터주권찾기
빅데이터와인공지능ㆍ209‘인터넷영토론’과‘데이터주권’ㆍ211소비자프라이버시권리장전ㆍ213데이터보호대데이터활용ㆍ215
‘제로프라이버시’시대가온다
불안한보호에서안전한활용으로ㆍ219데이터3법과정보인권의위기ㆍ220데이터주권을지킬수있을까?ㆍ223개인정보보호에침묵하는이유ㆍ226
인간과테크놀로지의미래
제4차산업혁명시대의‘기술문맹’ㆍ229코딩붐과인문학혐오ㆍ232성찰없는메이커문화ㆍ235테크노포비아와테크노토피아를넘어ㆍ237
커먼즈와플랫폼이만나다
공동자원의자율생산조직체ㆍ240인간과기계의공존ㆍ243기술로매개된공동운영체제ㆍ245호혜와공생의커먼즈ㆍ247

에필로그:인간중심주의의오만과지구회복력ㆍ250

주ㆍ259
찾아보기ㆍ264

우리의일상을지배하는
디지털의빛과그림자
“디지털은인간을어떻게조종하는가?”

우리는빅데이터알고리즘분석의예측력과새벽배송의신속성에기댄온라인식료품주문에익숙해져있다.시간과장소를불문하고음식을시켜먹을수있는배달앱문화도흔한일상이되었다.이렇듯디지털기술은우리의삶과문화를바꾸어놓았다.우리에게디지털테크놀로지는강력한신흥종교이자숭배의대상이되었다.그러나한편에서는그림자노동을수행하는수많은배달노동자의희생이있었기때문에가능한일이다.
우리의기술혁신방식은성장중독증과크게다르지않다.엄혹한군사독재시절을지나1990년대중반이래세워진민간정부들은서구에서하이테크기술들을가져와이를국가경제성장과발전의과업에재빠르게체화해냈다.그덕분에,경제적으로보면디지털경제가연착륙하면서대기업들이독점적이윤을얻었고,사회적으로는어느누구든어디서든‘편재’하는디지털테크놀로지를쓸수있는인프라환경을이루었다.우리사회에서는이렇듯신기술의정착이거의언제나성장과발전을약속해왔다.
『디지털의배신』은첨단의신생테크놀로지가우리에게선사한성장의달콤한열매만큼이나기술숭배가가져온부메랑효과들을살피고경고한다.우리에게테크놀로지의유혹과덫이라는양자적계기는어쩌면예고된것인지도모른다.인류가도구적이성에기대어테크놀로지를욕망할수록지구환경과인간삶의생태순환계에점점균열이가해질수밖에없다.이제생태균열은일상,사회,노동,미디어,생명에걸쳐거의모든영역에서일어나고있다.
『디지털의배신』은기술잉여가만들어내는굴절들,즉기술자체가사회혁신과진보로슬그머니등치되거나,취약노동이기술로매개되어편리와효율의시장논리로둔갑하거나,반(反)생태적기술을흡사청정(淸淨)의것으로위장하거나,기술이우리의취향을주조하는데도이를풍요의자유문화처럼보는등그허구들을뒤집어보고자한다.
『디지털의배신』은디지털과테크놀로지가야기하는논쟁점을크게다섯분야로나누어살핀다.제1장은주로비물질계디지털질서와기술규칙이현실계에영향을미치는,물질과디지털이교직하는‘피지털’이라는새로운혼종계의도래를직시할것을언급한다.제2장은알고리즘자동화와플랫폼기술시대에인간노동의질적문제를다룬다.제3장은동시대지구온난화와생명종절멸위기에책임을가져야할인간들이그것에무심한채과학기술발전에기대어끝간데없이추구하는성장주의적욕망과기술숭배의병폐를짚는다.제4장은코로나19재난이국내에밀어닥치면서불거졌던정보인권과노동인권침해에대한이야기를담고있다.제5장은지배적테크놀로지에대항한시민사회주도아래기술대안의기획과구상이가능한지를확인한다.
인간의생태파괴적욕망은‘인수공통감염병’이라는코로나19같은반복된재앙의현실을앞으로도계속해만들어낼것이다.인간이배태한테크놀로지의균열로인해그파장은인류의통제능력범위밖으로늘벗어나려할것이다.우리스스로쌓아올린과학기술의굴레에서시작된지구생태의분노에맞서이제우리인간은무엇을해야하는가?

유튜브와페이스북의‘알고리즘의야만성’

유튜브는초창기에만하더라도우리에게어떤새로운영상미디어감각이나동영상매개형커뮤니티감각을배양할수있는새로운플랫폼의가능성만을보여주었다.그런데사업을개시한지채2년도못돼구글에인수되면서구글식알고리즘기술체계가새롭게장착되었다.여기에는구글이지닌맞춤형알고리즘의기술력이깔려있다.유튜브는‘자동재생’기능을서비스에추가하면서중간광고를제외하고각자취향에맞는콘텐츠를원없이소비할수있도록했다.
그런데문제는투명한듯보이는자동알고리즘장치에편견과관성을내재화하고재생산하는문화검열의자동화원리를꽁꽁숨겨두고있다는데있다.유튜브는개인동영상소비패턴을계산하고가입자의누적기록을분석해정확하고신속하게‘관련,추천,맞춤’등개별취향의콘텐츠목록을보여주는방식을채택하고있다.이용자가남긴기록을통한연관추천동영상들의발굴에서는탁월하다는이야기다.반대로이는치명적약점이기도한데,이용자와다른취향으로자동추천이널뛰거나이용자취향바깥에서일어나는아주다른급격한변화를관찰하기가매우어려운것도사실이다.
넷플릭스가사용하는알고리즘은‘시네매치’라고불린다.이는시장에미치는어떤주관적이고모호한판단도제거해버리고,오로지이용자취향변수만을알고리즘의결과값에반영해계산식을만든다.넷플릭스의알고리즘원리는좀더실시간으로파악되고미세한이용자행동들까지도주목하는단계로넘어간다.이들은이용자의미세한콘텐츠소비패턴들을알고리즘기술분석대상으로삼기시작했다.오늘날넷플릭스의알고리즘은더욱정교해지고‘암흑상자’처럼일반인의식별이어려워져간다.
넷플릭스는자율의영상해석주체인전통의시청자개념을완전히해체한다.그저소수태거들에의해생산된데이터와알고리즘기계에의해세분화된취향의분류틀아래서자족하는콘텐츠소비주체로만유효하다.겉으로는넷플릭스의플랫폼형식이전통적인영상미디어장치처럼보이기도하지만,실제로는전산학적알고리즘계산을통해가입자에게맞춤형콘텐츠를제시하는데이터자동화기계장치임을알아야한다.

플랫폼자본주의가만든노동의민낯

자본주의는늘신기술욕망에굶주려왔다.기술혁신은자본주의성장을유지하는원천이었다.오늘날자본주의기술혁신의자동화기계는공장담벼락을넘어빠르게사회전역으로스며드는모양새다.실제로페이스북,유튜브,트위터,카카오톡등은대중의일상데이터활동을특정의테크놀로지로중개해대중의데이터활동을생산노동으로만들고,이를특수한잉여가치로배양하는이른바‘플랫폼자본주의’를구성하고있지않은가.
유튜브·페이스북·인스타그램등에서이용자들각자자발적으로데이터와문화콘텐츠를생산해업로드하면서우리가‘재미’와‘놀이’를즐기는듯보이지만,이자발적문화‘활동’과결과물은거의모두플랫폼장치안으로흡수되면서문화나정보‘노동’으로포획되고귀속되는결과를초래한다.즉,우리스스로생산한데이터활동에대한적정한보상이이루어지거나개별소유로남기보다는주요플랫폼업자들의데이터분석을위해혹은데이터의사유화속으로흡수되는과정을거친다.우리는대부분플랫폼들에매달린채매일매일무급의데이터생산문화노동자들로전락한다.
“제4차산업혁명이우리를노예로만들고있다”는한플랫폼배달대행기사의절규처럼,플랫폼자본주의는거의모든인간일상의데이터활동을자본주의의노동으로형질전환하고있다.특히알고리즘경영은플랫폼을매개해인력정보들을수집하고연결해필요한고객에게매칭하고노동수행과정을통제하는자동화혹은인공지능알고리즘기술기반형노동관리방식이다.여기서인공지능알고리즘은계약노동자들의플랫폼활동을감시·통제하고고객의체험정보를연산처리하는고도화된자동명령어구실을한다.
오늘날자동화과정은위태로운노동을재물로삼아‘고용없는일자리’를구조화하는데일조한다.플랫폼자동화기계는‘사람이할수있는일과컴퓨터가할수있는일사이의틈’을메꾸기위한위태로운일감만을만들어내는악역을떠안을것이다.자동화논의는숙명적으로다가올‘노동종말’의상상시나리오로받아들이기보다는질적으로나빠지고위태로운기술예속형‘유령노동’의부상을어떻게현실주의적으로대면할지를따져물어야한다.

코로나19팬데믹과‘한국형뉴딜’

코로나19가사회의거의모든시스템작동을오랫동안멈춰세우고있다.최근에이만큼큰영향력과무력감을안긴감염병의재앙은쉽게떠오르지않는다.세계보건기구는지구촌바이러스감염상태의최고등급인‘팬데믹’을선언했다.문제는코로나19와같은미생물전염바이러스의전파주기나양상이더잦아지고영향이파국적이라는데있다.전지구적감염병위기는자본주의의무차별한자연개발,생명과환경파괴,공장식가축농장의비윤리적사육방식,야생동물식용거래등에기인한바크다.
코로나19팬데믹이란전지구적위기의예외상황에서우리국민의생명보호와안전논리가사회유지의절대명제가되어버리면,어떤장치와제도의도입이인권침해소지를지닌다고하더라도묵인하거나필요악으로여기는경우가종종발생할수있다.그런데‘안심밴드’와같은민감한감시기술의도입은당장에신체훈육과구속의인권침해소지도크지만,장기적으로는코로나19이후일상적인대민신체통제기법으로흔해지거나고착될수있다는점에서위험하다.‘전자팔찌’,‘전자손목밴드’에서‘안심밴드’로빠르게순화된공식명칭변경만큼이나위법논란이큰신체결합형위치추적장치를도입한것은‘방역모범국가’의이름값을위한조급증의발로이자시민들의불안을제도적으로오용하는효과와다름없다.
최근정부는포스트코로나19구상으로‘비대면·디지털SOC’에기댄‘한국형뉴딜’사업을발표했다.한마디로한국형뉴딜사업을통해사회전반에비대면지능형자동화산업을키우고개인정보의폭넓은수집과활용을도모하려고한다.그런데‘한국형뉴딜’이라이름붙이기에너무도조악한기술공학적발상에기대고있다.우리사회는성장중독과함께고도의디지털기술인프라환경을얻는대신에,그에합당한기술민주주의적가치를확보하려는노력을후순위로미루어두었다.적어도‘한국형뉴딜’의진행방향은노동인권,정보인권,생명권을해치고악화하는쪽으로밀어붙여서는곤란하다.
‘한국형뉴딜’의이름값을지니려면,사회적거리두기로심신을다친대부분의시민이경제적으로안정되고사회적으로보호받고생태위기에서안전하게벗어날수있는방향으로기술환경을전면적으로전환해야한다.감염병시대자본주의기업들은앞으로더비대면경제를원할것이다.인공지능자동화영역에민간투자가늘어날수밖에없다.따라서국가가‘한국형뉴딜’이라는이름으로국고까지써가며이들시장에투자할사안이아니다.오히려그어느때보다어려운시기를견디는사회적약자들의숨통을틔우고그들의노동인권보호와지구운명공동체적생명권보장을위한근본대책을마련해야한다.국가의뉴딜전략이제이름값을하려면바로‘유령노동자·시민’과함께하는자동화나비대면기술설계의포스트코로나19구상이어야한다.

디지털민주주의와그린뉴딜

2020년새해벽두부터소위‘데이터3법(개인정보보호법·정보통신망법·신용정보법개정안)’이국회본회의에서가결되었다.그동안개인데이터권리보호론대데이터의상업적목적활용론사이존재했던긴장관계조차이로써무너졌다.관련업계,정부,언론모두한목소리로‘빅데이터활성화골든타임’을지켰다며자축일색이다.시민사회만이침통한어조로이를20대국회‘최악의입법’이자‘개인정보도둑법’으로평가했다.하지만이번데이터3법개정은활용과보호사이의화해도아니었고,그저활용을위해보호를알리바이로썼음을확인하는자리가되었다.
데이터3법개정안이통과되었지만,여전히우리가중요하게살펴야할대목이있다.첫째,시민기본권으로서데이터보호라는정보인권적법안들을이상하게도시장‘규제완화’로다루는주류시각이다.인간보편의인권만큼동시대중요한존엄의권리인‘정보인권’을,일반시장‘규제’맥락에서다루려는경박함이우리사회를압도한다.둘째,유럽의일반데이터보호규정(GDPR)에서규정한역외데이터수출요건을맞추기위해우리정부가나서서정보통신망법을개정한것은형식상옳을수는있으나내용적으로보면대단히유감스러운조치다.셋째,국내개인정보관리실태나데이터오남용상황을고려할때데이터3법개정안은약이되기보다는독이될공산이크다.넷째,언론은신용정보법개정으로인해개인고객이금융데이터의조회·이동·관리주체가되는‘데이터주권’실현이이루어질것으로과대평가한다.크다.그런데시민각자가데이터관리비즈니스현장에서‘데이터주권’을지킬수있을지의문스럽다.
“사람들이고통받고죽어가고있습니다.생태계전체가무너지고있어요.”2019년9월23일유엔기후행동정상회의에서스웨덴의소녀그레타툰베리가격앙된어조로자연위에올라서려하고물신적가치에포획된어른들의가없는자본주의욕망을꾸짖었다.인간이쌓아올린자본주의물질문명의부산물이지구생명에말기판정을내린비공식학