알고리즘, 생각을 조종하다 (데이터는 어떻게 우리의 심리를 설계하는가)

알고리즘, 생각을 조종하다 (데이터는 어떻게 우리의 심리를 설계하는가)

$19.80
Description
모두가‘추천 콘텐츠’를 맹신하는‘알고리즘 중독’시대,
과소비, 필터버블, 도파민 자극에서 해방되는 법
유튜브는 내가 ‘좋아요’를 누른 콘텐츠만 반복해서 보여주고, SNS에서는 방금 검색한 키워드와 유사한 게시글들을 추천한다. 모두가 맞춤형 알고리즘에 중독된 시대, 우리의 선택과 생각은 온전히 내 의지라고 할 수 있을까? 데이터 분야 세계 최고 전문가 100인에 선정된 산드라 마츠는 《알고리즘, 생각을 조종하다》에서 이렇게 말한다. “기술은 좋은 것도 나쁜 것도 아니며 중립적인 것도 아니다.” 저자는 기업과 정부가 맞춤형 심리 타깃팅과 프로파일링, 알고리즘으로 우리를 조종할 수 있다면 우리 역시 원리를 알고 기술을 우리에게 유리하게 역설계할 수 있다고 말한다. 나아가 개인정보의 주인인 우리의 권리를 지키고 정부와 기업까지 윈윈할 수 있는 긍정적인 미래를 제시한다. 저자가 특별히 보내온 서문에는 데이터 분야에서 단연 독보적인 성과를 보일 나라로 한국을 거론하고 있다.
1부는 검색 기록, ‘좋아요’, 시청 목록 같은 행동 잔여물을 모아서 익명의 개인을 구체적으로 프로파일링하는 딥러닝에 대해 알아본다. 이런 몽타주로 성격부터 성적 취향, 정신 건강 등을 모두 예측할 수 있다. 2부는 이렇게 생성된 프로필로 심리 타깃팅할 때의 빛과 그림자를 모두 보여준다. 정부와 기업은 개인의 디지털 발자국을 추적해 생각, 감정, 행동을 통제하기도 하지만, 우리 역시 저축을 늘리거나 우울증을 치료하고 민주주의를 확산하는 무기로 사용할 수 있다. 3부는 정부와 기업, 시민 모두 이익을 얻는 전략을 알아본다. 오늘도 ‘무한 새로고침’만 반복하고 시간을 낭비했는가? 알고리즘에 끌려다니지 않고 주도적으로 인생을 살아가고 싶은 이들에게 《알고리즘, 생각을 조종하다》가 최고의 해결책이 되어줄 것이다.
저자

산드라마츠

저자:산드라마츠
독일남서쪽의작은마을에서태어나자랐다.프라이부르크대학교에서심리학학사학위를,케임브리지대학교에서박사학위를받은후27세에컬럼비아경영대학원의경영학교수로부임하고,지금은동대학원에서루루초우왕석좌교수로일하고있다.현재리더십연구소와첨단기술및인간능력센터의공동소장으로있다.심리학과컴퓨터공학을전공한전산사회과학자로서인간행동을이해하기위해디지털발자국과내면생활의숨은관계를연구한다.목표는난해한데이터를해석해서개인,기업,정책입안자들이데이터를더효과적이고윤리적인방식으로사용하도록유도하는것이다.지난10년동안세계유수학술지에학술논문을50편이상발표했고,그의연구결과는<이코노미스트><뉴욕타임스><월스트리트저널><포브스><비즈니스인사이더>를비롯한주요언론에인용되었다.또한기명칼럼,기조연설,팟캐스트,텔레비전출연,컨설팅등을통해경영자,정책입안자,일반대중에게연구결과를공유하고있다.연구와교육모두에서수많은상을수상했다.사회심리학자와성격심리학자에게수여하는SAGE젊은학자상을받았고,포이츠앤드퀀츠+PoetsandQuants+의‘40세이하최고의MBA교수40인’,<캐피털>매거진의‘40세이하젊은엘리트40인’,세계개척자포럼+WorldFrontiersForum+의‘젊은개척자’,<퍼시픽스탠더드>매거진의‘30세이하최고사상가30인’,데이터아이큐+DataIQ+의‘데이터분야에서가장영향력있는100인’에선정되었다.현재남편모런서프,아들벤서프와함께뉴욕에살고있다.

역자:안진이
건축과미술이론을전공하고2004년부터전문번역가로활동하고있다.《마음가면》《포스트자본주의:새로운시작》《지혜롭게나이든다는것》《화가들의꽃》등다양한분야의책을우리말로옮겼다.

목차

추천의말
한국어판서문.디지털세상에서한국만이해낼수있는일
들어가는말.심리타깃팅을역이용하라

1부.데이터는심리를들여다보는창이다
1장.SNS에남긴‘좋아요’로성격을알수있을까?
알고리즘이죽마고우보다나를더잘알게되는이유
2장.데이터는정체성을사냥할수있는완벽한장소다
당신이좋아하는걸말해주면당신이누구인지말해주겠다
3장.우리가남긴디지털발자국을추적하는자들
우리가하는모든것이데이터다
4장.배고플때는성격도달라진다
상황(맥락)은우리를어떤사람으로만드는가

2부.심리타깃팅은흉기일까,도구일까?
5장.알고리즘으로어디까지조종할수있을까?
심리타깃팅의원리와놀라운실험결과
6장.심리타깃팅을우리에게유익하게사용하는법
저축을늘리고,우울증을개선하고,정치성향을변화시키기
7장.개인정보는어떻게차별과통제의먹이가되는가
우리가잃게되는건단지사생활만이아닌이유

3부.데이터가우리를위해일하게하라
8장.모두가개인정보를보호하기에는너무바쁘다
데이터를스스로관리하면문제가해결될까?
9장.개인정보보호와편리한서비스,둘다잡는법
취소옵션과등록옵션,그리고연합학습에대해서
10장.개인정보권력을되찾기위해모인동맹군들
와인협동조합에서집합적데이터관리의실마리를얻다

나가는말.통제권을회복할수있는희망이있다
감사의말
부록A
부록B

찾아보기

출판사 서평

왜결제버튼을눌렀을까?연인을만난건우연일까?투표는정말내의지였을까?
“오늘도‘무한새로고침’만반복했다면당신은이미알고리즘에포위되었다!”

OTT추천,구글맵,음식점리뷰등서비스를이용하려면반드시약관에전체동의해야하는지금,이런편리함을포기하고개인정보를지키려는사람은거의없을것이다.게다가과거에도텔레비전이나라디오광고등이사람들의심리를부추겨왔는데현대의심리타깃팅이더위험하다고할수있을까?심리학과컴퓨터과학을전공한전산사회과학자이자심리타깃팅분야의세계적권위자인산드라마츠는우리가가지는이런의문은더많은데이터를모으려는기업들의속임수이며,제공되는추천콘텐츠가실제로유용한지증명된적없다고말한다.우리가무심코넘긴개인정보는언제든지해로운목적아래사용될수있다.나치집권당시공식인구조사에종교를추가했던네덜란드에서무려유대인의73퍼센트가사망했던것(200쪽),2022년미국연방대법원이임신중단을불법화하는판결을내려수백만여성이자신의생리주기앱데이터때문에불안에떨어야했던일(201쪽)등이대표적이다.저자는애플,페이스북,구글이정권에데이터를넘기는것을상상해보라며,‘데이터는영구적이지만정권은영원하지않다는점을항상기억하라’고당부한다.(201쪽)

또전통적인심리타깃팅이모두에게공개적으로노출되며획일적으로접근하는반면현대의심리타깃팅은데이터의주인인우리가알수없는방식으로암암리에개인별로이뤄진다.우리는다른사람들이어떤알고리즘에갇혀있는지모른다.자신이좋아하는콘텐츠에만고립되는필터버블과반향실효과는현대심리타깃팅의부작용이다.미국명문대출신대학생이입사면접에서조울증이있다고밝혔다가그기업의알고리즘이그를불합격시킨탓에좌절하고자살한사건,중국이정부에반기를들가능성이있기만해도감시,통제하는정책,2016년트럼프당선에결정적역할을한홍보회사의가짜뉴스반복노출사건(210쪽)등은모두우리가일방적으로당하고있는현실을적나라하게보여준다.
저자는현대심리타깃팅을‘어떤길을다른길보다더매력적으로보이게하는일’에비유한다.한인간이일일평균3만5,000개의결정을내린다고할때,기업과정부는우리를뜻대로유도하기위해나머지3만4,000개의자유로운선택을지워버린다.(207쪽)그선택이단지무엇을살지말지를넘어,누구를배우자로고를지,돈을어디에투자할지,누구에게투표할지처럼인생의큰경로라면어떨까?저자가‘삶의주인이되려면개인정보보호가필요하다’고목소리를높이는이유다.

“알고리즘은삶의무기가될수있다!”
저축은늘리고우울증은치료하고민주주의까지확대하는데이터역설계법

기술은중립적이라고믿는저자는심리타깃팅을선한목적으로이용하면더나은세상을만들수있다는것을증명하기위해저축률을높이고민주주의를확대하는실험에돌입했다.저자는재무건전성이떨어지는이들의성격프로필을해석해유독저축률이취약한성격유형을가려냈다.흔히성실성여부라고생각한것과달리실제론우호성이높은이들의재무상태가나빴는데,그들은사회적관계를중시하느라‘돈은아무리가져도부족하다’‘돈으로살수없는건거의없다’같은명제에동의하지않기때문이다.저자는이들의저축률을높이기위해‘돈을모아야사랑하는사람들을보호할수있다’라는메시지를새로내보냈고,그결과성격맞춤형메시지를받지않은대조군과비교해무려275퍼센트의큰성과를올렸다.(167쪽)

다음은정신건강개선이다.심리타깃팅을이용해정신건강문제를예방하고병을쉽고빠르게치료하는시스템을구축하는것이다.많은헬스케어앱처럼유전자,환경,심리,생활방식에대한인사이트를활용하면실현할수있다.MIT에서는센서가장착된스마트폰으로심박수,체온,수면등을24시간관리해스트레스,불안,우울증여부를진단하는연구를한다.생성형AI기반의정신건강챗봇도이미상용화되어있다.2021년미국성인의22퍼센트가정신건강챗봇을사용한적있고,외상후스트레스장애까지치료가능한저비용도구가최근개발되기도했다.이런챗봇들은단지치료를넘어정신과방문이어려운사회경제적취약계층,낙인이두려운사람들에게유용한선택지가될수있다.(177쪽)

정치에서도긍정적인변화를이끌수있다.알고리즘과심리타깃팅이낳은필터버블과반향실효과가민주주의를극단과혐오로분열시킨다는걸안저자는이를역설계해서로공감하고이해할수있는첫걸음을내딛는다.그동안은누가무엇을보는지알수없던것과달리서로의알고리즘을들여다볼수있게장치하는것이다.이사고실험에서중요한건스크롤할수있는다이얼이다.평상시에는‘내취향맞춤형콘텐츠’로버튼을놓다가필요할때‘내가평소에절대보지않을콘텐츠표시’까지밀기만하면다른사람들이보는콘텐츠를공유할수있다.이장치가신념을바꾸기에는역부족일수도있지만적어도타인의현실을무시해버리지는않게한다는점에서충분히의의가있다.저자의사고실험이실현된다면민주주의를확산하는데심리타깃팅이이용되는최초의게임체인저가될것이다.(183쪽)

“전체동의하지않아도편리한서비스를이용할수있을까?”
개인정보는지키면서콘텐츠를즐기는기업,정부,시민의윈윈전략!

저자는참가자1,000명을상대로GPS동선,검색기록,SNS정보등데이터를넘기면현금을즉시지급하는실험을했다.사전에‘프라이버시는중요하다’라는것에동의했던것과달리참가자들의평균85퍼센트가데이터를쉽게판매해버렸다.(221쪽)단지데이터의가치를강조하는것만으론기울어진데이터운동장을바로잡기에역부족이라는걸깨달은저자는전제를새로설정했다.개인정보를일일이지키기에사람들은너무바쁘며광속으로발전하는데이터시장을이해하기에우리뇌의진화속도가아직원시수준에머물러있다는‘프라이버시의역설’이다.(224쪽)저자는‘설계된프라이버시’라는원칙에서실마리를얻고‘사용자가개인정보를보호하려고아무것도할필요없게’하는것이판을뒤집을열쇠라는걸알았다.핵심은인간의관성을이용하는것이다.장기기증을하려면신청자가직접등록해야하는‘등록옵션’나라인독일과미국보다전국민을장기기증자로등록한뒤취소가능성을열어둔‘취소옵션’나라인영국과오스트리아에서기증비율이더높은것처럼개인정보역시‘등록옵션’이기본값이되어야한다는것이다.(234쪽)

그런데개인정보를넘기지않으면많은서비스를포기해야하는데불가능하지않을까?저자는이미넷플릭스와애플등거대테크기업에서이용하고있는‘연합학습’기술을예로들며충분히할수있다고말한다.이기술을이용하면기업은개인정보보안에비용을낭비하지않으면서서비스를개선할수있고,고객은개인정보를넘기지않아도맞춤형콘텐츠를추천받을수있다.(238쪽)

정부는개인데이터를수집하는기업에세금을부과하고,반독점법을실행해거대테크기업들이개인정보를독점하지않도록별도의회사로분리해야한다.미국의경우데이터브로커들은사용자의개인데이터를최대한많이수집해이윤을남기는데,미국항공업계전체의매출액또는방글라데시GDP와동일한금액인약2,500억달러의수익을창출하는이산업에세금을2퍼센트만부과해도50억달러의추가세수가확보된다.이돈은다른부문에서세금을낮추거나개인정보보호기술을개발하는데사용할수있다.반독점법역시산업의후퇴를우려한것과달리1982년처음실행된이후실리콘밸리의혁신은멈추지않았다는걸모두가알고있다.(249쪽)

시민인우리가할수있는일은무엇일까.열쇠는‘데이터협동조합’에있다.협동조합은조합원들에게가장큰이익이되도록행동할법적의무가있고,조합원들은조합의운영방식에대한부분적인통제권을갖는다.의료협동조합,신용협동조합처럼우리가조합으로뭉친다면정부와기업에대항할협상력을갖출수있다.사람들의데이터를사용해창출되는인사이트를기업과정부만이용할수있었던것과달리협동조합을만들면우리가누리는것도가능해진다.데이터시장이빛의속도로발전하는지금,정부와기업,시민에게는새로운사회계약이필요하다.모두가이익을얻을수있고,우리는삶에대한통제권을되찾는기회를잡을수있을것이다.(255쪽)