생각을 외주화한 사람들 : AI는 어떻게 우리의 사고와 판단을 마비시키는가

정재민,김영주

저자:정재민
카이스트문술미래전략대학원교수다.방송사PD와신문사기자를거쳐플로리다대학교(UniversityofFlorida)에서언론학박사학위를취득했다.웨스트플로리다대학교커뮤니케이션학과와서울여대언론영상학부교수,카이스트정보미디어경영대학원장,문술미래전략대학원장,인문사회융합과학대학장을역임했다.저서로《AI저널리즘의수용과영향》,《메타버스쫌아는십대》,《인공지능시대,십대를위한미디어수업》등이있다.

저자:김영주
한국언론진흥재단수석연구위원이다.카이스트문술미래전략대학원과이화여자대학교커뮤니케이션미디어학부에서겸직교수로강의하고있다.서강대학교에서언론학박사학위를취득했다.힌국언론진흥재단미디어연구센터장,뉴스제휴평가위원회운영위원,한국언론학회부회장,문화체육관광부규제개혁위원회위원등을역임했다.저서로《AI저널리즘의수용과영향》,《뉴스이용행태변화와뉴스회피》,《한국사회의디지털미디어와문화》등이있다.

프롤로그당신만그런게아닙니다

Part1속도와무게에짓눌리다
1장.즉시성의유혹_일단보게만드는설계
진동은생각보다먼저온다｜즉시성이란무엇인가｜왜우리는즉시성에취약한가｜즉시성의폐해는세대를초월한다｜실천전략:즉시성의유혹에서벗어나는방법｜나가며:판단이먼저,반응은나중에｜2장예고:시간을압축하는대가

2장.시성비의딜레마_시간을압축한만큼지불하는비용
2배속세상,0.8배속이해｜시성비를좇는사람들｜왜시성비에빠져드는가?｜시성비가초래한결과｜실천전략:과속사회에서나를지키는방법｜나가며:경험은압축할수없다｜3장예고:과잉의늪,무엇을덜어낼것인가

3장.과잉의파도_선택을마비시키는정보홍수
넘치는정보,멀어지는결정｜선택의역설｜이메일의폭정｜뉴스의범람｜왜과잉에서헤어나지못하나?｜디지털사재기와구독과잉｜너무많은것에는대가가따른다｜실천전략:선별하고몰입하는법｜나가며:적게,깊게,의도적으로｜4장예고:더많이연결될수록더고립되는이유

4장.초연결의굴레_연결되어있지만혼자인사람들
수진의하루:비교의덫｜임계점을넘은연결과부하사회｜연결의역사:고독에서초연결까지｜왜우리는초연결에취약한가｜초연결이초래하는결과｜비교의피로:연결이만든새로운고통｜홀로존재하지못하는사람들｜실천전략:단절의리터러시와연결의재설계｜나가며:통제권을회복하라｜5장예고:추천이앗아간취향의주권

Part2생각을설계당하다
5장.추천의덫_취향을갉아먹는필터
추천에길들여지다｜‘너무많아서’그리고‘너무믿어서’｜친절한알고리즘이무서운이유｜음악은알고리즘을타고｜알고리즘이좁혀놓은음악세상｜일상에숨어있는추천의그림자｜알고리즘은죽음까지추천한다｜알고리즘을벗어나기위한‘무작위’실험｜실천전략:나의세계를확장하는방법｜나가며:익숙함을벗어나낯선즐거움으로｜6장예고:편향의미로속으로

6장.확증의엔진_동의만소비하는편향된뇌
‘나는틀리지않아’｜우리의뇌에각인된생존회로｜소셜미디어시대의확증편향｜편향은어떻게증폭되는가｜분노가만든분열:정서적양극화｜진실도편향을막진못한다｜편향의감옥탈출:희망이보인다?｜실천전략:확증의엔진을끄는방법｜나가며:불편과불안을견디고세상밖으로｜7장예고:인기의착시

7장.인기의착시_숫자가신뢰를가장하는순간
5점의배신,우리는무엇을먹은걸까?｜플랫폼이설계하고조작이부풀리는‘가짜인기’｜우리는왜별점을맹신하는가｜인기는어떻게만들어지는가｜인기는어떻게‘초정상자극’이되었나｜우연이필연으로굳어지다｜알고리즘이만드는인기편향｜AI가인기를만든다｜인기의착시는투표소앞까지진격했다｜실천전략:인기에현혹되지않고인기를즐기는방법｜나가며:숫자의노예에서경험의주인으로｜8장예고:최적화와개인화의덫

8장.맞춤의그림자_개인화라는이름의차별
“내딸에게무슨짓을한겁니까?”｜디지털흔적이당신을분류한다｜맞춤형차별:보이지않는선택지들｜차별의자동화｜분류되고,범주화되고,타깃이되다｜왜이런일이끊임없이반복되는가?｜실천전략:맞춤의그림자에서벗어나는방법｜나가며:분류되지않을권리｜9장예고:가짜가진실을삼키는곳,가면의공장

Part3그럴듯함에흔들리다
9장.가면의공장_가짜뉴스와딥페이크
거짓은권력만큼이나오래된도구다｜가짜의시대:진실이사라진세상｜정보조작의스펙트럼:거짓의다양한얼굴｜가면공장의작업도구들｜왜우리는가짜에당하는가｜세가지치명적인상처｜실천전략:가면을벗기는방법｜나가며:진실을지키는것은우리의몫｜10장예고:AI는왜그토록당당하게틀리는가

10장.환각의늪_자신있게틀리는AI할루시네이션
AI가거짓말하는법정｜그럴듯한거짓이넘치는시대｜속을수밖에없는교묘한함정들｜할루시네이션과과의존이초래한결과들｜실천전략:환각의늪을건너기위한방법｜나가며:질문을멈추지않는것｜11장예고:생각을외주화하는대가

11장.생각의외주화_AI에게판단을맡긴대가
오늘당신은몇번스스로생각했는가｜편의에서시작해퇴화로끝난다｜AI과의존의현장｜왜우리는과의존에빠지는가｜나도모르는사이AI에길들여진대가｜실천전략:생각하는인간으로남기위한훈련｜나가며:주도권을놓지않기위하여

에필로그여전히살아가야할우리에게

★언론인손석희,장동선·정재승·정준희교수,이정환·정혜승대표강력추천!★

니콜라스카의《생각하지않는사람들》이후16년,
생성형AI시대를정조준한사유주권회복선언!

“인터넷이사유를얕게만들었다면,
AI는우리의사고와판단을마비시키고있다”

뇌과학부터사회학까지,융합학문의증거로파헤친
AI시대인간다움의제1원칙,“스스로생각하라”

디지털미디어와AI가휩쓸고간자리,
당신의‘생각’은안녕한가요?!

오늘날우리는사상유례없는거대한지능의도전을마주하고있다.알고리즘이추천해주는대로상품을주문하고,맛집에가며,콘텐츠를감상한다.무언가판단해야할때도먼저AI에게물어보고,이메일작성이나회의자료를준비할때도AI에게초안을맡긴다.애써무언가를기억하려는노력조차멈추었다.전화번호는저장버튼만누르면되고,길찾기는지도앱만켜면해결된다.
저자들은이러한일상적편리함의이면에숨겨진실존적위기를날카롭게포착한다.“내기억의저장소는나의뇌가아니라저밖어딘가의데이터센터로옮겨가있다.”더심각한문제는생각자체를외주화한다는점이다.복잡한문제를마주했을때스스로고민하는대신즉시검색한다.“이문제를어떻게해결하지?”라고숙고하는대신“이문제의해결방법”을검색한다.고민하고,연결하고,추론하는과정없이답만찾는다.이러한행위에익숙해지는사이우리는자신도모르는사이AI에사고의주권을넘겨주는‘지능의자진반납’상태에빠져들고있다.
《생각을외주화한사람들》은현대인이일상에서마주하는원인모를공허함,만성적인브레인포그,주의력결핍,자녀들의스마트폰중독이결코개인의의지력부족이나나약함때문이아니라고진단한다.그것은인간의뇌구조와인지적취약성을정교하게파고들어우리를기술앞에가두고조종하기위해설계된빅테크기업들의기술적‘덫’이가져온필연적결과다.디지털디톡스라는일시적처방을넘어,이제우리는인류가직면한‘판단력과사고상실의위기’를정면으로직시해야한다고독자들에게질문을던진다.

‘인간은언제패배하는가?’
11개챕터마다위기를진단하고,해법을제안한다
이책은단순히기술의위험성을경고하는데그치지않는다.미디어·커뮤니케이션학,뇌과학,심리학,사회학,경제학등방대한융합학문적증거와실증연구를바탕으로,현대인의삶을잠식하는11가지기술의덫을낱낱이파헤치고대안까지함께제시한다.

“누군가당신의주의력을,당신의시간을노리고있다”
1부<속도와무게에짓눌리다>는우리의평범한일상에서시작한다.‘즉시성,시성비,정보과잉,초연결’이라는기술의덫이부지불식간에우리를길들이고사고의깊이를얕게만드는과정을자세히들여다본다.머리보다몸이먼저반응하는현상,하루종일바빴는데아무것도한게없는것처럼느껴지는이유,점점더결정장애에시달리는원인등을살펴본다.

미디어를열때마다쏟아지는분노와혐오,과연‘당신의진짜생각’일까?
2부<생각을설계당하다>는개인의위기를넘어사회적병리현상으로시선을확장한다.추천알고리즘과확증편향의엔진이어떻게우리의취향을좁히고좁은세상에가두는지드러내고,또한요즘더욱심각해지는세대·젠더·정치간의갈등이실은플랫폼이수익을위해만든‘설계된분노’이자개인화라는이름의‘자동화된차별’과무관하지않음을다양한실증연구로증명한다.
특히영국법정이인스타그램의우울증유발콘텐츠추천알고리즘을한소녀의죽음에직접적인원인으로지목한사건등은빅테크의‘설계결함’을법적으로인정한역사적판례들이다(5장참고).
이러한설계결함은사회적소통마저왜곡하고정서적양극화를초래했다.서던캘리포니아대연구팀이120개의가짜계정을정치성향별로나누어진행한알고리즘추적실험은이를뒷받침한다(7장참고).플랫폼의미세한개입으로도우리는극단적인분노와혐오에빠질수있다.
그뿐인가.알고리즘이제공하는‘최적의개인화맞춤서비스’가어떻게‘정교화된차별’로작동하는지폭로하는8장도충격적이다.기술이나의취향과데이터를분석해울타리를칠때우리는자신도모르는사이에기회를박탈당하거나타인에대한편견을키우고있었다.

‘생각근육’을잃어버린세대를위한제언
마지막3부<그럴듯함에흔들리다>는딥페이크와AI할루시네이션이범람하는가짜의세계가현실의인간을어떻게흔드는지살펴보고,생각을통째로AI에내맡기는과의존의문제를함께다룬다.근육을쓰지않으면약해지듯,생각하는능력도마찬가지다.본문마지막에이르러“생각하는능력은인간의존엄”이라고말하는저자들은우리가인간다움을지키고‘스스로생각하는존재’로남기위한기술적·철학적대응책을진지하게모색한다.
저자들은“스마트폰을버리거나AI를거부하는것은불가능하다”고말한다.대신,기술의설계도를읽어내고내안의‘생각근육’을단련할때,AI는비로소지배자가아닌인간을위한강력한‘도구’가될수있음을강조한다.

위기의시대,나를지키는가장단단한사유의지도
《생각을외주화한사람들》은출간전먼저읽어본각계전문가들의진정성있는추천사가더해져책의신뢰를높였다.정재승카이스트뇌인지과학과교수는“인간정신의가장성찰적인기능까지외주화하고있었다는서늘하고도우아한기록”이라전했고,이정환성공회대학겸임교수는“진짜문제는집중력이아니라판단력이다.도둑맞은집중력을걱정할시간에이책을읽고통찰의근육을키우자”고강조했다.이어뇌과학자장동선박사는“스스로생각하기를멈추지않는습관이인류의미래를결정함을경고하는책”이라며일독을권했다.손석희언론인은이책이“초기AI시대,기술과인간의전쟁에서나를지키기위한무기”가될것이라극찬했다.