알고리즘을 알아야 AI가 보인다

이영호

저자는1990년대컴퓨터DOS시절부터프로그래밍의기초를다지며한국IT산업의태동기를온몸으로겪은1세대소프트웨어전문가입니다.신촌중앙정보처리학원에서베이직,포트란,코볼등다양한언어를섭렵한후,(주)큰사람컴퓨터에서실무감각을키웠습니다.이후프리랜서프로그래머로독립하여수많은프로그램을직접설계하고개발하며현장경험을축적해왔습니다.
AI의위험성을경고한전작《챗GPT의거짓말》을통해기술의이면을꿰뚫어보는날카로운통찰력을보여준바있습니다.이러한탄탄한실무경험과철학을바탕으로,이번책에서는알고리즘의작동원리와AI생태계의이면을독자들에게알기쉽게풀어냅니다.

들어가며7
1장우리는왜갇히는가?:편향의삼각지대15
1.기술의벽:필터버블(FilterBubble)17
2.심리의자물쇠:확증편향(ConfirmationBias)-팩트는차갑고,거짓말은따뜻하다20
3.사회의확성기:에코체임버(EchoChamber)25

2장알고리즘이사라진세상:완전해체는가능한가?35
1.위험한상상:알고리즘을끄면유토피아가올까?35
2.정보의쓰나미:분당500시간의공포38
3.야생의정글:큐레이터가사라진자리40
4.선택의역설:우리는왜우리를가두는가42
5.질문의전환:제거가아니라주도권이다43

3장디지털무임노동자의탄생:우리는왜공짜로일하는가?55
1.데이터노동:우리는디지털소작농이다55
2.감시자본주의:당신의이름이아니라,당신의흔들림을훔친다58
3.넛지(Nudge):자유의지로포장된강제60
4.은폐의기술:블랙박스와매스워싱62
5.우리는주인인가,자원인가?67

4장생각하지않는사람들:알고리즘이만든바보들의감옥73
1.생각의외주화:우리는질문을멈췄다73
2.인지적위축:뇌가게을러지고있다75
3.알고리즘은거울인가,창문인가?77

5장알고리즘의두얼굴:진실의붕괴와환각83
1.환각:거짓말하는앵무새83
2.딥페이크:보는것이믿는것인시대의종말85
3.모델붕괴와포스트트루스86

6장더위험한알고리즘:통제의균열로시작되는AI의역습93
1.우리는알고리즘을너무순진하게생각했습니다93
2.로봇스토어의풍경:계급이된기술96
3.피지컬AI:현실의디지털복제,그너머의통제100
4.2족보행휴머노이드로봇:인간을닮은감시자105
5.뉴로모픽과BCI:뇌속으로들어온알고리즘108
6.생성형AI와AI에이전트:말하는AI에서행동하는AI로115
7.AI와AI가만드는세상:통제를벗어난소통117
8.주권을지키기위한첫걸음121

7장알고리즘의노예에서주인으로:주권선언129
1.어느날,내생각이내것이아니게되었다129
2.알고리즘의작동원리:매트릭스의내부134
3.인간의반격:예측불가능한존재가되라137
4.[자가진단&워크북]디지털주권회복을위한7일트레이닝145
5.다시,인간으로147

방금친구와떠든운동화가내스마트폰광고로뜰때,우리는흔히“내말을엿듣나?”라며불쾌해한다.하지만이책은그막연한직감이완전히틀렸다고단언한다.알고리즘은굳이당신의대화를도청할필요가없다.과거의동선과무심코누른클릭몇번만으로당신의심리와욕망을이미완벽하게꿰뚫고있기때문이다.수억명을도청하는데드는천문학적인비용을감수하면서까지불법을저지를이유가없다는서늘한팩트폭력이다.

이책은단순히스마트폰을멀리하자는뻔한글이아니다.우리가알고리즘이제공하는‘편리함’이라는마취제에취해있는동안,보이지않는손이어떻게우리의자유의지를교란하고조종하는지그섬뜩한메커니즘을낱낱이해부한다.책장을덮고나면,매일들여다보던스마트폰화면이전혀다른질감으로다가올것이다.

우리가몰랐던진짜얼굴:고객이아닌‘24시간무임노동자’
우리는유튜브와인스타그램,포털사이트를무료로가입하고이용한다.하지만이윤추구가지상과제인거대기업에게진정한의미의공짜란없다.그들이천문학적인서버유지비를감당하며서비스를개방하는이유는단하나,우리의일상을돈으로환산하는완벽한수익모델을구축했기때문이다.

빅테크가진짜탐내는것은이름이나전화번호같은소중한개인정보가아니다.당신이어떤자극적인제목에분노하는지,우울한밤11시에어떤영상에서스크롤을멈추는지등살아숨쉬는‘동적편향성’을캐내는데혈안이되어있다.그래야가장치명적인타이밍에당신의지갑을열수있기때문이다.우리가숏폼영상에빠져도파민을소비하는그휴식의순간조차,기업의서버에는돈이되는데이터가쉴새없이쌓인다.우리는고객이아니라,자발적으로데이터를바치는‘24시간무임노동자’에불과하다.

사고력의퇴화,그리고화면밖으로쏟아져나온통제
알고리즘이떠먹여주는편의의이면에는‘사고력의퇴화’라는무거운청구서가날아든다.길을찾기위해공간을지각하고,답을구하기위해사색하던인류는이제인공지능의요약과추천에완전히길들여졌다.내가주도적으로골랐다고믿는유튜브영상의70%는사실알고리즘이교묘하게깔아놓은레일을무비판적으로따라간결과다.생각의외주화가불러온인간정체성의상실이다.

더끔찍한것은이위협이스마트폰이라는6인치사각형화면안에머물지않는다는점이다.인간을닮은휴머노이드로봇(피지컬AI)과뇌를모방한초저전력반도체(뉴로모픽)의등장은,오프라인의내밀한일상마저24시간데이터화되는시대를예고한다.묻는말에대답만하던AI가스스로판단하고결제까지집행하는‘AI에이전트’로진화하면서,인간은삶의결정권자자리에서철저히밀려날위기에처했다.

알고리즘의노예에서주인으로:반격의기술
그렇다고이책이디스토피아적절망만늘어놓는것은아니다.거대한감시자본주의시스템에균열을내고잃어버린‘나’를되찾기위한,지극히현실적이고구체적인반격의기술을제안한다.

알고리즘이가장두려워하는것은바로‘패턴의파괴’다.평소라면거들떠보지도않던낯선장르의영상을일부러클릭하고,자신의취향을뒤섞어예측불가능한존재가되어야한다.나의패턴을지우는이러한의도적일탈이야말로인간의주체성을증명하는가장강력한무기다.그리고무의식적으로스크롤을내리기전,딱1초만멈추고스스로에게묻기를권한다.“이건내가원한것인가,아니면원하도록설계된것인가?”

결국이책은보이지않는지배자의실체를가장날카롭게파헤친,다가올미래를살아갈청소년과우리모두를위한서늘한생존교양서다.기술이던져주는달콤한편리함에그저취해있을것인가,아니면기꺼이불편을감수하고서라도내삶의운전대를다시쥘것인가.그치열한질문에대한묵직한해답이이책에담겨있다.


▶교실을깨우는독서토론발제문3가지

1.편리함과맞바꾼데이터,우리는정당한거래를하고있는가?
우리가매일무료로사용하는유튜브,SNS등의플랫폼은사실우리의일상과감정데이터를수집해이윤을창출하는‘감시자본주의’시스템으로작동합니다.알고리즘은편리함을제공하는대가로우리의취향과선택을은밀하게유도(넛지)합니다.

토론포인트:기업이제공하는맞춤형서비스와편리함을누리기위해개인의내밀한데이터와무의식적인선택권을넘겨주는것은정당한거래일까요?알고리즘이추천한영상을클릭하고물건을구매한것을온전한나의'자유의지'라고부를수있는지토론해봅시다.

2.화면밖으로나온피지컬AI,기술은평등한축복인가새로운계급인가?
알고리즘은이제스마트폰화면을벗어나인간을닮은휴머노이드로봇(피지컬AI)의형태로우리의물리적현실에진입하고있습니다.자본을가진사람은로봇을소유해부를축적하지만,그렇지못한사람은잠도자지않는로봇과일자리를두고생존경쟁을벌여야하는시대가다가오고있습니다.

토론포인트:기술의발전이인간을고된노동에서해방해줄것이라는장밋빛전망이면에숨겨진‘부의초격차’문제를어떻게바라보아야할까요?로봇소유여부가새로운신분계급이되는사회에서,배제되는사람없이인간의존엄성을지키기위한사회적·제도적안전장치는무엇이있을지이야기해봅시다.

3.통제불능의AI시대,디지털주권을되찾을방법은무엇인가?
알고리즘은체류시간을늘리기위해확증편향을부추기고우리를비슷한생각만맴도는'에코체임버(반향실)'에가둡니다.나아가AI에이전트가인간을대신해스스로판단하고결제까지진행하기시작하면서,인간은점차결정의주체에서밀려날위기에처했습니다.

토론포인트:거대플랫폼의알고리즘통제에서벗어나'디지털주권'을회복하기위해개인은일상에서어떤실천(예:랜덤다이브,의도적노이즈발생등)을할수있을까요?나아가기술에끌려다니는수동적소비자가아닌,추천의기준을직접선택할권리(미들웨어)를요구하는등기술을통제하는주인이되기위한구체적인아이디어를제시해봅시다.

▶교과연계안내(개정교육과정반영)
이책은중고등〈정보〉,〈사회〉,〈도덕〉교과와연계하여인공지능시대의윤리와미디어리터러시,그리고디지털주권을토론하기에최적화된텍스트입니다.

▼인터넷에서‘내인생의책’을검색해보세요!
https://blog.naver.com/bookinmylife