알고리즘 포비아 (AI는 어떻게 인간을 지배하는가)

알고리즘 포비아 (AI는 어떻게 인간을 지배하는가)

$20.00
Description
알고리즘은 우리 삶을 윤택하게 해줄 혁신 과학일까, 아니면 자율성을 침해하는 통제의 기술일까.
일터와 가정, 관계와 감정 속까지 깊숙이 파고드는 알고리즘의 이면을 파헤친다.
AI에 모든 의사결정을 위탁하는 시대, 인간의 불안은 여전히 해소되지 않았다.
AI 알고리즘은 더 효율적이고 편리한 생활을 영위하게 해주는 혁신 과학, 모든 불확실성을 관리할 수 있는 유토피아와 같은 존재로 비친다. 그러나 그 이면에는 알고리즘이 개인을 향한 감시와 통제를 강화하고, 개인의 주체성마저 침해할지 모른다는 불안과 공포가 숨겨져 있다.

호주 사우스오스트레일리아 대학교 사회학과 석좌교수 앤서니 엘리엇은 《알고리즘 포비아》에서 이 불편한 진실을 드러낸다. 우버의 자동화 관리 시스템, 아마존의 노동 통제, 넷플릭스의 추천 알고리즘 등 현실의 기술 사례는 물론, 드라마 〈오징어 게임〉에 투영된 경쟁과 통제의 은유, 그리고 메타버스와 챗GPT로 대표되는 최신 인공지능 기술까지-엘리엇은 실제 현상과 문화적 상징을 함께 분석하며 알고리즘이 인간의 삶을 어떻게 재편하는지 보여준다.

저자는 AI 기술이 약속하는 ‘편리함’과 ‘효율성’의 그늘에 인간이 점점 더 통제와 감시의 구조 속에 편입되고 있다고 지적한다. 알고리즘은 더 나은 선택을 돕는 듯하지만, 실상은 우리의 행동을 예측하고 조정하며, 스스로 생각하고 판단하는 힘을 약화한다. 효율의 대가로 인간은 주체성을 내어주고, 감정과 욕망, 실수마저 제거된 삶 속에서 점점 ‘데이터화된 존재’로 변모한다. 이 책은 기술 찬양의 이면에서 우리가 잃고 있는 가치가 무엇인지 보여준다.
저자

앤서니엘리엇

저자:앤서니엘리엇
사우스오스트레일리아대학교사회학과석좌교수이자대외협력학장으로,동대학장모네우수성·네트워크센터의전무이사를겸하고있다.2023년교육·사회과학정책·연구분야의공로를인정받아오스트레일리아훈장회원으로선정됐으며,2024년멜버른대학교로부터평생공로상을수상했다.호주에서태어나멜버른대학교에서학사,케임브리지대학교에서박사학위를취득했으며,앤서니기든스경AnthonyGiddens의지도를받았다.과거호크연구소소장,플린더스대학교사회학과장을역임했다.BBC월드서비스,선데이타임스,ABC라디오내셔널,디오스트레일리언등주요매체에다수출연하며국제적으로활발히활동하고있다.국내에번역된저서로는《현대사회이론의모든것》,《사회론》등이있다.

역자:이정민
인하대학교역사학과를졸업하고고려대학교국제대학원에서국제평화안보를공부했다.MBC문화방송시사교양국지구촌리포트구성작가와보도국국제팀번역작가로재직했으며,외교통상부산하핵안보정상회의준비기획단홍보에디터를거쳐현재는바른번역소속전문번역가로활동중이다.옮긴책으로는《무지의역사》,《팔로알토,자본주의그림자》,《40가지테마로읽는도시세계사》,《부패권력은어떻게국가를파괴하는가》,《스트리밍이후의세계》등이있다

목차

추천의말
서문과감사의글

1장알고리즘의지배,만연한불안
우버의시스템은잘못될리없다?
우버랜드를지탱하는기술적이데올로기
알고리즘은우리를불안을어떻게자극하는가
알고리즘자동화에인간의주체성을맡기면?
디지털혁명이바꾼것들
디지털시대의불안을탐구할때익혀야할용어두가지

2장아마존의가혹한자동화시스템
자동화시스템에서살아남기
노동자들을관리하고통제하는알고리즘
디지털기술이불러온비극
아마존은내영혼을짓밟았어요
쓸모없음에대한불안
인간의주체성회복마저도구화되는현실

3장넷플릭스의추천시스템이현대문화를소비하는방식
넷플릭스의예측알고리즘,성공을견인하다
알고리즘추천과주체적인간사이에서
알고리즘이라는마법의주문

4장<오징어게임>을통해본알고리즘시대의정체성과정서
<오징어게임>속보여준AI의정밀한통제
<오징어게임>으로바라본현대인들의내면세계
알고리즘시대의치열한생존전쟁
알고리즘경쟁이불러온전세계의폭력성
파괴적세상으로질주하는기술사회

5장메타버스,인류의미래를다르게상상하다
메타버스로가속화되는디지털세계
메타버스,문화의전환을일으키다
아날로그세계를벗어나3D가상세계로도피하다

6장인공지능,상생할것인가지배할것인가
인공지능과인간지능의무너진경계
인간지능과기계지능을다시생각하다
챗GPT의등장,그리고불안과기대

7장끊임없는자기수정이필요한인공지능의시대
생성형AI를향한불안감
실존적불안과불확실성에사로잡히는현대인들
알고리즘세계의두려움
감시사회에대한두려움
정보에서소외될지모른다는두려움
해킹당할지모른다는두려움
디지털시대의두려움,이악순환을끊으려면

주석

출판사 서평

요즘뉴스를보다보면,‘스마트’‘알고리즘’등의말들이점점불길하게들린다.로봇청소기가집안을촬영하며사생활을무단수집하고,인사평가시스템이직원을점수화하여해고하며,유럽의주요공항이사이버공격한번에마비된다.AI알고리즘기술은효율성을가져다주는대신불안이라는대가를요구하고있다.인간이만든알고리즘은이제인간을관리하고,측정하며,판단한다.AI기술이인간의문화,제도에미치는영향에대해연구해온호주사우스오스트레일리아대학교사회학석좌교수앤서니엘리엇이알고리즘과불안사이의복잡한상호연결성을신간《알고리즘포비아》에서낱낱이파헤친다.

AI알고리즘은인간이만들어낸가장강력한예측장치이지만,그예측이인간의삶을불확실하게만든다.앤서니엘리엇의《알고리즘포비아》는바로이역설을해부하는책이다.저자는기술을비난하지않는다.대신인공지능을둘러싼사회적불안,감시와효율의문화가인간의내면을어떻게재구성하는지를추적한다.AI는인간을대체하는기계가아니라,인간의불안을정밀하게측정하고학습하는거울이다.엘리엇이말하는‘알고리즘포비아’는인간이AI알고리즘에의사결정의자유를위탁한대가로생긴집단적불안의이름이다.

알고리즘은인간의주체성을흡수한다
우버기사알렉산드루는제대로된해고사유도듣지못한채우버의평가시스템오류로자동해고됐다.우버측의“시스템이잘못됐을리없다”라는말한마디가법보다강력했다.저자는이사건을통해현대사회의통제방식이어떻게‘자동화된권력’으로변모했는지보여준다.알고리즘은공정함을약속하지만,실제로는책임없는감시체제를확립한다.이세계에서인간은자신의행동을끊임없이감시하며,기계의판단을내면화한다.감시는외부의억압이아니라내면의습관이된다.엘리엇은이현상을‘지능형자동화의카프카적질서’라고부른다.명령은투명하게주어지지만,이유는아무도모른다.사람들은오류의원인을자신에게서찾고,죄책감과불안을스스로갱신한다.

이같은감시의논리는아마존물류창고의노동자통제알고리즘에서도발견할수있다.작업자는스캐너로물건을찍을때마다움직임이기록되고,몇초동안멈춰있으면즉시경고가뜬다.휴식시간조차데이터로계산되며,알고리즘은‘비효율’이라는이름으로인간의리듬을교정한다.기계가인간을관리하는구조속에서피로,불안,수치심이모두‘생산성지표’로변환된다.엘리엇은이것이단순한노동의자동화가아니라,자기감시가내면화된새로운형태의통치라고말한다.우버의운전석과아마존의창고는서로다른공간이지만,그위에서작동하는알고리즘은하나의언어로인간을관리한다.그언어는효율과투명성을약속하지만,실제로는인간의불안을자원으로삼는다.

넷플릭스의추천콘텐츠시스템은취향을설계하는장치이다
넷플릭스의추천콘텐츠시스템은기술이감정구조를어떻게조작하는지보여주는대표적사례이다.추천콘텐츠시스템은단순히취향을반영하는도구가아니라,취향을설계하는장치이다.알고리즘은시청이력과반응을학습해“당신이좋아할만한것”을제시하지만,그선택의경로는이미미리설계되어있다.우리는자유롭게고른다고믿지만,사실은예측된선택을수행하는셈이다.저자는이를‘예측의유혹’이라부른다.불확실성을없애주겠다는약속은달콤하지만,시스템은오히려불안이유지될때만작동한다.플랫폼은우리의지루함과불안을계산해새로운자극을제공하고,그자극은다시클릭을부른다.이순환속에서인간은자유로운주체가아니라,알고리즘이설계한욕망의소비자로변한다.결국추천시스템은편리함의기술이아니라불안을관리하는감정의기계가된다.

알고리즘사회의정체성
전세계적으로인기를얻은넷플릭스드라마<오징어게임>속참가자들은자유롭게선택했다고믿지만,그들의모든결정은게임의규칙속에이미예측돼있다.엘리엇은이작품을통해현대인의경쟁과불안을시뮬레이션하는알고리즘적구조를해석한다.게임의폭력성은단순한잔혹함이아니라,예측가능한삶에대한인간의복종을드러낸다.참가자들은생존을위해자신을시스템에맞추고,그안에서타인을제거하면서불안을잠시잊는다.이과정은디지털사회에서우리가성과와인정을얻기위해수행하는일상의경쟁과다르지않다.카메라와센서가참가자들의모든움직임을기록하듯,우리의온라인행동역시끊임없이평가되고축적된다.이세계에서인간의감정은통제의도구가되고,불안은경쟁의연료가된다.우리는생존을위해싸우는것이아니라‘알고리즘에적합한인간’으로살아남기위해조정되는존재가된것이다.

이러한‘적합한인간’은이제현실을넘어,가상공간에서도존재를유지해야한다.메타버스가바로그예이다.그곳은현실의불안을해소하기위한대안처럼보이지만,실제로는같은규칙이다른이름으로작동하는공간이다.사용자는자유롭게자아를설계하고관계를맺는다고믿지만,그모든행위는플랫폼의코드안에서제한된다.메타버스속의인간은더많은자유를누리는듯하지만,그자유는철저히예측가능한자유다.정체성이아바타로변환될뿐이다.저자는이를불안을감추기위해만들어진새로운무대라부른다.현실의긴장을피하러들어간그곳에서,인간은결국또다시알고리즘의질서속에서자신을조정한다.즉,메타버스는탈출구가아니라불안이디지털형식으로재현된또하나의현실인셈이다.

속도와효율의시대,불안은일상이되었다
현대사회는시간에쫓기는사회이다.기술은우리의시간을절약해줄것처럼보이지만,오히려더많은결정을요구한다.메시지하나,클릭하나마다우리는예측알고리즘의피드백을받는다.이과정에서인간은‘즉각성의중독자’가된다.사유의시간은사라지고,선택의순간만남는다.이같은현상을지적하며저자는프랑스철학자베르나르스티글러의말을인용한다.“네트워크는인간의몸보다400만배빠르게움직인다.결국인간은속도에패배한다.”《알고리즘포비아》는이패배의심리적결과를추적한다.속도에뒤처질까두려워하는감정,끊임없이업데이트해야만존재할수있다는강박,그리고‘나보다나를더잘아는기계’앞에서느끼는모멸감.이모든감정은기술이아니라불안이라는사회적에너지를통해작동한다.

알고리즘시대의친밀성해체
알고리즘의확장은인간관계에도영향을준다.SNS의‘좋아요’와스트리밍서비스의추천알고리즘은인간의친밀성을점수로변환한다.사랑,우정,공감조차예측가능한패턴으로정리된다.저자는인간은점점더쉽게연결되지만,점점덜친밀해지고있다고진단한다.감정의깊이가사라지고,교류의의미가데이터흐름으로단순화된사회에서,개인의정체성은끊임없이자기수정상태에놓인다.‘나’는더이상기억과경험의총합이아니라,플랫폼이기억한나의데이터흔적으로존재한다.이것이저자가말하는‘불안의알고리즘’이다.인간의정체성은알고리즘의추천과예측속에서재구성되고,그결과자아는점점희미해진다.

기술낙관주의를넘어인간의미래를묻는다
저자는기술비관론자도,낙관론자도아니다.그는인공지능을현대사회의집단무의식으로본다.AI는인간의욕망과두려움이투사된사회적거울이며,우리가스스로만든신화다.그의비판은기술을거부하자는게아니라,기술이인간을재정의하는방식을자각하라는데있다.예측알고리즘의세계에서자유는여전히존재하지만,그것은의식적으로싸워얻어야하는대상이다.엘리엇은말한다.“인간은기술을통제한다고믿지만,사실은기술이인간의불안을통제한다.”우리가불안을피하려는바로그욕망이,기술을성장시키는가장강력한연료가된다.

이책은사회학의본질로돌아가‘오늘의불안은어디서오는가’를묻는다.예측알고리즘이인간의불확실성을제거한다고믿는순간,인간은‘계산가능한존재’로자신을축소한다.저자는이현상을“예측이인간을훈육하는새로운형태의사회질서”로규정한다.그의분석은냉철하지만,근본에는인간에대한신뢰가있다.그는불안을제거하려하지말고,그것을성찰의에너지로전환하라고제안한다.불안은인간이자유롭기때문에느끼는감정이며,바로그자유를유지하기위한경계의감각이기도하다.“우리는왜자신을예측가능한존재로만들고있는가?”이질문은기술의미래가아니라인간의미래를묻는다.