인공지능 파놉티콘 (기술 독재와 감시 권력에 저항하는 상상과 실천)

인공지능 파놉티콘 (기술 독재와 감시 권력에 저항하는 상상과 실천)

$19.80
Description
모든 데이터를 수집·분류·저장하는 빅데이터-인공지능 시대,
일상에 편재한 감시의 역학을 뒤집는 주체적 시민 선언
오늘날 만인을 대상으로 한 빅데이터-인공지능 감시가 일상화되었다. 국가는 공공의 안녕과 질서를 목적으로 방대한 개인정보를 수집하며, 기업 역시 효율적인 마케팅을 위해 데이터를 기반으로 우리의 행동을 예측·조작한다. 나아가 각종 혜택을 누리기 위해, 타인과 소통하기 위해 사람들은 자발적으로 정보와 사생활을 노출한다.

《인공지능 파놉티콘》은 벤담의 파놉티콘을 분석 틀로 삼아 17세기 산업혁명 시대부터 20세기 말 정보화 시대까지 감시 기제의 변천사를 고찰한 후, 2010년대 빅데이터와 인공지능 기술의 부상으로 더욱 교묘하고 침입적인 방향을 향하는 현대사회의 감시 문제를 다룬다.
우리는 어떤 서비스를 이용하기 위해 기나긴 약관에 동의를 누를 수밖에 없고, 잊을 때쯤이면 거듭 불거지는 개인정보 유출 사건에 무력감을 느끼며 자율성이 박탈된 상황에 체념하기도 한다. 그러나 감시에 이용되는 기술을 전유해 역감시의 수단으로 사용하는 등, 현대의 감시 권력에 우리가 저항할 방법은 여전히 있다. 우리는 프라이버시라는 개념을 ‘관계적’인 것으로 새롭게 인식하고 실천해 독립적·비판적 능력과 자율성을 지켜야 한다. 그것이 21세기 민주주의의 새로운 조건임을 이 책은 강조한다.
저자

홍성욱

과학기술학자.서울대학교물리학과를졸업하고같은학교대학원과학사및과학철학협동과정에서석사·박사학위를받았다.캐나다토론토대학교교수를거쳐현재서울대학교과학학과교수로재직중이다.‘과학기술과사회네트워크’회장을지내고있으며,북리뷰전문잡지〈서울리뷰오브북스〉를창간해서초대편집장을맡았다.지은책으로《우리는재난을모른다》《홍성욱의그림으로읽는과학사》《실험실의진화》《홍성욱의STS,과학을경청하다》등이있고,함께지은책으로《미래는오지않는다》《과학으로생각한다》등이,함께옮긴책으로《과학혁명의구조》《판도라의희망》《알고리즘,패러다임,법》《도덕을왜자연에서찾는가?》등이있다.《인프라스트럭처처럼지탱하기》(가제)라는저서를준비중이다.

목차

개정판서문
초판서문
들어가며

1장계몽의빛에서감시의시선으로
2장제러미벤담의파놉티콘
3장공장의파놉티콘:감시의시선에서정보관리로
4장정보·전자파놉티콘과분산되는감시
5장역감시와시놉티콘,역파놉티콘

간주Intermezzo

6장인공지능과빅데이터시대의감시
7장감시자본주의,디지털감시경제그리고감시문화
8장아직‘1984’는아니다─기술의어긋남과저항하는사람들
9장빅데이터-인공지능파놉티콘시대의새로운프라이버시권리선언문

출판사 서평

모든데이터를수집·분류·저장하는빅데이터-인공지능시대,
일상에편재한감시의역학을뒤집는주체적시민선언

오늘날만인을대상으로한빅데이터-인공지능감시가일상화되었다.국가는공공의안녕과질서를목적으로방대한개인정보를수집하며,기업역시효율적인마케팅을위해데이터를기반으로우리의행동을예측·조작한다.나아가각종혜택을누리기위해,타인과소통하기위해사람들은자발적으로정보와사생활을노출한다.
《인공지능파놉티콘》은벤담의파놉티콘이라는분석틀을기반으로17세기산업혁명시대부터20세기말정보화시대까지감시기제의변천사를고찰한후,2010년대빅데이터와인공지능기술의부상으로더욱교묘하고침입적인방향을향하는현대사회의감시문제를다룬다.
우리는어떤서비스를이용하기위해기나긴약관에동의를누를수밖에없고,잊을때쯤이면거듭불거지는개인정보유출사건에무력감을느끼며자율성이박탈된상황에체념하기도한다.그러나감시에이용되는기술을전유해역감시의수단으로사용하는등,현대의감시권력에우리가저항할방법은여전히있다.우리는프라이버시라는개념을‘관계적’인것으로새롭게인식하고실천해독립적·비판적능력과자율성을지켜야한다.그것이21세기민주주의의새로운조건임을이책은강조한다.


벤담의파놉티콘에서정보·전자파놉티콘까지
역감시와역파놉티콘의가능성을모색하다

미셸푸코는1975년저작《감시와처벌》을통해제러미벤담의'파놉티콘'을근대이후감시사회를일컫는강력한메타포로부활시켰다.파놉티콘은‘시선의비대칭성’을전제로수감자가규율을내면화하게만드는자동기계였으며,수감자의노동으로유지되는공장형감옥이었다.푸코의요지는무력으로신체를억압하던과거의권력이이제는규율을내면화시키고영혼을통제하는‘규율권력'으로진화했다는것이었다.정보혁명의결과로나타난’전자감시‘가문제시되던1970년대,푸코의해석은대중에게'감시사회'라는화두를던지며엄청난파급력을일으켰다.
이책은제러미벤담이파놉티콘의설계에작업장을주요하게참고했다는점을짚으며산업혁명기의작업장을시작으로근대감시문화의기원을짚어들어간다.공장의거대화로관리자의시선을통한감시가불가능해지자,자본가들은노동자개개인과그의작업을정보화해관리하기시작했다.기업뿐만아니라국가역시19세기부터국민에대한대대적조사활동을벌이고이를새로운정책과법률을위한기초자료로사용했다.전자컴퓨터와데이터베이스의확산이이러한변화를가속했다.
흥미로운점은기술의도입이늘감시주체의의도대로만작동하지않았다는것이다.공장의숙련된노동자들은기계와시스템에대한장악력을이용해은밀하게태업했고,디지털시대의노동자는관리자의화면을역으로모니터하거나감시기술을기만하는새로운문화를만들어냈다.시민운동을통한언론·기업·의정감시와정보공개요구등,이미우리사회는다양한’역파놉티콘‘의수단들을통해감시권력의비대칭성을견제해왔다.


빅데이터-인공지능시대더욱교묘해진감시,
그러나우리는여전히권력을감시아래에둘수있다

빅데이터와인공지능의등장은감시의패러다임을질적으로바꿔놓았다.과거의기업들이개인정보를수집해수익을창출하는데그쳤다면,이제기업들은사용자들의사소해보이는행동데이터를수집하고특정행동을끊임없이유도하는단계에이르렀다.SNS알고리즘이사용자의체류시간까지데이터화해추천알고리즘에반영하고끝없는반응을유도하는것이단적인예다.20세기말까지만해도정보기술이나시민운동을통한역감시의가능성을낙관했던학자들은,상상을초월하는새로운감시기술의역량에압도당해이러한가능성이사그라졌다고비관했다.
그러나이책은비관론을경계하며빅데이터-인공지능감시가과대평가되지는않는지를먼저살핀다.우선정보는지식보다얕고기술적이며세계에대한복잡한이해를제공하지못한다.지나치게방대한데이터가수집주체의판단을흐리거나허위신호를유발할수도있다.예컨대2013년초미국국가안보국은메타데이터를통해54건의테러공격을저지했다고발표했으나실제적발건수는단한건에불과했다.이사례는감시기술의능력이실제보다과장된면이있음을시사한다.다만단지감시체계의오류를비판하는데그치지않고,우리는국가가어떤식으로세상을바라보아야하는지를더적극적으로물어야한다고이책은이야기한다.
이어서저자는쉼없이이어져온다양한저항의현장을조명한다.감시기술에대한내부폭로와프라이버시확보를위한실천,감시교란전략과현실세계에서의디지털행동주의,법적-제도적개혁과데이터저항정치에이르기까지,수많은시민의노력이실질적인변화를만들어냈다.’토르‘같은암호화된브라우저를사용하고,광고를차단하는프로그램을사용해정보를빼내려는기업의시도를교란하는것은익명성과통제권을되찾는일상의저항이다.한편SNS를주요매개로조직되고확산된2011년의’아랍의봄‘시위와’월스트리트를점거하라‘운동,2013년과2020년의흑인인권운동(BlackLivesMatter),2017년이후의미투운동은감시의수단을권력에저항하는핵심요소로전환해냈다.우리나라도2016~2017년과2024~2025년의탄핵촉구집회에서시민참여를조직하고연대를형성하는핵심도구로디지털기술을활용했다.비록개인이감시기술을완벽히무력화할수는없더라도,이런저항의총체는감시권력을시민의통제아래묶어두는가장강력한도구가된다.


개인정보자기결정권을넘어사회정의의문제로
프라이버시를새롭게상상하기

자발적감시와노출이보편화된’감시문화‘속에서,20세기의중요한화두였던’프라이버시‘는어느덧낯설고고루하게느껴진다.그러나이책은빅데이터-인공지능파놉티콘의지배를저지할첫걸음으로,프라이버시를’사회정의‘의관점에서새롭게인식하고실천할것을제안한다.
흔히우리는비판적판단없이정부와기업에데이터를제공하고,이과정에서개인의자율성은점차잠식된다.그런데이것은단순히나하나의정보유출에그치지않는다.21세기의프라이버시는본질적으로‘관계적’이며공동체적인성격을띠기때문이다.인공지능알고리즘은관계망속의연결고리를추적하여여러사람의프라이버시를벗겨낸다.내가아무리정보를숨겨도,시스템은타인으로부터수집한방대한데이터를분석해나의행동과성향을정교하게추정한다.
따라서이제프라이버시는개인의권리를넘어공동체의정의이고,권력에대한저항이자민주주의를지탱하는조건이다.이책은이러한새로운상상력을바탕으로감시구조에정치적으로개입하는것이현대사회에서우리가취해야할태도이자변화를위한출발점임을거듭강조한다.