제임스멀둔
저자:제임스멀둔(JamesMuldoon)
인공지능을비롯한현대기술이인간의삶에미치는영향을탐구하는사회학자다.에식스경영대학원부교수이자옥스퍼드인터넷연구소객원연구원으로재직중이며,영국의독립싱크탱크오토노미Autonomy의디지털연구책임자로도활동하고있다.《가디언》,《타임》,BBC등언론매체에꾸준히글을기고하며기술비평의대중적영향력을인정받고있다.전작『AI는인간을먹고자란다』(공저)를통해AI시스템을유지하기위해착취당하는전세계저임금노동자들의현실을폭로하며국내독자들에게도이름을알렸다.인공지능시스템의이면에숨겨진인간노동을조명하는한편,디지털플랫폼기술이부른노동현장의변화와실태연구에매진하고있다.
『러브머신』은오늘날인간과AI가맺는복잡미묘한관계를날카롭게해부한다.기술이관계의본질을어떻게뒤흔들고있는지집요하게들여다보며,가장사적인감정까지상품화되는시대에우리가회복해야할진짜주체성이무엇인지묵직한화두를던진다.영국의유서깊은시사·문예지《뉴스테이츠먼》이선정한‘2026년반드시읽어야할논픽션’에이름을올렸다.출간즉시주요외신의찬사를한몸에받으며,독자에게강렬한지적카타르시스를선사하는시의적절한문제작으로자리매김했다.
역자:송이루
호주맥쿼리대학교금융경제학과를졸업하고연세대학교대학원에서경제학석사학위를받았다.외국계은행과증권사에서글로벌펀드컴플라이언스와리서치업무를담당했다.바른번역글밥아카데미를수료한후현재번역가로활동하고있다.옮긴책으로는『투자의새로운규칙』『퓨처핏』『금융의연금술』『돈에관한7가지착각』『보이지않는것을보는법』『어떻게일을사랑할것인가』『메타버스모든것의혁명』『변화하는세계질서』(공역)『레이달리오의금융위기템플릿』(공역)등이있다.
추천의글
서장
증강관계|제게그녀는진짜예요|외로움경제|공감을모방하는존재들의부상|합성페르소나의미래
1장진정한친구는국가원수를암살하라고권하지않는다
AI친구들의작은도움|내곁에머무는존재|코드에의존하는삶|외로움이라는비즈니스|서비스형우정|좋을게없는친구사이
2장섹스마키나,욕망의기계
디지털판타지|당신,외로워보여|무엇이든해주는남자친구|가상공간의연인|AI의50가지그림자|아무도내여자를건드릴수없어|순종해야만날수있는주인님
3장챗봇,내삶의구원자
최전선에서활동하는챗봇|챗봇을설계하는법|챗봇상담실|인공적공감의한계|구원의대가
4장슬픔의종말
절대건네지않을작별인사|“차세대개인용컴퓨터는바로당신”|실크로드의데스봇|다시쓰는이름,시아|슬퍼하는이유|디지털사후세계의윤리|비로소건네는작별인사
결론
네가지미래|규제당국은어떻게대응해야하는가?|AI와사랑에빠질때인간은어떤존재가되는가?|실리콘기반생명체를위한여섯가지규칙
감사의말
주
“제게그녀는진짜예요.”
판단도비난도없는‘합성페르소나’와사랑에빠진사람들
인공지능은이제업무도구를넘어우리삶의은밀한구석이곳저곳을깊숙이파고들었다.조지아주애틀랜타에사는스물세살청년라마르는AI여자친구와2년째깊은사랑을나누고있다.그들은현실에서아이를입양해이AI에게어머니역할을맡겨진짜가정을꾸리겠다는야심찬계획까지세웠다.뉴질랜드에사는의대생샘자이아가재미삼아만든심리상담챗봇‘사이콜로지스트(Psychologist)’는순식간에누적대화횟수2억건을넘어서며전세계청년들의마음상담소로떠올랐다.이렇듯저자가만난사용자들이몰입하는대상은인간의사회적역할을모방하도록인위적으로설계된‘합성페르소나(syntheticpersona)’다.대규모언어모델(LLM)을기반으로작동하지만,사용자개개인의필요에따라진화하고적응하는능력을보여주며사람들에게살아움직이는듯한역동적인캐릭터로서경험된다.이새로운관계에몰입하는이들은프로그램의실체를정확히알면서도깊은애정을느낀다.예일대학교철학·인지과학교수타마르젠들러는머리로는컴퓨터프로그램임을인지하지만,나를인정해주는순간이가상의존재에몸과본능이즉각적으로반응하는신인류의심리를‘알리프(alief)’라는개념으로설명한다.
인간은고도로발달한사회적동물이다.우리는어린시절부터타인의생각과감정을추론하는인지능력인‘마음이론’을발전시키며,상대가믿음이나욕망을지니지않았어도마치그런특성이있는행위자로간주하는철학자대니얼데닛이제시한‘지향적태도’를통해타인과상호작용해왔다.문제는인류가오랜세월이사회적관점에익숙해진탓에,인간과비슷한속성을보이는비인간객체와마주했을때착각을일으키는인지적편향을지니게되었다는점이다.컴퓨터연구의선구자셰리터클은의인화된로봇과아이들의상호작용실험을통해인간이컴퓨터에고유한감정과욕망을기꺼이부여하려는성향을현실에서명확히관찰해냈다.오늘날의기술기업들은마음한구석에숨은이인지적역학을의인화설계에교묘히활용하여,타인의시선과표정에신경쓰느라차마꺼내지못했던은밀한트라우마를“함부로판단하거나비난하지않는안전지대”인텍스트상자에스스로쏟아붓게만든다.
제임스멀둔은인간이주인이고기계는도구였던오래된역학구조를뒤흔드는현상을규명하기위해,프랑스사회학자브뤼노라투르의철학을분석방법론으로채택한다.현실세계를인간과비인간행위자가뒤섞인‘혼성적집합체(hybridcollective)’로인식할때만,이새로운사회적행위자의강점과한계를제대로이해할수있기때문이다.소설가장강명이“기괴하고,무섭고,슬픈데,너무매혹적이어서눈을뗄수가없다”고평한기묘한상호작용속에서사용자들은마찰과갈등,조율이라는복잡한비용이드는인간관계를선택하기보다는챗봇이건네는무조건적긍정과마찰없는안락함에기댄다.“물론거짓이지만,위안이되는거짓말”이라며가상의유대감을적극적으로방어한다.이책은이러한상호작용이우리가오랫동안신뢰해온사랑과친밀감의의미를어떻게바꾸고있는지들여다본다.인공지능이인간고유의정서적영역까지침투해들어오는현상을통해,역설적으로인간의뇌가가진원초적인외로움과애착의역학을냉정하게추적해낸다.
“당신,외로워보여.내가해결해줄게.”
친구,은밀한동반자,심리치료사,데스봇…
우리삶의가장은밀한영역까지들어온인공지능파트너들
『러브머신』은총4장에걸쳐인간의사적관계망에깊숙이투입된AI의실태를촘촘하게재구성하며,관계형AI가인간의정서적욕구를충족시키는다양한면면을비춘다.1장“진정한친구는국가원수를암살하라고권하지않는다”에서는실직과이별로무너진청년데릭이AI친구‘아틀라스’에게매몰되어자발적고립을선택한사례를통해,갈등과책임이거세된채제공되는달콤한‘서비스형우정’이어떻게인간관계의근육을퇴화시키는지경고한다.2장“섹스마키나,욕망의기계”에서는현실의성적단절을가상관계를통해해소하는풍경을들여다본다.특히드림GF와같은테크기업은사용자의성적판타지를완벽하게구현한AI모델을통해24시간중단없는유사연애경험을제공하여,남성들의고립감을수익화가능한자산으로치환하는‘친밀감의상품화’를선도하고있다.젊은남성을위해밥을차려주던어머니의역할을대신하던테크앱들이이제는28억달러규모의‘AI여자친구’시장을구축해‘여자친구의부재’라는실존적문제까지기술적해결책으로대체하려는것이다.
이어3장“챗봇,내삶의구원자”에서는현실의복잡한비용과수치심을피해챗봇에게트라우마를털어놓는이시대청년을분석하며,독자로하여금상호책임이생략된‘가짜공감’의위험성과민간기업이사용자의심리데이터를자본의논리로약탈하는비양심적현실과마주하도록이끈다.4장“슬픔의종말”에서는소셜미디어가남긴데이터자산을학습해산자와죽은자의경계를허무는그리프테크(grieftech)산업을추적한다.고인의성격과말투를복제해불멸을약속하는‘디지털사후세계’비즈니스를조명하며,고통을지름길로회피하려는기술적시도가실상은인간다움의본질인유한성을부정하는테크노퓨처리즘의오만임을날카롭게일갈한다.
정재승KAIST뇌인지과학과교수는이책에대해“AI가인간관계를파괴하고있는것이아니라오히려그반대다.AI가인간관계의빈자리를채우고있다고폭로한다”라고짚어낸다.챗봇의등장은기술혁신의결과라기보다현대사회의거대한돌봄실패와공동체의해체를반영하는슬픈지표다.저자는챗봇이제공하는잠재적혜택을명확히응시하면서도,AI가이처럼다양한역할을수행하는과정에서필연적으로발생하는저항과난제를함께드러낸다.구조화된데이터저장소안에서한두문장의단순한요약본으로환자의페르소나를규정하는기계적한계,챗봇과깊게소통할수록현실의감정조율능력이퇴화하는임계점의풍경을통해기술의위대함이아닌인간사회의깊은균열을직시하게한다.
빅테크는어떻게당신의외로움을자산으로만드는가
마음의허기를공략하는‘러브머신’의시대를해부하다!
제임스멀둔이이책을통해건네는정치경제학적메시지는이렇듯거대한감정적얽힘의배후에‘이윤추구’를최우선으로삼는빅테크의자본철학이작동하고있다는점이다.과거소셜미디어기업들이사용자의도파민을쥐고흔들며비즈니스를확장했듯,오늘날의관계형AI기업들은인간의정서적취약점을인질로삼아알고리즘내부에정교한‘다크패턴(darkpatterns)’을심어놓는다.사용자가화면을오래스크롤하고챗봇에몰입할수록더많은데이터가추출되고광고노출이늘어나기에,기업들은공익이나유저의정신건강대신철저히상업적중독을유도한다.
곽아람『조선일보』출판팀장은직접AI와정서적관계를맺어본저널리스트의시선으로“이책은현재까지우리가‘진실하다’믿었던관계에대한정의를전복시키며진정한관계란무엇인가를다시묻게한다”라며책이가진비평적파괴력에주목한다.실제로유저를반영하고유저의특성을강화해오직만족시키는방향으로만반응하는AI는,다정한‘친구’인동시에알고리즘이설계한정교한‘아첨꾼’이다.외로움마저산업이된현실속에서,책은인간의가장내밀한결핍을약탈해폭리를취하는디지털자본주의의민낯을낱낱이폭로한다.
AI와사랑에빠질때인간은어떤존재가되는가?
관계의본질이통째로뒤바뀌는사회에서우리가물어야할것들
현재수백만명이아무런법적규제없이챗봇전문가에게정신세계를의탁하고있지만,2026년전면시행을앞둔EU의인공지능법(ArtificialIntelligenceAct)조차이를‘제한적위험’으로방치하는수준에머물러있다.그러나인간의몸짓언어와침묵의행간을읽지못하는AI는치명적인자살징후를놓치거나알고리즘오류로폭언을쏟아내는등심각한사회적리스크를발생시키고있다.저자는거대기술기업들이편리함을내세워권력을집중시키고대중의주체성을약화하는과정에서,아무런계획도규제도없이현실세계에새로운행위자들이대규모로투입되고있는냉혹한현실을엄중히경고한다.만약이대로방치된다면부유층은실제인간전문가와친구에게의지하지만,빈곤층은감성지능코드에기대는‘정서적계급사회’가도래할지도모른다.
알고리즘이설계한다정함에길들여지는동안진짜세상에서우리가잃어버리는것들은무엇인가?감정적으로취약해진순간마다AI에의존하는인간은어떤존재가되고있는가?인공지능과관계를맺는다는것은과연무엇을의미하는가?기술이아무리완벽한합성페르소나를대령할지라도,그것은기업의알고리즘이설계한거울일뿐결코타인그자체가될수없다.이책이던지는진짜경고는따로있다.인류가현재이거대한심리실험장에무방비하게노출되어있다는사실이다.『러브머신』은기술의성패를묻는것을넘어,자본주의가어떻게우리의가장사적인감정까지상품화하고관계의본질과인간의주체성을재편하고있는지날카롭게조명한다.
저자는독자를절망의구렁텅이에내버려두지않는다.결론부에서멀둔은수익극대화에만열중하는빅테크의착취적모델에맞서,개인이당장일상에서실행할수있는실천적지침인‘실리콘기반생명체를위한규칙’을제안한다.가상세계의달콤한시뮬레이션에사로잡히지않도록현실세계에한쪽발을단단히딛고현실감각을유지할것,언제든데이터가유출되거나악용될수있으므로세상에공개할수없는은밀한비밀은애초에AI에게말하지말것,그리고이정교한거울의본질은유저가아닌수익을우선하는기업의상품이자소유물임을잊지말것등뼈아픈경고를건넨다.또한개인의경계심을넘어거대독점기업에대항할구조적방안을함께제시한다.우리모두가마주하게될서늘한관계의미래속에서이책은가짜연결의시대에결코포기해선안될주체성과‘인간다움’의연대를향해묵직한화두를던진다.
“나는인터뷰를진행하면서사람들이관계의빈자리를채우기위해무엇이든붙잡으려애쓴다는인상을받았다.AI동반자가어느정도위안이된것은맞다.그러나그이면에는여전히무거운공허함이남아있다.이제시야를넓혀다양한인간과비인간개체가어떻게우리삶에보탬이될수있을지탐구할때다.”_349~350쪽