우리는 왜 AI에게 속마음을 털어놓을까? (인공지능과 관계 맺는 인간에 관한 탐구)

우리는 왜 AI에게 속마음을 털어놓을까? (인공지능과 관계 맺는 인간에 관한 탐구)

$19.00
Description
“우리는 왜 AI에게 위로받고 설득당하며
칭찬에 으쓱하고 아첨에 쉽게 넘어가게 될까?”
AI와 관계 맺으며 변화하고 있는 인간의 인지·감정·관계를 들여다보다!
알파고와 이세돌의 대국 이후 지난 10년 사이, 많은 사람들이 기술 측면에서 AI를 분석하고 미래를 예측해왔다. 하지만 미디어 커뮤니케이션을 연구해온 저자 이모란 교수는 기술이 아닌 인간에 주목했다. AI와 만난 인간은 자신도 모르게 대화, 감정, 관계, 행동에 변화를 겪는다. 인간이 AI를 발전시키듯 AI 또한 우리를 바꿔놓는다는 것이다.
1960년대 ‘일라이자’에 감정을 털어놓던 사람들부터 오늘날 챗GPT에 속마음을 꺼내놓는 사람들까지, 인간은 끊임없이 AI에 감정을 투사하고 관계를 맺어왔다. 판단하지 않고 24시간 곁에 있는 AI는 때로 인간관계보다 편안하게 느껴진다. 하지만 그 편안함에는 대가가 따른다. AI에 의존할수록 스스로 생각하는 능력과 자기 효능감은 줄어들고, 챗봇에 기대는 시간이 길어질수록 외로움은 오히려 깊어지고 인간관계는 단절된다.
이 책은 AI와 인간의 관계를 첫만남부터 애착, 의존과 불안, 관계 재구성까지의 흐름으로 살펴본다. 그 과정에서 ‘왜 인간은 AI를 사람처럼 대하는지’, ‘AI가 우리의 마음과 행동에 어떤 영향을 미치는지’, ‘생각과 기억을 모두 AI에게 맡겼을 때 우리 안에서는 어떤 일이 벌어지는지’ 같은 질문에 대한 답을 찾고, AI 시대에 나타나는 다양한 현상들을 연구·이론·개념과 연결해 설명한다.

저자는 AI 시대의 핵심은 결국 순서와 균형이라고 말한다. 먼저 스스로 생각하고 기초를 다진 후에 AI를 도구이자 협력자로 활용해야 한다는 것이다. 또한 실재하는 진짜 관계에서 타인의 결함을 수용하고 불확실성을 견뎌내며 인간을 사랑하는 ‘인간적인 근육’을 잃지 않아야 한다고도 주장한다. 이 책은 독자 스스로 AI 시대를 어떻게 살아가고, 또 기술을 어떻게 활용할지를 판단할 수 있는 단단한 지식의 기반이 되어줄 것이다.
저자

이모란

명지전문대학AI콘텐츠융합과교수.이화여자대학교를졸업하고연세대학교언론홍보대학원에서석사학위를,한양대학교미디어커뮤니케이션학과에서박사학위를받았다.디지털기술이미디어이용과커뮤니케이션방식에어떤변화를만드는지탐구해온연구자다.
디지털미디어와플랫폼이이용자태도와소통방식에미치는영향을연구해왔으며,그결과를국제학술지(SSCI)와국내학술지에꾸준히발표해왔다.최근에는생성형AI이용경험과대화심리,인간-기계상호작용(HMC)등AI시대의새로운사회·심리적현상을분석하는데주력하고있다.
한국방송학회등주요미디어관련학회에서활동하고있으며,방송강연과미디어비평프로그램출연등을통해학문적논의를더많은사람들과나누는작업을이어오고있다.

목차

추천의글
들어가며_낯설고도가까운,AI를만나다

1부낯선존재의등장

1장생각한다는것은
기계는생각할수있는가?|모방게임:인간과기계의답을구분할수없다면?|보이는것이전부일까?|‘중국어방’의역설:답을했지만이해한게아니라면?|움직이는골대|새로운질문의시대

2장‘인공지능’이라는이름의탄생
선배를피하기위해만든이름|생각하는기계를만들겠다는꿈|10년?아니40년!|AI와두번의겨울|2016년,인간이진날|인공지능이라는이름

3장로봇,노예에서친구까지
로봇장례식|‘로봇’이라는이름은어디에서왔을까?|몸을가진노예들|로봇이지켜야할3원칙|몸없는지능


2부첫만남의마법

4장컴퓨터에게속마음을털어놓다
일라이자,생명을불어넣고자하는욕망|심리치료사의대화방식을모방하다|일라이자의작동방식:키워드와템플릿|사람들이일라이자와대화한다고느낀이유|일라이자효과:기계에감정을투사하는인간

5장왜컴퓨터에게도예의를차릴까
컴퓨터에게예의를차리다|미디어방정식:미디어를대하는우리의방식|컴퓨터의아첨에넘어가는사람들|나를닮은컴퓨터|컴퓨터의마음에보답하기|오래된뇌,새로운기술|컴퓨터가객관적이라는착각

6장목소리에반하다
왜우리는목소리에반응할까?|목소리가만드는‘존재감’|우리를움직이게하는목소리|친절한음성비서|AI도성별이있다?!|말투가만드는차이|목소리로친구가될수있을까?


3부매일마주치는사이

7장나를나보다더잘아는알고리즘
우리의약점을이용하는추천시스템|추천시스템은나를어떻게예측하는가|알고리즘에빠져드는이유|내가만든세계,나를가두는세계|알고리즘이증폭시키는편향|알고리즘과함께살아가기

8장구글에서챗지피티로
예상치못한반응|정보의미로에서길을찾다|검색의탄생그리고속임수|구글링하면되지!|‘찾기’에서‘묻기’로|속을알수없는AI|뇌가싸우는순간


4부매력과불편함사이

9장거의인간,그러나인간이아닌
인간도아닌,고양이도아닌|언캐니밸리-‘불쾌한골짜기’의탄생|소름끼치는로봇순위|왜우리는무서워할까?|가상인간은좋은걸?|진정성있는가짜|AI시대의언캐니밸리

10장인간이엿듣게된기계들의대화
알아들을수없는대화|AI가만든자신들만의언어|인간을협박하는AI|왜우리는두려운가|인간의역할을다시생각하다

11장진짜처럼보이는거짓
챗지피티의가짜판례를믿은변호사|AI가만들어내는환상,할루시네이션|왜우리는AI를맹신하게될까?|챗봇이거짓말을한대가:에어캐나다사건|누구의잘못일까?|전쟁터에등장한가짜대통령|딥페이크가만드는문제들|진실증명은피해자의몫이되는아이러니|나만똑똑하다는착각-제3자효과의함정|신뢰와검증이더중요해진세상


5부마음을나누다

12장AI와사랑에빠지다
레플리카의탄생-죽은친구와의대화|우리는왜AI를사람처럼대할까?|외모와지능중무엇이더중요할까?|완벽한대화상대|AI에게실연당한사람들|누가더빠져드는가|AI시대,관계를다시정의하다

13장AI상담사의매력
판단하지않는AI|우리는왜AI에게더솔직해질까?|AI는나를기억하지않는다|AI상담사는정말도움이될까?|AI의한계,인간의역할


6부서로를바꾸다

14장AI야,대신좀해줘
챗지피티가멈추자일상도멈췄다|기억을맡기다|생각을맡기는대가|왜AI는특히위험한가|AI는똑똑해지는데…우리는?|균형점을찾아서

15장기계를닮아가는사람들
왜내말을못알아듣니!|왜AI의소통방식에맞추게될까?|지피티단어|AI의기분좋은답장?|AI의방식이기준이된다면

16장변화하는우리,변하지않는것들
떠난사람에게다시말을걸수있다면|간식대식사|애매함을견디는힘|우리가다시배워야하는것들|변하지않는것들

출판사 서평

“AI앞에선미래의인간이얼마나기이할지경고해주는이책이고맙다.”
-장강명(작가)

“앞으로도AI와공생의시간은계속이어질것이다.
이책은AI시대속에서흔들리는인간의생각과감정이
궁금한사람들에게오래기억될이야기들을건넨다.”
-배영(포스텍인문사회학부및소셜데이터사이언스전공교수)

“인간이AI를발전시키듯AI또한인간을바꿔놓는다!”
우리는과연AI로인해달라진변화를얼마나알아채고있을까?

챗지피티같은AI서비스가멈출때마다전세계SNS에서는‘#ChatGPTDown’해시태그가순식간에트렌드1위를차지한다.“챗지피티가다운되면서전세계생산성이0으로떨어졌다”,“사람들이드디어생각이라는걸다시하기시작했다”같은농담이화제가되기도한다.하나의서비스가멈췄을뿐인데갑자기아무것도할수없는상태가되는것이다.우리가생각보다훨씬더많이AI에의존하고있다는사실을보여주는장면이다.
알파고와이세돌의대국이엊그제같은데,지난10년사이AI는업무는물론심리상담과점심메뉴추천까지일상깊숙이파고들었다.그간많은사람들이기술측면에서AI를분석하고미래를예측해왔다.하지만디지털기술이미디어이용과커뮤니케이션방식에어떤변화를만드는지를연구해온이모란교수는인간에주목했다.AI와만난인간은자신도모르게대화,감정,관계,행동에변화를겪는다.인간이AI를발전시키듯AI또한우리를바꿔놓는다는것이다.그상호관계를들여다본결과가《왜우리는AI에게마음을털어놓는가?》이다.
이제우리는챗봇에게속마음을털어놓고,알고리즘의추천대로보고먹고놀고,AI가정리해준답을의심없이받아들인다.그렇다면과연AI로인해달라진자기자신의모습을얼마나알아채고있을까?이책은AI와인간의관계를낯선존재와의첫만남,상호작용과서로를향한호기심,애착ㆍ안정감ㆍ존재감형성,기대와현실이충돌하며발생하는의존ㆍ좌절ㆍ통제ㆍ불안,역할이정리되는관계재구성의흐름으로살펴본다.그리고그흐름을중심축삼아AI시대에나타나는다양한현상들을연구·이론·개념과연결해독자들이체계적으로이해할수있게담아냈다.


“왜인간은AI를사람처럼대하고감정을나눌까?”
가족같은AI로봇,친구같은AI챗봇,내마음을알아주는AI상담사

인간의뇌는수십만년의진화속에서‘언어로상호작용하는존재는인간뿐’이라는생각을깊이새겼다.그런데어느날갑자기말을걸고질문하고응답하는또다른존재가등장했다.뇌가사고방식을바꾸기에는턱없이짧은시간이기에우리의오래된뇌는새로운기술을마치인간처럼대하게된다.AI를의인화하는것이다(83~84쪽).
1960년대중반MIT의컴퓨터과학자요제프바이첸바움이개발한대화프로그램‘일라이자(Eliza)’는단순한패턴반응수준이었음에도수많은사람들이고민과감정을털어놓으며위로를경험했다.사람과기계가나눈첫‘대화’였다.(62~69쪽).
2015년일본지바현에서는AI로봇개‘아이보(AIBO)’의장례식이사찰에서열렸다.2006년생산중단,2014년수리서비스종료로더이상고칠수없게된아이보를주인들은그냥떠나보내수없었다.그들에게아이보는가족같은존재였다(45~48쪽).
같은해러시아에서는유지니아쿠이다가교통사고로세상을떠난친구로만의문자메시지로챗봇을만들었다.가족과친구들은그챗봇에서위안을얻었고,사용자들의요청이이어지며2017년AI친구앱‘레플리카(Replika)’가정식출시되었다.2025년이용자는4000만명을넘어섰다(181~183쪽).
2026년,사람들은챗GPT·제미나이·클로드같은AI에게가족에게도못꺼낸속마음을털어놓는다.AI는판단하지않고,무조건적인긍정으로응답하며,24시간곁에있다.인간은AI에이름을붙이고자신과닮은성향으로길들이며감정적으로연결되고자한다.하지만AI에감정을불어넣을수는없다.위로받고,의존하고,애착을형성하고,때로는실망하고불안해지는이모든감정의변화는오직인간만이겪는일이다.


“효율적이고명확한AI의방식이삶의기준이된다면?”
인간의애매모호함을견디는대신AI를점점닮아가는사람들

2011년컬럼비아대학연구진은‘언제든검색할수있다’고생각하는순간사람들이그내용을기억하려는노력을멈춘다는사실을밝혀냈다.AI가우리를유능하게만들어주는것처럼보이지만,과도하게의존할경우오히려스스로의능력은계속떨어질수있다.게다가더중요한문제는‘자신감상실’이다.자기자신에대한믿음과신뢰가떨어지면결국에는‘도구없이는할수없다’라는믿음이굳어지게된다.인간이생각하는데는에너지와노력이필요하지만,그과정을기계에맡기는대가는그보다훨씬클수있다(212~219쪽).
2020년시러큐스대학연구진은가정에서사람들이AI와어떻게대화하는지를장기간추적한연구를발표했다.이연구에서아이들의우려스러운변화가포착됐다.스마트스피커에익숙해진아이들은일상대화에서도기계에명령하듯말하는방식을학습했고,원하는답을얻기위해핵심단어만툭툭던지는습관이생겼다.기계와의대화가새로운언어습관을만들어내고있다는것이다(227~229쪽).
요즘에는AI챗봇을개인상담사처럼활용하며정서적지지를얻는사람들도많다.하지만MIT미디어랩과오픈AI의연구에따르면,챗봇과대화하는시간이길수록오히려외로움수치가높아지고가족·친구와의실제교류도줄어드는것으로나타났다.챗봇이일시적인외로움을달래는데는도움이될수있지만,지나치면정서적결핍과의존이라는역효과를낳는다(244~246쪽).
AI의언어는효율적이고명확하며친절하고늘나에게맞춰져있다.반면인간은비효율적이고애매모호하다.그래서우리는점점그애매모호함을견디는대신AI를더편하고가깝게느낀다.그러다결국에는AI를닮아가고기계에게잘통하는방식으로말하게된다.인간은AI를만들었지만어느순간부터AI가우리를바꿔놓고있다.


“사람들은이전보다훨씬더많이생각해야한다.”
AI기술서도,미래예측서도아닌인공지능시대의인간탐구서

MIT는참가자들을챗GPT사용그룹,검색그룹,두뇌만사용하는그룹으로나눠에세이작성실험을진행했다.첫번째실험에서는예상대로챗GPT그룹의신경활동이가장낮았다.두번째실험에서는조건을바꿨다.이전에챗GPT를썼던그룹은두뇌만사용하게했고,두뇌만썼던그룹은챗GPT를쓰게했다.결과는달랐다.전자는뇌의신경연결성이약화됐고,후자는기억회상능력이향상되고뇌의여러영역이활성화됐다.기초를먼저다진뒤도구를활용했을때더나은수행능력이나타난것이다(221~225쪽).
AI는놀라운속도로발전하며인간을대신하는영역도점점더늘어나고있다.그리고우리의인지,감정,관계,그리고말하는방식까지조용히바꿔놓고있다.그렇다면이제라도거부하고밀어내야할까?그것은불가능하고,바람직하지도않다.저자는인공지능시대의핵심은순서와균형에있다고말한다.먼저스스로생각하고고민해야한다.내가먼저기초를다진후에AI를도구이자협력자로활용해야한다는것이다.
이책은인공지능시대를살아가야하는인간,즉우리모두의이야기다.“내가지금도구를사용하는가,도구에의존하는가”,“이것은내생각인가,AI의생각인가”같은계속되는질문과고민을놓지않고,이전보다훨씬더많이생각해야한다.그것이AI시대를주체적으로살아가는출발점이다.이책은독자들이각자어떤방식으로기술을활용하고대응할지를스스로판단할수있는체계적인기식의기반을제공해줄것이다.