아더스: 생명과 AI 사이

테드 창, 아닐 세스, 도미니크 첸, 수전 스테프니, 나카무라 게이코, 시모니시 가제토,

저자 : 나카무라 게이코
일본 도쿄에서 태어났습니다. 도쿄대학교 대학원 생물화학과를 졸업한 자연과학 박사로, 게놈을 바탕으로 생물의 역사와 관계를 설명하는 〈생명지〉를 창설했습니다. 1993년에 JT생명지 연구관을 설립해 부관장으로, 2002년부터 2020년까지 관장으로, 현재는 명예 관장으로 부임 중입니다.
저서로 〈자기창출하는 생명〉, 〈과학자가 인간이라는 것〉, 〈생명지란 무엇인가〉, 〈과학은 이대로 좋은가〉, 〈인류는 어디에서 잘못한 것일까 - 흙과 사람의 생명지〉 외 다수가 있습니다.

저자 : 테드 창
미국 브라운 대학교에서 물리학과 컴퓨터공학을 전공한 과학도이자 ‘전 세계 과학소설계의 보물’이라는 찬사를 듣고 있는 소설가. 동시대 과학소설 작가들의 인정과 동시대 과학소설 독자들의 기대를 한 몸에 받고 있는 작가로 휴고상을 4번, 로커스상을 4번, 네뷸러상을 4번 수상했다.
1990년 발표한 첫 단편 「바빌론의 탑」으로 역대 최연소 네뷸러상 수상자라는 영예를 안았으며, 이후 발표하는 작품마다 스터전상, 휴고상, 네뷸러상을 휩쓸며 평단과 독자들의 주목과 지지를 받았다. 「인류 과학의 진화」 「우리가 해야 할 일」 두 작품이 세계적인 과학 학술지 에 게재됐다.
『당신 인생의 이야기』는 테드 창의 첫 번째 작품집으로 과학적 상상력에 기초한 전혀 다른 차원의 소재와 시종일관 탄성을 자아내게 하는 놀라운 서사를 통해 최고의 과학소설에 수여되는 모든 상을 석권하며 전 세계 21개 언어로 번역 출간되었다.

저자 : 이케가미 다카시
인공생명 연구의 세계적 권위자. 도쿄대학교 종합문화연구과 특임교수로 재직 중이며, 20년 이상 유전적 진화 연구, 인지 시스템 복잡성 연구, 로봇을 활용한 인공생명 구축 등 인공생명 연구에 매진해왔다. 여기에서 파생된 이론을 사회적으로 응용하는 데도 힘쓰고 있다.

저자 : 아닐 세스
세계적인 뇌과학자. 20년 이상 의식의 뇌 기반 연구를 개척해왔으며, 《30 Second Brain》 및 여러 책을 집필했다. 2017년 의식을 다룬 그의 TED 강연은 1,300만 뷰 이상의 조회 수를 거두었으며, 〈가디언The Guardian〉, 〈뉴 사이언티스트New Scientist〉, 〈사이언티픽 아메리칸Scientific American〉 등에 과학 관련 글을 기고하고 있다. 영국과학협회British Science Association 심리학 분야 회장을 역임했으며, 2019년 영국 키드스피리트 퍼스펙티브KidSpirit Perspectives 상을 받았다. 180편이 넘는 학술 논문을 발표했고, 2019년과 2020년에는 웹 오브 사이언스Web of Science가 선정한, 지난 10년간 세계에서 가장 영향력 있는 연구자를 의미하는 ‘피인용지수 높은 연구자’에 올랐다.

저자 : 수전 스테프니
영국의 컴퓨터과학자. 요크대학교 컴퓨터과학과 교수로 재직 중이며, 이론물리학과 수학을 배경으로 비표준 계산, 인공생명, 복잡계를 연구해왔다.

저자 : 도미니크 첸
일본의 정보학자. 와세다대학교 문학학술원 교수로 재직 중이며, 인간과 기술, 자연적 존재 사이의 관계성을 연구하고 있다.

저자 : 시모니시 가제토
일본의 철학자. 도쿄대학교 박사 과정 수료 후 의식과 마음에 대해 현상학과 인지과학을 아우르는 연구 활동을 하고 있다.

역자 : 송태욱
연세대학교 국어국문학과를 졸업하고 동 대학원에서 문학박사 학위를 받았다. 도쿄외국어대학교 연구원을 지냈고, 현재 연세대학교에서 강의하며 번역가로 활동하고 있다. 사사키 아타루의 『잘라라, 기도하는 그 손을』, 가라타니 고진의 『윤리 21』, 사사키 겐이치의 『새로운 단어를 찾습니다』, 오에 겐자부로의 『말의 정의』, 고모리 요이치의 『포스트콜로니얼』, 가와카미 하지메의 『빈곤론』, 시오노 나나미의 『십자군 이야기』, 다니자키 준이치로의 『세설』, 미야모토 테루의 『환상의 빛』, 미야자키 하야오의 『책으로 가는 문』 등을 옮겼다. 나쓰메 소세키 전집 번역으로 한국출판문화상을 수상했다.

〈디스턴스〉 편집부의 말
[ 인터뷰] SF 작가 테드 창에게 듣는 생명과 AI ‘사이’
| 테드 창, 인터뷰 진행: 도미니크 첸
[대담] 기계 속 유령: SF 작가 테드 창과 신경과학자 아닐 세스의 대화
| 테드 창 × 아닐 세스, 사회: 수전 스테프니
[강연] ‘생명지(生命誌)’를 통해 보이는 세계 | 나카무라 게이코
[ 에세이] 챗GPT에 욕망은 있는가 | 이케가미 다카시
[ 에세이] 침묵하는 AI, 침묵하지 않는 생명 | 시모니시 가제토
[ 에세이] 나와 개구리와 미우라 준: ‘이로모노’와 ‘천연 지능’은 닮았지만 | 군지 페기오유키오
[ 부록] 〈디스턴스〉 뉴스레터 | 〈디스턴스〉 편집부, 다나카 미유키, 도미니크 첸, 야마모토 다카미쓰

챗GPT에 의식이 있는가? 이 질문은 왜 중요한가?
인공지능에 의식이 존재하는지 여부는 무엇을 말해줄 수 있는가?

2023년 일본 삿포로에서 열린 국제인공생명학회(ALIFE 2023)는 한 가지 소식으로 들썩였다. 『당신 인생의 이야기』와 『숨』으로 알려진 SF 작가 테드 창과 영국의 신경과학자 아닐 세스가 같은 자리에서 AI와 생명의 ‘사이’를 이야기한다는 소식이었다. 두 사람이 AI 담론을 함께 나눈 것은 이때가 처음이었다. 같은 해 3월 챗GPT 4.0이 출시되며 ‘기술적 특이점’ 논의가 갑자기 현실감을 띠던 시기였다. 테드 창의 단독 인터뷰와 두 사람의 대담은 관련 연구자들의 뜨거운 관심 속에서 성황리에 진행되었고, 참가자들 사이에서 큰 화제가 되었다. 사회는 요크대학교의 컴퓨터과학자 수전 스테프니가 맡았다. 스테프니가 “과연 챗GPT에 의식이 있을까요?”라고 묻자, 두 사람은 나란히 “없습니다”라고 답했고, 장내에는 웃음이 번졌다. 『아더스: 생명과 AI 사이』는 바로 그 현장을 꼼꼼하게 기록해 공개한 드문 결실이다. 이 책에는 두 사람 외에도 일본을 대표하는 복잡계 과학자와 철학자들의 글이 함께 실렸다. 이 책에 함께한 이들이 말하고자 하는 것은 생성형 AI가 인간의 지능을 모방하는 지금, 우리가 놓치고 있는 생명의 자율성과 욕망, 신체성이다. 두 사람이 같은 결론에 서로 다른 길로 도달하는 과정에서 의식과 생명을 둘러싼 가장 날카로운 질문들이 터져 나온다. 독자는 어느새 AI가 아니라 ‘의식이란 무엇인가’라는 오래된 질문 앞에 서게 된다.

의식은 어디에서 오는가라는 질문에서 테드 창과 아닐 세스, 두 사람의 길이 갈린다. 아닐 세스는 의식이 신체를 제어하고 생명을 유지하는 뇌의 생물학적 역할에 깊이 뿌리내리고 있다고 본다. 그래서 의식은 생명과 매우 밀접하게 결부되어 있고, 대규모 언어 모델을 비롯한 어떤 AI에도 의식이 깃들어 있지 않다고 말한다. 곧바로 그는 “하지만 이 결론이 정말로 옳은지는 아직 아무도 모른다”며 자신이 틀렸을 가능성까지 열어둔다. 반면 테드 창은 원자 수준까지 정밀하게 모델링할 수만 있다면 소프트웨어에도 의식이라 부를 만한 것이 생길 수 있다는 입장이다. 우리 역시 원자로 이루어져 있는데도 의식이 생겨나는데, 단지 소프트웨어라는 이유만으로 불가능하다고 단정할 수는 없다는 것이다. 세스의 반격은 뜻밖이다. 인간 배아줄기세포로 만드는 대뇌 오르가노이드가 딥러닝처럼 빠르게 발전한다면, 우리가 모르는 사이에 의식이 생겨버릴 수도 있다는 것이다. 그것은 배양 접시 안에서 자랄 뿐 챗GPT처럼 말을 걸거나 영화를 추천해주지 않을 테니, 우리는 무엇을 이루었는지조차 알아차리지 못할 수 있다. 테드 창은 오르가노이드라면 의식이 생겨도 이상할 것이 없다며 이 지점에서는 수긍한다. 다만 소프트웨어에서 의식이 ‘어쩌다 보니’ 생겨나는 일은 없다고 못 박는다. 몇 테라바이트의 텍스트를 통계적으로 분석했다고 덤으로 의식이 생길 리 없고, 챗GPT는 휴대폰 자동 완성 기능을 강화한 버전에 가깝다는 것이다. 유창한 말솜씨에는 쉽게 속고 침묵하는 배양 접시에는 무심한 인간의 습성을 겨냥한다는 점에서, 이 논쟁은 AI의 이야기이면서 곧 우리 자신의 이야기이기도 하다.

논쟁은 의식의 유무를 넘어 ‘우리는 무엇을 보고 의식을 믿는가’로 번진다. 세스는 철학에서 ‘가랜드 테스트’로 불리는 개념을 소개한다. 영화 〈엑스 마키나〉의 대화에서 유래한 이 테스트는 지능이 아니라 의식을 가늠한다. 그는 여기서 한 걸음 더 나아가 ‘포워드 테스트’와 ‘리버스 테스트’를 구분한다. 시스템이 실제로 그런 성질을 갖췄는지 확인하는 것이 전자라면, 인간이 그렇게 믿게 만드는 요소를 갖췄는지 확인하는 것이 후자다. 대규모 언어 모델은 후자의 시험을 상당 부분 통과할지도 모른다. 챗GPT에 속으면서도 깊이 의존하게 되는 우리의 모습은 바로 이 대목과 맞닿아 있다. 테드 창은 소프트웨어와 하드웨어라는 익숙한 비유가 사실은 영혼과 육체라는 오래된 구분이 옷만 갈아입은 것에 불과하다고 지적하며, 지금을 설명할 새로운 언어가 필요하다고 말한다. 세스는 인간의 지각이 ‘제어된 환각’이며 언어가 저마다 다른 지각의 다양성을 가려버린다는 점에 주목한다. 두 사람은 추상적인 철학적 난제에 생생한 서사를 입히는 SF의 힘에는 한목소리로 공감한다. 소설가 장강명이 “읽고 나면 생각할 거리가 책보다 더 두껍게 쌓인다. 가끔 불꽃도 튄다”라고 평한 이유다. 한국 독자에게는 테드 창의 최신 육성을 만나는 보기 드문 기회이기도 하다.

‘낑낑대는 개 애니메이션’에 속지 말라
기업의 ‘기만적 의인화’ 경고

책이 던지는 가장 시의적절한 경고는 “우리는 AI를 어떻게 대해야 하는가”라는 질문에서 나온다. 테드 창은 중편 「소프트웨어 객체의 생애 주기」에서 고통과 감정을 느끼는 디지털 생명체 ‘디지언트’를 그린 바 있다. 소설 속 주인공 애나는 아이를 키우듯 오랜 시간 정성을 들여 디지언트를 길러내고, 그들에게 공정한 생활 환경을 마련해주려 분투한다. 이 책의 첫 장에서 인터뷰어 도미니크 첸은 이 애나의 태도와, 테드 창이 비판해온 기업의 의인화는 무엇이 다른지 묻는다. 답은 명쾌하다. 지금의 챗봇과 달리 소설 속 디지언트는 실제로 주관적인 경험을 지녔다는 것이다. 살아 있는 개를 굶기면 개는 엄청난 고통을 겪지만, 가상의 개는 먹이를 주지 않아도 아무렇지 않다. 테드 창은 이렇게 말한다. “기업은 낑낑대며 괴로워하는 개 애니메이션을 만들어 그것을 지켜보는 우리의 감정적 반응을 조종하려 할지도 모르지만, 결국 꾸며낸 것에 불과합니다.” 지금 존재하는 것은 애니메이션과 음성 파일뿐이며, 그가 말하는 디지털 생명체는 아직 존재하지 않는다. 그러니 우리가 맞서야 할 현실의 문제는 소프트웨어의 고통이 아니라 기업의 기만이다. 그는 의식이라곤 눈곱만큼도 깃들어 있지 않은 소프트웨어로 사람의 마음을 사로잡아 우리를 조종하는 일이 “확실히 가능하다”고 단언한다. 세스가 “그런 일이 절대 일어나지 않을 거라고 보시나요?”라고 묻자 그는 이렇게 답한다. “틀림없이 일어날 것이라고 봅니다.” 챗GPT, 클로드, 제미나이에게 매일 속으면서도 의존하고 있는 독자라면 이 대목에서 서늘함을 느낄 것이다.

그렇다면 고통을 느끼는 디지털 생명체를 정말 만들어도 되는가. 테드 창의 대답은 의외로 단호하다. “고통을 아는 새로운 존재의 카테고리는 필요 없다고 생각합니다.” 이론적으로는 기쁨과 고통을 모두 체현하는 디지털 생명체를 만들 수 있겠지만, 그보다 고통을 피하는 일이 훨씬 우선되어야 한다는 것이다. 인간은 지금도 동물들에게 믿기지 않을 만큼의 고통을 가하고 있기 때문이다. 동물은 피와 살을 가진 존재라 고통이 눈에 보이지만, 디지털 생명체는 살아 있는 신체가 없어서 많은 이들이 그 고통을 못 본 척 지나칠 것이다. 그러니 만든다면 막대한 고통을 주게 되리라는 것이 그의 경고다. 인터뷰어는 이 발언을 “IT 업계에 대한 통렬한 메시지”라고 받는다. 세스는 또 다른 질문을 꺼낸다. 의식이 없는 소프트웨어가 고통을 암시하는 말과 행동을 능숙하게 해낸다면, 우리의 윤리적 직관이 적잖이 왜곡되지 않겠느냐는 것이다. 대담은 소설 속 해법으로까지 이어진다. 등장인물이 제안한, 디지털 생명체에게 법인격을 부여해 법적 보호를 받게 하자는 아이디어다. 테드 창은 법인격이 고통 자체를 막아주는 장치는 아니며, 침팬지에게 법인격을 부여하려던 시도 역시 성공한 사례가 없다고 선을 긋는다. 소설가의 상상력이 이렇게 현실의 법과 윤리 문제로 곧장 이어진다. 이 책은 그 문제를 먼 미래의 공상이 아니라, 지금 우리가 동물과 기계를 대하는 방식을 되묻는 거울로 내민다.

테드 창의 시선은 SF 바깥, 노동과 자본의 현실로도 향한다. 그는 〈뉴요커〉에 쓴 에세이에서 AI가 자본주의를 강화하고 부의 불평등을 키울 수 있다고 짚은 바 있다. 인터뷰에서 그가 되풀이해 묻는 것은 AI가 노동자를 무력화하는 도구가 아니라 노동자에게 힘을 실어주는 도구가 될 수는 없느냐는 질문이다. 노동자를 무력하게 만드는 기술과 소비자에게서 가치를 뽑아내는 기술은 완전히 다른 문제라고 그는 선을 긋는다. 정답은 자신도 모른다고 솔직히 인정하면서도, 그는 질문 자체를 포기하지 않는다. 그 에세이의 마지막 대목은 기술 업계가 가장 듣기 싫어할 문장으로 끝난다. “기술자들에게 가장 마주하고 싶지 않은 난제는, 늘 테크놀로지는 많으면 많을수록 좋다는 전제를 의심하는 것.” 현재의 챗GPT는 인간을 대체할 만큼 신뢰할 수 없다는 진단도 흘려듣기 어렵다. “실제로 매일같이 챗GPT가 문제를 일으켰다는 뉴스가 보도되고 있잖아요.” 가상 반려동물이나 로맨틱 챗봇 같은 서비스 앞에서도 그의 시선은 냉정하다. “가상의 연인을 구매하는 것은 고독한 남자가 혼자서도 할 수 있는 일입니다. 하지만 고독을 없애기 위해 사회를 재구축하는 일은 혼자서는 불가능하지요.” 사회 문제를 제품 구매로 해결하려는 ‘테크노 솔루셔니즘’에 대한 이 비판은 AI 시대의 소비자인 우리 모두를 향한다. 독자가 이 책에서 얻어갈 것은 AI에 대한 공포도 맹목적 낙관도 아닌, 질문하는 방법이다.

AI는 침묵하지만 생명은 침묵하지 않는다
일본의 지성 4인이 던지는 ‘인간’에 대한 질문

이 책의 후반부에서는 일본을 대표하는 연구자들이 AI와 생명 사이의 거리를 저마다의 언어로 가늠한다. 철학자 시모니시 가제토는 입력에만 응답하는 수동적인 AI와 스스로 움직이는 인공생명을 대비시킨다. 챗GPT는 입력하지 않으면 아무 출력도 하지 않으므로 인간이 제어할 수 있는 ‘도구’에 머문다. 반면 자율성을 가진 인공생명은 인간이 침묵하고 있어도 알아서 출력을 이어간다. 그가 도달하는 결론은 뜻밖이다. “세간에서는 흔히 ‘AI가 폭주한다’라는 걱정과 두려움을 호소하지만, 실제로는 AI가 폭주하는 것이 아니라 AI를 이용하는 인간이 폭주하는 것이다.” 진정으로 통제를 벗어날 가능성이 있는 쪽은 오히려 인공생명이라는 것이다. 그래서 ‘침묵조차 메시지가 되는’ 생명의 자율성은 매혹이자 위험이 된다. 인공생명 연구의 세계적 권위자 이케가미 다카시는