Description
AI의 폭주 앞에 선 열두 명의 파수꾼
인간을 멸망시키지 않을 AI는 어떻게 만들 수 있을까?
결국 AI도 자본과 권력의 손에서만 움직이게 될까?
인간을 멸망시키지 않을 AI는 어떻게 만들 수 있을까?
결국 AI도 자본과 권력의 손에서만 움직이게 될까?
2026년 9월, 앤트로픽을 떠난 한 연구원이 무거운 경고를 던졌다.
“오픈AI와 앤트로픽이 우리의 목숨을 걸고 도박하고 있다.”
그는 앞으로 10년 안에 AI가 인류를 멸망시킬 확률이 10퍼센트가 넘는다고 말했다. 며칠 뒤 앤트로픽의 CEO 다리오 아모데이는 안전 연구와 외부 검증이 따라올 수 있도록 프런티어 모델 개발의 속도를 조절하자고 제안했다. 샘 올트먼과 일론 머스크, 구글 딥마인드의 데미스 허사비스도 그 방향에 공감했다. 그러나 미국 정부는 중국과의 경쟁을 이유로 정부 차원의 제동에는 선을 그었다. 이제 질문은 더욱 선명해졌다. 누가, 언제, 어떤 기준으로 브레이크를 밟을 것인가.
『AI 인물 열전』 3권 〈AI의 안전망을 구축하는 사람들〉은 바로 이 질문 앞에 선 사람들의 이야기다. 1권이 AI의 토대를 놓은 연구자들을, 2권이 AI를 거대한 시장으로 키워낸 기업가들을 다뤘다면, 3권은 그 거대한 엔진 옆자리에서 브레이크를 찾고 손잡이를 움켜쥔 채 경고음을 울리는 열두 사람을 다룬다. 다리오 아모데이(Dario Amodei), 일리야 수츠케버(Ilya Sutskever), 얀 라이케(Jan Leike), 스튜어트 러셀(Stuart Russell), 엘리에저 유드코스키(Eliezer Yudkowsky), 닉 보스트롬(Nick Bostrom), 맥스 테그마크(Max Tegmark), 게리 마커스(Gary Marcus), 팀닛 게브루(Timnit Gebru), 리나 칸(Lina Khan), 마르그레테 베스타게르(Margrethe Vestager), 헤나 비르쿠넨(Henna Virkkunen). 모두가 AI의 가능성에 열광할 때 이들은 그 화려함 뒤에 숨은 위험의 실체를 똑바로 바라보았다.
『AI 인물 열전』 3권은 이전 1, 2권과 달리 1부와 2부로 구성되었다. 1부는 안에서 브레이크를 잡는 사람들을 소개한다. 기술을 가장 가까이에서 들여다보다가 그 위력에 두려움을 느낀 연구자와 사상가를 다뤘다.
오픈AI를 떠나 안전을 핵심 사명으로 내건 앤트로픽을 세운 다리오 아모데이, 오픈AI에서 샘 올트먼과 대립하고 나와 안전한 초지능을 개발하고 있는 일리야 수츠케버, 실리콘밸리의 숨은 정신적 지주로 인류의 파멸을 막고 이익을 대변할 ‘우호적 인공지능’을 설계하려 했으나 현재는 거대한 인공 신경망으로 돌아가는 AI의 위험을 가장 앞서서 경고하는 엘리에저 유드코스키, 미래의 AI 안전에 대해 이야기하면서 현실 세계의 유색인종과 여성, 그리고 제3세계 노동자들이 AI로 착취당하는 것은 비껴가는 실리콘밸리의 엘리트들을 강하게 비판한 팀닛 게브루 등 1부의 9명은 미래 인류의 지속가능성을 위해 다양한 문제의식을 공유하며 AI 안전에 대해 이야기하고 있다.
2부는 AI 안전을 위해 직접 법안을 만들고 집행하는 사람들의 이야기다. 규칙이 너무 느슨하면 시장은 소수의 손에 넘어간다. 반대로 너무 촘촘하면 이제 막 시작한 기업들이 주저앉을 수 있다. 차세대 지능 기술까지 독차지하려는 빅테크들의 독점 시도를 가장 앞서서 경고하는 리나 칸, 인류 역사상 최초로 AI를 포괄적으로 규제하는 ‘유럽연합 인공지능법’을 직접 설계한 마르그레테 베스타게르, 현재 유럽의 디지털 정책을 이끌고 있는 헤나 비르쿠넨의 이야기를 통해 현재의 AI 안전 정책을 돌아볼 수 있다.
AI로 인한 지능 폭주의 시대에 인간이라는 종(種)의 주권을 지키려면 우리는 무엇을 해야 할까? 안전한 AI는 과연 가능할까? 이 책은 그 물음에 대한 정답을 강요하지 않는다. 대신 문명의 갈림길에서 스스로 파수꾼을 자처한 사람들의 선택과 갈등, 신념과 모순을 따라가며 독자가 직접 판단할 수 있는 재료를 건넨다. 기술 용어를 몰라도 읽어나갈 수 있도록 인물의 삶과 결정적 장면을 중심으로 이야기를 풀어냈다. AI의 안전을 어디까지 믿어야 할지 고민하는 독자라면 꼭 한 번 읽어볼 만한 책이다.
“오픈AI와 앤트로픽이 우리의 목숨을 걸고 도박하고 있다.”
그는 앞으로 10년 안에 AI가 인류를 멸망시킬 확률이 10퍼센트가 넘는다고 말했다. 며칠 뒤 앤트로픽의 CEO 다리오 아모데이는 안전 연구와 외부 검증이 따라올 수 있도록 프런티어 모델 개발의 속도를 조절하자고 제안했다. 샘 올트먼과 일론 머스크, 구글 딥마인드의 데미스 허사비스도 그 방향에 공감했다. 그러나 미국 정부는 중국과의 경쟁을 이유로 정부 차원의 제동에는 선을 그었다. 이제 질문은 더욱 선명해졌다. 누가, 언제, 어떤 기준으로 브레이크를 밟을 것인가.
『AI 인물 열전』 3권 〈AI의 안전망을 구축하는 사람들〉은 바로 이 질문 앞에 선 사람들의 이야기다. 1권이 AI의 토대를 놓은 연구자들을, 2권이 AI를 거대한 시장으로 키워낸 기업가들을 다뤘다면, 3권은 그 거대한 엔진 옆자리에서 브레이크를 찾고 손잡이를 움켜쥔 채 경고음을 울리는 열두 사람을 다룬다. 다리오 아모데이(Dario Amodei), 일리야 수츠케버(Ilya Sutskever), 얀 라이케(Jan Leike), 스튜어트 러셀(Stuart Russell), 엘리에저 유드코스키(Eliezer Yudkowsky), 닉 보스트롬(Nick Bostrom), 맥스 테그마크(Max Tegmark), 게리 마커스(Gary Marcus), 팀닛 게브루(Timnit Gebru), 리나 칸(Lina Khan), 마르그레테 베스타게르(Margrethe Vestager), 헤나 비르쿠넨(Henna Virkkunen). 모두가 AI의 가능성에 열광할 때 이들은 그 화려함 뒤에 숨은 위험의 실체를 똑바로 바라보았다.
『AI 인물 열전』 3권은 이전 1, 2권과 달리 1부와 2부로 구성되었다. 1부는 안에서 브레이크를 잡는 사람들을 소개한다. 기술을 가장 가까이에서 들여다보다가 그 위력에 두려움을 느낀 연구자와 사상가를 다뤘다.
오픈AI를 떠나 안전을 핵심 사명으로 내건 앤트로픽을 세운 다리오 아모데이, 오픈AI에서 샘 올트먼과 대립하고 나와 안전한 초지능을 개발하고 있는 일리야 수츠케버, 실리콘밸리의 숨은 정신적 지주로 인류의 파멸을 막고 이익을 대변할 ‘우호적 인공지능’을 설계하려 했으나 현재는 거대한 인공 신경망으로 돌아가는 AI의 위험을 가장 앞서서 경고하는 엘리에저 유드코스키, 미래의 AI 안전에 대해 이야기하면서 현실 세계의 유색인종과 여성, 그리고 제3세계 노동자들이 AI로 착취당하는 것은 비껴가는 실리콘밸리의 엘리트들을 강하게 비판한 팀닛 게브루 등 1부의 9명은 미래 인류의 지속가능성을 위해 다양한 문제의식을 공유하며 AI 안전에 대해 이야기하고 있다.
2부는 AI 안전을 위해 직접 법안을 만들고 집행하는 사람들의 이야기다. 규칙이 너무 느슨하면 시장은 소수의 손에 넘어간다. 반대로 너무 촘촘하면 이제 막 시작한 기업들이 주저앉을 수 있다. 차세대 지능 기술까지 독차지하려는 빅테크들의 독점 시도를 가장 앞서서 경고하는 리나 칸, 인류 역사상 최초로 AI를 포괄적으로 규제하는 ‘유럽연합 인공지능법’을 직접 설계한 마르그레테 베스타게르, 현재 유럽의 디지털 정책을 이끌고 있는 헤나 비르쿠넨의 이야기를 통해 현재의 AI 안전 정책을 돌아볼 수 있다.
AI로 인한 지능 폭주의 시대에 인간이라는 종(種)의 주권을 지키려면 우리는 무엇을 해야 할까? 안전한 AI는 과연 가능할까? 이 책은 그 물음에 대한 정답을 강요하지 않는다. 대신 문명의 갈림길에서 스스로 파수꾼을 자처한 사람들의 선택과 갈등, 신념과 모순을 따라가며 독자가 직접 판단할 수 있는 재료를 건넨다. 기술 용어를 몰라도 읽어나갈 수 있도록 인물의 삶과 결정적 장면을 중심으로 이야기를 풀어냈다. AI의 안전을 어디까지 믿어야 할지 고민하는 독자라면 꼭 한 번 읽어볼 만한 책이다.
AI 인물 열전 3 (AI의 안전망을 구축하는 사람들)
$15.00