무스타파술레이만
저자:무스타파술레이만
AI기업인인플렉션AI의공동창립자이자CEO.국제적벤처캐피털기업인그레이락의파트너로도재직중이다.세계최고의AI회사중하나인딥마인드를공동설립했으며구글은이기업을인수하면서유럽역사상가장큰금액을지불했다.
딥마인드를10년이상이끌면서AI리서치와응용프로그램에있어여러지각변동을일으켰다.딥러닝이라는혁신의주역이었고전세계에충격을안긴바둑프로그램‘알파고’를개발하기도했다.최근까지구글에서AI제품관리부서의부사장으로일했으며그의팀과함께세계에서가장강력한대화용AI시스템인람다(LaMDA)를개발했다.현재캘리포니아의팔로알토에살고있다.
정리:마이클바스카
영국의작가이자출판인.딥마인드에서전속작가로일하며컨설팅업무를수행했다.미디어의미래와창의적인산업그리고신문,매거진,블로그를위한기술의경제학에대하여폭넓은저술활동과강연을하고있다.지은책으로는《큐레이션(Curation)》,《콘텐츠머신(TheContentMachine)》,《휴먼프런티어(HumanFrontiers)》등이있다.
역자:이정미
호주시드니대학교에서금융과경영정보시스템을공부했다.읽고쓰기를좋아해늘책을곁에두고살다가바른번역소속번역가로활동하고있다.글쓰는번역가가되는게꿈이며,옮긴책으로는《익스텐드마인드》,《7가지코드》,《신대공황》,《누구나죽기전에꿈을꾼다》,《레고북》,《현금없는사회》등이있다.
이책에쏟아진찬사
핵심용어해설
프롤로그|인류의운명을결정하는새로운물결
1장억제가불가능하다
물결
딜레마
함정
논의할것들
1부호모테크놀로지쿠스
2장무한한확산
기관
범용의물결:역사의리듬
확산이기본이다
진공관에서나노미터까지:초고속확산
3장기술억제문제
억제가기본이다
안된다고거부한적이있는가?
핵은예외일까?
기술적동물
2부새로운물결
4장지능의기술
알파고와미래의시작
원자에서비트와유전자까지
캄브리아기대폭발
전문용어를넘어서
인공지능의봄:딥러닝의발달
세상을잠식하는AI
모든것을자동완성하기:대규모언어모델의부상
두뇌규모의모델
더적은자원으로더큰성과를내다
지각능력:기계가말을하다
초지능을넘어서
역량:현대판튜링테스트
5장생명의기술
유전자가위:크리스퍼혁명
DNA프린터:현실이된합성생물학
생물학적창의성이발휘되다
합성생명체시대의AI
6장더폭넓은물결
로봇공학의시대
양자지상주의
차세대에너지전환
물결너머의물결
7장다가오는물결의네가지특징
비대칭:힘의대이동
초진화:끝없는가속화
옴니유즈:많으면많을수록좋다
자율성과그너머:인간은주도권을잡을수있을까?
고릴라문제
8장막을수없는인센티브
국가적자부심,전략적필요성
군비경쟁
자유를갈망하는지식
100조달러의기회
글로벌도전과제
자아
3부실패한국가
9장대합의
코펜하겐의교훈:정치는개인적인것이다
취약한국가
기술은정치적이다:국가를향한물결의도전
10장취약성증폭기
국가비상사태2.0:통제되지않는비대칭성
급감하는권력비용
군사용로봇:공격의우위
허위정보기계
국가가후원하는정보공격
보안이취약한실험실과의도치않은불안정성
자동화논쟁
11장국가의미래
집중:지능의복리수익
감시:권위주의를위한로켓연료
파편화:국민에게권력을
다가오는모순의물결
12장딜레마
재앙:궁극의실패
재앙의종류
컬트,광신도,자살충동상태
디스토피아적전환
정체:또다른형태의재앙
다음단계는?
4부물결을헤쳐나가다
13장억제가가능해야한다
규제만으로는충분치않다
억제를재검토하다:새로운대합의
물결이몰려오기전
14장억제를위한10가지단계
1.안전:기술안전을위한아폴로계획
2.감사:지식은힘이고,힘은통제다
3.초크포인트:시간벌기
4.제작자:비평가가참여해야한다
5.기업:이익+목적
6.정부:생존,개혁,규제
7.동맹:조약의시대
8.문화:실패를존중하고포용하기
9.운동:민중의힘
10.좁은길:앞으로나아가는유일한길
에필로그|인류세이후의삶
감사의말
미주
AI혁명의최전선에서기술혁명의역사를새로쓰고있는저자의충격적미래전망
“폭발적으로발전하는AI와신기술은인류를어디로이끌고있는가?”
“우리는이놀라운기술을과연어디까지통제하고억제할수있는가?”
저자무스타파술레이만은이책을통해AI의발전이가까운미래,인류에대한새로운정의를내릴것이라고말한다.그는불과바퀴,전기의발명이인류역사의궤적을완전히바꾸었듯이AI가그러한역할을하게되고,이로인해우리는인류라는종의역사에서가장중요한문턱에서게될것이라고주장한다.즉새로운물결(wave)을맞이하게된다는것이다.
그는다가오는물결의고유한특징으로비대칭성,초진화성,만능성,자율성을들면서특히만능성,즉옴니유즈(omni-usetechnology)라명명한어디에나쓸수있는범용성을강조한다.AI는‘새로운전기’이며우리의일상생활깊숙이침투해로봇,생물학,화학등다양한분야와결합해해당산업의발전을이끌것이라고예측한다.또한양자컴퓨팅과같은분야가AI의발전을돕고또AI가이들을도와한단계도약하는선순환구조에이를것이라고전망하고있다.이로인해AI와관련산업은급속도로,그리고광범위하에발전하고기존에존재하지않던새로운생물을만들거나관련기능을변형하는합성생물학이함께발전하면서인간에대한정의를새롭게내리게된다는것이다.
피할수없는미래,
억제가가능해야한다
저자가우려하는부분은이러한미래,피할수없는변화를우리가어떻게통제하고억제할수있는가이다.거대기술기업들은물론전세계의국가는과거와다름없이사활을걸고AI기술개발에나설수밖에없다.문제는핵무기와달리AI기술은범용적이고도다양한측면에서활용할수있기때문에전통적인방식으로는규제에실패할것이라는데있다.저자는과거신기술에반대했던러다이트운동의실패를예로들면서AI기술도이와같을것이라말하고있다.그는AI기술을정부와사회가적절하게관리하기위해서는반드시‘억제(containment)’가가능해야한다고주장한다.AI를일일이규제하기보다AI를적절하게견제할수있는각종정책즉거버넌스,지배구조,그리고억제할수있는기술들을다각도로모색하고갖추자는것이다.
이책에는AI가지금까지알고있는인류라는종의미래를바꿀수도있다는우려와함께적절하게통제하고억제할수있다면AI가인류의축복이될수있을것이라는기대가공존한다.무엇보다이책이지니고있는진정한가치는예측가능한미래와그에대한적절히대응할수있는대안의제시에있다.다가오는거대한물결과이로인해뒤바뀔인류의미래,우리는어떤선택을할것인가?《더커밍웨이브》에서그해답을함께찾아본다.
이책의주요내용
이책의1부에서는수천년에걸쳐발전해온기술의오랜역사와기술변화의물결이어떻게확산되는지살펴본다.무엇이기술의원동력일까?무엇이기술을보편적인것으로만들까?더불어우리는새로운기술을의식적으로거부한사회가있었는지도살펴본다.
2부에서는다가오는물결에대해자세히살펴본다.그물결의중심에는엄청난잠재력과힘,위험성을지닌두가지범용기술,즉인공지능과합성생물학이자리하고있다.두기술이미칠영향은오래전부터예견돼왔지만,그파급력은여전히과소평가되는경우가많다.이두기술을중심으로로봇공학과양자컴퓨팅과같은여러관련기술이복잡하고격동적인방식으로발전할것이다.여기에서는관련기술들이어떻게등장했고어떠한기능을수행할수있는지살펴볼뿐만아니라그기술들을억제하기가왜그렇게어려운지그이유에대해서도함께살펴본다.
3부에서는억제되지않은기술의물결이불러올거대한권력재분배의정치적함의를살펴본다.현재정치질서의근간이자기술억제의가장중요한주체는바로국민국가다.이미위기에흔들리고있는국가는새로운형태의폭력,잘못된정보의홍수,사라져가는일자리,치명적인사고등새로운물결로증폭된일련의충격으로더약화될것이다.더나아가그물결은중앙집중화와탈중앙화를동시에이끄는일련의지각변동을일으킬것이다.이는거대한기업들을새로만들어내고권위주의를강화하는한편,전통적인사회구조밖에서살아가는집단과움직임에도힘을실어줄것이다.국민국가의정교한협상은우리가그와같은제도를가장필요로할때엄청난압박을받게될것이다.결국이러한방식으로우리는딜레마에빠지게된다.
4부에서는우리가할수있는일에대한논의로넘어간다.기술을억제하고딜레마에서벗어날수있는가능성이조금이라도있을까?있다면어떤방법이있을까?이섹션에서는코드와DNA수준에서국제조약수준까지10단계로나눠엄격하고중첩된제약조건,즉억제를위한개략적인계획을수립하는방법을간략하게설명한다.
추천사
전세계석학들의찬사,그야말로최고의책이다!
전대미문의시기를항해하기위한최고의안내서이다.-빌게이츠마이크로소프트창업자
《더커밍웨이브》는매혹적이고도중요한책이다.인공지능과생명공학이인류에게가하는실존적인위험을탐구하고우리가어떻게그위협을억제할수있는지에대한실질적인해결책을제공한다.다가오는기술의물결은인류에게신과같은창조의힘을약속하지만,그것을현명하게관리하지못한다면우리를파멸로이끌수도있다.-유발노아하라리베스트셀러《사피엔스》저자
이것은미래에서전하는강력한경고에다름아니다.결코무시할수없는최고전문가의눈으로AI의진화가세계경제와정치에어떤영향을미칠것인지담대하게소개하고있다.업계최고전문가의설득력있는주장을담고있어여러분이미래를바라보는관점을바꾸고현재를새롭게이해할수있도록도울것이다.-누리엘루비니뉴욕대학교명예교수
이책이도착하자마자일기쓰기를제쳐두고바로읽기시작했다.20년후에는이책이보수적인미래비전처럼보일수도있겠지만현재로서는책을읽다가잠시멈춰생각에잠기게된다.‘이게정말사실일까?’이책의탁월함은이모든것이현실이될수있으며,그이유와과정을차분하고부드러운어조로설명하는데있다.독자들은무서운순간들과마주하고충격에휩싸일것이다.익숙한것대부분이곧바뀔것이라는사실을깨닫게되는순간두려움을느끼는것은당연하다.하지만결국에는현재를살아가고있다는사실에활력과감격을느낀다.변화의물결이곧닥칠것이라는것이미래에대한예보다.-알랭드보통철학자,베스트셀러작가
최근몇년동안급속한과학발전과관련된위협과기회들을신중하게설명하는이책은인류를향한놀랍도록생생한경고문이다.흥미로운사실과설득력있는주장그리고저자특유의관찰들로가득차있다.모두가읽어야할필독서이다.-대니엘카너먼노벨상수상자,베스트셀러《생각에관한생각》저자
기술전문가,기업가,선구자인무스타파술레이만의통찰은시사하는바가매우크다.핵심주제에대한깊이있는연구와분석이담긴이책은우리시대의가장중요한과제에대한흥미로운통찰을제공한다.-앨고어전미국부통령
현재진행중인AI혁명에무스타파술레이만보다더가까이다가가있는사람은없다.지금일어나고있는엄청난기술변화의위험과보상을설명함에있어그보다더적합한사람역시없다.이책은인류역사상전례가없는지금이순간에대해탁월하게설명하고안내하는필독서다.-에릭슈밋전구글CEO
첨단기술의진정한인사이더중한명인무스타파술레이만은이대담한책에서우리시대의가장중요한역설,즉통제할수없는기술을통제해야한다는문제를다룬다.그의설명에따르면,생성형AI,합성생물학,로봇공학,기타혁신기술이빠르게발전하면서확산되고있다.이러한혁신은상당한이점을가져다주지만,동시에현실적이고점점더커질수있는위험을초래하기도한다.술레이만은이러한위험은관리하기도힘들뿐더러쉽게해결할수있는간단한해결책같은것은없다고강조한다.이책은솔직하고열정적인태도로금세기에우리인류가직면하게될가장큰도전중하나를두려움없이직시하고있다.술레이만덕분에우리는현재상황과우리가선택할수있는옵션을이해하게됐다.이제행동을취하는것은우리의책임이다.-앤드루맥아피MIT슬론경영대학원수석연구원,베스트셀러《TheGeekWay》저자
다가오는인공지능과합성생물학의물결은다음10년을인류역사상최고의시간으로만들것이다.만약그게아니라면최악의시대가될것이다.저자만큼앞으로닥칠도전들을잘인식하고설명할수있는사람은없다.우리의생각을끊임없이자극하는이책은새로운기술들의놀라운힘을이해하는사람이라면누구나반드시읽어야할필독서이다.-에릭브린욜프슨스탠퍼드인간중심인공지능연구소교수,베스트셀러《제2의기계시대》저자
AI혁명은현재진행중이지만우리는이를얼마나잘이해하고있을까?《더커밍웨이브》는급격한기술변화의역사와우리앞에놓인심각한정치적도전에대한박학다식하고명쾌한가이드를제공한다.-앤애플바움역사학자,퓰리처상수상자
《더커밍웨이브》는인공지능,합성생물학,기타첨단기술이가져올예상치못한재앙적결과에대해구체적이고실용적이고명료한방식으로설명한다.이의미있는책은인간이기술혁신에지배당하지않고어떻게기술혁신을주도할수있는지에대한생생하고설득력있는로드맵을제시한다.-마사미노우하버드대학교교수,전하버드법학전문대학원학장
무스타파술레이만은이책에서현재의급속한기술혁명이독보적인파괴력을발휘할것이라는설득력있는논거를제시한다.이책을통해이러한기술의속도와규모,그리고기술이우리사회전반에걸쳐어떻게확산될것인지이해할수있다.더불어우리세계를조직하는제도의구조를어떻게파괴할것인지도파악할수있다.-이안브레머유라시아그룹창립자,베스트셀러《ThePowerofCrisis》저자
이책은영감과경각심을동시에불러일으킨다.이시대의기술혁명에대한이해가부족한사람들에게는중요한교양서가되고,이미이해하고있는사람들에게는정면으로도전하는책이다.우리모두의미래가이책에담겨있으니반드시읽고행동에옮겨야한다.-데이비드밀리밴드전영국외무부장관
이책은AI의위험과경이로움에대한냉정한평가를제시한다.동시에이혁명적도전이초래할수있는가장치명적인결과를억제하기위해정부가지금당장취해야할조치가무엇인지,그에대한의제를제안한다.-그레이엄앨리슨하버드대학교교수,베스트셀러《예정된전쟁》저자
급격한기술의빠른발전속도는그잠재력과위험성으로우리를압도하고있다.무스타파술레이만은산업발전의역사를추적하면서최근기술발전속도의급격한증가에대해차분하고실용적이며깊이있는윤리적관점으로설명하고있다.그의개인적인여정과경험은《더커밍웨이브》를더욱돋보이게하며,매일쏟아지는기술뉴스의홍수에서한발짝물러나있고싶은모든이에게흥미로운읽을거리를선사한다.-안젤라케인전유엔사무총장,군축문제고위대표
최고의전문가가바라본현재의AI발전과미래를놀랍도록설득력있게풀어냈다.세상을변화시키는이기술을사회가어떻게하면안전하게활용할수있는지알고싶다면꼭이책을읽어보기바란다.-브루스슈나이어사이버보안전문가,베스트셀러《Hacker’sMind》저자
세계가직면한가장큰도전과제중하나는AI와생명공학의이점을활용하는동시에치명적위험을피할수있는지배구조의고안이다.이책은이두기술이제기하는‘억제과제’에대해심도있게설명한다.세심한연구와독창적인통찰로가득찬《더커밍웨이브》는정책입안자와보안전문가를위한건설적인조언을담고있다.-제이슨매시니RANDCEO,전국가정보국부국장,전미국정보고등연구계획국국장
지금이순간에도활발하게전개되고있는혁신적기술의의미,잠재력,위협을이해하고싶다면인공지능의선구자중한명인무스타파술레이만의깊이있고놀라운이책을반드시읽어야할것이다.-스티븐프라이배우,방송,베스트셀러작가
《더커밍웨이브》는전례없는기술혁명의최전선에서바라본매우명료하고역동적이며설득력있는책이다.개인적인이야기와기술적인이야기를매끄럽게잘엮어낸이책은엄청나게강력한기술을관리하고개선하는것이얼마나중요하고어려운것인지잘보여준다.-제프멀건유니버시티칼리지런던교수
AI가인류의미래에미칠영향에대한최고의분석이다.무스타파술레이만은현시대의주요AI기업중두곳의공동창업자로서두각을나타내고있는독보적인존재다.그는탁월한능력을갖춘기업가이자깊이있는사상가이며,앞으로우리세상을변화시킬기술의물결에대해가장중요한목소리를내는사람중한명이다.-리드호프만링크드인및인플렉션공동창립자
기술이사회를빠르게변화시키고있다.그런의미에서이렇게솔직하고엄격한분석이담긴책의발간은그어느때보다도의미가크다.이책은도구의시작부터현재급격하게증가하고있는AI역량과연구의핵심까지파노라마처럼펼쳐지는연구조사결과를설득력있게제시하면서명확한행동을촉구한다.모든사람이반드시읽어야할책이다.-페이페이리스탠퍼드대학교컴퓨터과학교수,인간중심인공지능연구소공동책임자
《더커밍웨이브》는첨단기술이권력,부,전쟁,업무,심지어인간관계까지사회의모든측면을변화시키고있다는사실을놀랍고설득력있게전달한다.새로운기술이우리를통제하기전에우리가이기술을통제할수있을까?인공지능분야의세계적리더이며정부,대기업,시민사회가공익을위해행동해야한다고오랫동안주장해온무스타파술레이만은이중요한질문에답할수있는완벽한길잡이역할을한다.-제프리삭스컬럼비아대학교교수,유엔지속가능한발전해법네트워크회장
우리시대의가장중요한문제를예리하고냉정한시각으로정리한《더커밍웨이브》는기술실무자들이반드시읽어야할필독서다.또한이책은우리모두가이중대한담론에적극적으로참여해행동할것을강력하게촉구한다.-루치미라클플러스CEO,전바이두COO,전마이크로소프트빙EVP
술레이만은AI와합성생물학의무분별한발전이초래할수있는지정학적혼란,전쟁,국민국가의쇠퇴등심각한파급효과에대한메시지를가장중요한시기에정확하게전달할수있는독특한위치에있다.다행히도그는새로운기술이인류의복지에기여하기위해반드시달성해야할과제를깊이있게다뤘다.그는일련의점진적노력을제안하며이를종합적으로수행하면이러한기술이진화하고확산되는환경을변화시켜보다더밝은미래를보장할수있다고말한다.-메건오설리번하버드케네디정부대학원벨퍼과학및국제문제센터소장
너무늦기전에우리모두가응답해야할대담한경고다.무스타파술레이만은무분별한속도로발전하는기술이가져온위험과인류가직면한도전에대해명쾌하고정확하게설명한다.반드시읽어야할책이다.-트리스탄해리스인도적기술센터공동설립자겸전무이사
우리시대의가장중요한문제,즉우리보다훨씬더강력한주체에대한통제력을어떻게유지할것인지그방법에대해실용적이고도낙관적인로드맵을제시한다.-스튜어트러셀캘리포니아대학교버클리캠퍼스컴퓨터과학교수
《더커밍웨이브》는인공지능과합성생물학이제기하는전례없는거버넌스와국가안보문제에대한실용적이고깊이있는정보를제공하며쉽게이해할수있도록안내한다.술레이만의놀라우면서도경각심을불러일으키는이책은통제불가능해보이는기술을통제하기위해우리가무엇을해야하는지알려준다.-잭골드스미스하버드대학교법학교수
탁월하고매력적이며,복잡하면서도명료하고,긴박하면서도차분한《더커밍웨이브》는우리세기의가장중요한질문,즉AI,합성생물학등앞으로급속도로진행될기술혁명이우리가원하는세상을만들수있도록어떻게보장할것인지이해하고대처하도록안내한다.쉽지않은일이지만술레이만은강력한토대를마련해우리에게제시한다.미래에관심이있는사람이라면누구나이책을읽어야한다.-에릭랜더MIT와하버드의브로드연구소창립이사,전백악관과학자문관
실용주의와겸손함이조화를이루고있는이책은기술이우리에게급격한복지향상을가져다주었지만,그속도가제도적적응보다빠르다는점을강조하며명확한이분법이나단순한해결책은존재하지않는다는사실을일깨워준다.AI와합성생물학의발전은공상과학소설을뛰어넘는능력을가능하게했으며,이로인한힘의확산은우리가구축한모든것을위협하고있다.우리는재앙을불러올수있는스킬라(Scylla)와전방위적감시의카리브디스(Charybdis)사이에서균형을잡아야한다.이책의페이지를넘길때마다그가능성이높아진다.-케빈에스벨트생물학자,MIT미디어랩부교수