슈퍼 인텔리전스

닉보스트롬

지은이:닉보스트롬
영국옥스퍼드대학교의철학과교수이자,옥스퍼드마틴스쿨의인류미래연구소(FutureofHumanityInstitute)소장,미래기술의영향에대한프로그램(ProgrammeontheImpactsofFutureTechnology)을발족시킨창립센터장이다.지금까지약200건의저술을집필한저자로,주요저작으로는AnthropicBias(Routledge,2002),GlobalCatastrophicRisks(Ed.,OUP,2008),HumanEnhancement(Ed.,OUP,2009)등이있다.영국학사원에서박사후연구원과정을마쳤으며,예일대학교에서가르친바있다.또한보스트롬은철학뿐만아니라물리학,계산신경과학,수리논리학등의다방면의분야에지적기반을두고있다.  

옮긴이:조성진
연세대학교물리학과와동대학원물리학과석사,박사과정을졸업하고,현재경성대학교에너지과학과교수(대학원물리학과,광전자학과겸직)로재직중이다.국제물리올림피아드위원회위원,한국물리학회편집위원등을지냈으며,(주)한국수력원자력비상임이사를맡고있다.  

아직끝이나지않은이야기:참새와부엉이의우화
서문
감사의글
^^1과거의발전과현재의역량^^
역사의발전형태와거대사/크나큰기대/기대와절망의시간들/인공지능의첨단기술/기계지능의미래에대한몇가지의견
^^2초지능으로향하는몇가지경로^^
인공지능/전뇌에뮬레이션/생물학적인지능력/뇌-컴퓨터인터페이스/네트워크와조직/요약
^^3초지능의형태^^
속도적초지능/집단적초지능질적초지능/직접적인영향력과간접적인영향력/디지털지능의장점들의근원
^^4지능대확산의동역학^^
도약의시기와속도/저항성/최적화능력과대확산성/
^^5확실한전략적우위^^
선두주자에게확실한전략적우위가있을것인가?/성공적인연구개발과제는얼마나클것인가?/확실한전략적우위에서부터독점적지배체제까지
^^6인지적초능력^^
기능성과초능력들/인공지능에의한통제력장악시나리오/자연적저항과다른에이전트의저항을극복하는힘
^^7초지능적의지^^관계/도구적수렴성^^
지능과동기사이의관계/도구적수렴성
^^8예정된결말은파멸인가?^^
지능대확산의예정된결말은존재적재앙인가?/위험한전환/악성실패상황들
^^9통제문제^^
두에이전트문제/능력통제방법/동기선택방법/개요
^^10오라클,지니,소버린,툴^^
오라클/지니와소버린/툴-인공지능/비교
^^11다극성시나리오^^
말과인간/알고리즘경제에서의삶/전이-후독점적지배체제의출현?
^^12가치획득^^
가치-탑재문제/진화적선택/강화학습/결합된가치부여/동기부여적임시가설/가치학습/에뮬레이션조정/제도설계/개요
^^13선택의기준선택하기^^
간접적규범성의필요/일관추정의지/도덕률모델/내취지대로행동하라/요소리스트/충분히가까워지고있다
^^14전략적그림^^
과학과기술의전략/경로와조력자/공동작업
^^15결정의시간^^
기한이있는철학/무엇이이루어져야하는가?/최선의인간본성이나타나서문제를해결하기를

주
참고문헌
역자후기
찾아보기

2014년출간이후
<뉴욕타임스>
,아마존베스트셀러

영미권에서13만부판매/19개언어로번역계약체결

인공지능의문제점을제기하여세계적인논의의출발점이된책


빌게이츠가인공지능의“현재를확인하고미래를전망할수있는반드시읽어야할두권의책중에서한권”으로강력하게추천한이책은영미권에서만13만부이상이판매되었고,19개언어의번역계약이체결되었다.이책의저자인닉보스트롬은옥스퍼드대학교의철학과교수이며,이대학의인류미래연구소소장이다.그는인공지능이발전하여인간의능력을훨씬더능가하는슈퍼인텔리전스(초지능)의개발과정에서인류가심도있게고민해야할문제점들을이책에서제기한다.이책은우리모두에게초지능을개발하기이전에우리가무엇을생각하고,어떤결정을내려야하는지에대한의문을제기함과동시에,인공지능개발의현재와미래를탁월하게전망한다.

주요내용
2016년알파고와한국프로바둑기사이세돌의대국은전세계적인관심을받았으며,그결과는놀라움과우려를동시에불러왔다.인공지능의현상황을여실히보여준이대결로인해서인공지능이현실에서사용될날이멀지않았음을모두가실감하게된것이다.인간은현재의지능으로지구에서지배적인위치를차지하게되었다.그렇다면인간의지능을훨씬더능가하는초지능이개발된다면,과연인류는어떤시간을맞이하게될것인가?이책에서는,인류가직면한문제들가운데가장중요하고도심각한문제라고생각되는,바로이문제에어떻게대처할것인지를다룰것이다.인간보다똑똑한초지능이개발되기전에인류에게는단한번의기회가있을것이다.그기회를어떻게이용할지는이제부터전인류의노력에달려있다고할수있다.
이책의제1장에서는인공지능분야의역사와현재의발전양상을서술하고,제2장에서는초지능으로향하는여러가능한기술적경로들을알아보고그것의가능시기를조심스럽게예측한다.제3장에서는초지능의형태들(속도적초지능,질적초지능,집단적초지능)을조사하고,기계기반지능의잠재력에대해서살펴본다.제4장에서는인간수준의지능을획득한인공지능이그후언제쯤지능대확산(intelligenceexplosion)을이루어초지능에다다를것인지를살펴본다.제5장은초지능의개발단계에서하나의초지능이개발될것인지,아니면여러초지능들이동시에개발될것인지를다룬다.제6장에서는초지능이가질수도있는여러가지능력들을살펴보고,그능력들로초지능이무엇을할수있을지도생각해본다.제7장은초지능이엄청난능력으로어떤최종목표를구현할것이며,그목표에는어떤동기가작용될수있는지를살펴본다.제8장에서는우리가가지고있는초지능에대한전망을새로운관점에서바라보고,초지능이인간과는완전히다른새로운지성체임을강조한다.제9장은초지능적에이전트의통제문제로논의의시각을옮겨서,능력통제와동기선택의두가지방향에서초지능을통제할수있는방법들을제안한다.통제문제에사용할수있는프로그램인오라클,지니,소버린툴에대해서는제10장에서다룬다.제11장에서는다수의상충하는초지능적에이전트들이포진한전이-후(post-transition)사회,즉다극성결말에서어떤일이벌어지는지를다룬다.제12장에서는초지능을근본적으로통제할수있는동기선택방법에대해서심도깊게고찰한다.제13장은초지능에게과연어떤가치를가지도록선택할것인지에대한이야기이다.제14장과15장에서는앞에서밝혀낸내용들을거시적관점에서바라보고,그것들로부터얻을수있는큰그림을고찰할것이다.그리고마지막으로미래에초지능으로인해서야기될수있는우리의존재자체에대한위험을피하고자,지금인류가할수있는일들을몇가지제안한다.
인공지능에서초지능으로나아가는과정에서인류가반드시해결해야하는근본적인질문들을제기한이책은인류가이제껏경험해보지못한도전을맞아우리가무엇을할수있을지를전망한다.우리가살아가는이번세기안에개발될것으로예상되는초지능은인류의미래를결정할것이다.공상과학소설이나영화를통해서막연하게그려본인공지능시대의미래는이책을통해서현실에바탕을둔생생한현재진행형으로새롭게각인될것이다.
지능대확산이일어날전망이보이기이전에는,인간은마치폭탄을가지고노는작은어린아이들과같은존재이다.이것은장난감이가진힘과인간행위의미성숙성사이의부조화를잘보여준다.초지능은현재준비되지않았고또한한동안준비될수없는힘겨운목표이다.언제폭발이일어날지에대해서는거의예측이불가능하지만,만약그장치를우리귀에가까이가져다대면비록희미하게나마똑딱거리는소리를들을수있을것이다.
폭발하지않은폭탄을손에들고있는아이가해야할현명한행동은조심스럽게폭탄을내려놓고조용히방밖으로나와서가장가까이에있는어른에게알리는것이다.그러나이제우리가다루려는문제에서는아이가한명이아니라다수이고,아이들각자가독립된격발장치를가지고있다.위험물을모두내려놓게하는지각있는방법을찾을기회는거의없다.몇몇바보같은녀석들은무슨일이벌어질지보려고점화버튼을누를것이다.
그누구도하늘전체를뒤덮으면서전방위적으로내리꽂히는지능대확산의폭풍으로부터안전하게도망칠수는없을것이다.그경우에는사건을알려서도움을청해야할눈에띄는어른도그곳에는없을것이다.