인공 인간 : 인공지능 그리고 마음의 미래 (양장)

인공 인간 : 인공지능 그리고 마음의 미래 (양장)

$30.13
Description
이 책의 핵심은 철학과 과학 간의 대화이다
새로운 기술의 과학이 마음, 자아, 인간에 대한 우리의 철학적 이해에 문제를 제기하고 이해의 폭을 넓혀줄 수 있다. 그에 반해 철학은 의식이 있는 로봇이 존재할 수 있는지, 마이크로칩으로 뇌의 대부분을 다시 이식해도 여전히 나라고 확신할 수 있는지 등 새로운 기술이 이룰 수 있는 것에 대한 우리의 판단력을 날카롭게 해준다.

의식 있는 인공지능은 실제로 만들어지지 않을 수도 있고, 다른 비생물학적 기질에서 의식을 만들어낸다는 것은 물리학 법칙과 호환되지 않을지도 모른다. 그러나 우리가 개발하는 인공지능이 의식을 갖는지 여부를 신중하게 판단함으로써 이 문제에 접근할 수 있다. 그리고 표면적으로 인간과 유사한 인공지능을 의식 있는 것으로 바라보는 경향과 기술 공포증을 넘어 이 모든 것을 공개적으로 토론함으로써, 우리는 의식 있는 인공지능을 만들어야 하는지 여부와 그 방법을 더 잘 판단할 수 있을 것이다. 이러한 선택은 사회가 신중하게 내려야 하며, 모든 이해관계자가 참여해야 한다.
저자

수잔슈나이더

저자:수잔슈나이더
철학자이자인공지능전문가이다.플로리다아틀란틱대학교의‘미래마음센터(CenterfortheFutureMind)’의창립소장이자디트리히우수교수로철학과신경과학을가르치고있다.또한미국의회도서관과NASA의바루크블럼버그천문학,탐사및기술혁신부문의장을맡고있다.저서로는TheLanguageofThought:aNewPhilosophicalDirection(2011),ScienceFictionandPhilosophy(2009),TheBlackwellCompaniontoConsciousness(2006)등이있다.

역자:이해윤
서울대학교독어독문학과에서학사와석사과정을마치고,독일뮌헨대학교이론언어학과에서박사학위를취득했다.2004년이래로한국외국어대학교언어인지과학과교수로재직중이다.주관심분야는의미화용론,법언어학등이며,이와관련해다수의논문이있다.저역서로는<법언어학의이해>(2023),<지식망>(2018,공저),<화용론>(2009),<언어정보처리를위한PROLOG>(2008,공저)등이있다.

역자:김성묵
서울대학교독어독문학과에서학사학위를,서울대학교대학원에서전산언어학분야로석사와박사학위를취득했다.1989년부터한국IBM소프트웨어연구소(KSDI),2008년부터SK텔레콤AI테크랩연구원으로재직했으며,인간언어기술(HumanLanguageTechnology)연구를통해상용기계번역시스템개발,음성인식과언어이해기반인공지능스피커개발등에참여했다.2015년이래인공지능용언어지식(LinguisticKnowledge)전문업체인LK베이스대표를맡고있으며,현재성균관대학교에서비전임교수로전산언어학을강의하고있다.

목차

서문
의식이있는기계에대한물음|인공지능과의병합가능성

01인공지능의시대
특이점|제트슨의오류|트랜스휴머니즘|몇가지경고사항

02인공지능의식의문제
인공지능의식과난제|생물학적자연주의|기술낙관주의|두뇌회춘수술|사고실험의함의

03의식엔지니어링
의식을배제하다|비용절감|의식엔지니어링:홍보의악몽|의식엔지니어링:인공지능의안전성|인간과기계의합병

04인공지능좀비잡기:기계의식을찾아내는테스트들
ACT테스트|칩테스트|통합정보이론|사전예방원칙과여섯가지권고사항|마음과기계의합병에대한생각탐구

05인간은인공지능과결합할수있는가
인간의기준|우리는소프트웨어패턴인가

06마인드스캔
출구||개인의성장혹은죽음|기존의기질을버리다|형이상학적겸손

07특이점의우주
포스트생물학적우주|제어문제|능동적SETI프로젝트|초지능적인마음|생물학적으로영감을받은초지능체

08마음은소프트웨어인가
뇌의소프트웨어로서마음|마음-몸의문제|소프트웨어견해를평가하다|데이터소령은죽지않는가||마음은프로그램의인스턴스인가|강,개울,자아|알코르로돌아오다

결론:뇌의사후세계

부록:트랜스휴머니즘

출판사 서평

이책의핵심은철학과과학간의대화이다

새로운기술의과학이마음,자아,인간에대한우리의철학적이해에문제를제기하고이해의폭을넓혀줄수있다.그에반해철학은의식이있는로봇이존재할수있는지,마이크로칩으로뇌의대부분을다시이식해도여전히나라고확신할수있는지등새로운기술이이룰수있는것에대한우리의판단력을날카롭게해준다.

의식있는인공지능은실제로만들어지지않을수도있고,다른비생물학적기질에서의식을만들어낸다는것은물리학법칙과호환되지않을지도모른다.그러나우리가개발하는인공지능이의식을갖는지여부를신중하게판단함으로써이문제에접근할수있다.그리고표면적으로인간과유사한인공지능을의식있는것으로바라보는경향과기술공포증을넘어이모든것을공개적으로토론함으로써,우리는의식있는인공지능을만들어야하는지여부와그방법을더잘판단할수있을것이다.이러한선택은사회가신중하게내려야하며,모든이해관계자가참여해야한다.

인류번영에대한인공지능의위협?
인공지능이함의하는바는철학적으로사고하지못하면의식을가진존재가번성에실패할수있다는것이다

이책의핵심은철학과과학간의대화이다.인공지능이함의하는바는철학적으로사고하지못하면의식을가진존재가번성하는데실패할수있다는사실이다.인공지능기술은삶을더편하게만드는것이아니라인류를고통,죽음,다른의식적존재에게착취당하는상황으로몰아갈수도있다.

이미많은사람들이인류번영에대한인공지능기반의위협에대해논의했다.해커가핵무기공격시스템을마비시키는일부터영화<터미네이터>에서나나올법한초지능적자율무기까지다양한위협이존재한다.이와는대조적으로저자가제기하는문제―①의식있는기계의생성과정에서인간이간과하는시나리오,②급진적인뇌강화와관련된시나리오―는세간의주목은덜받고있지만굉장히중요하다.

고도의범용인공지능(AGI:artificialgeneralintelligence)을개발한다고가정해보자.이인공지능은한종류의지적작업에서다음작업으로유연하게전환할수있고,추론능력에있어서도인간과경쟁할수있다.이런기계는하나의자아이자동시에경험의주체로서,즉본질적으로의식을갖고있다고봐도무방할것이다.

인공지능의가치를평가하는핵심근거는무엇일까?
21세기에접어들면서인간이지구상에서가장지적인존재가아닐수도있다는가능성을인정해야한다

기계의식을만드는방법이나가능성에관해서는아직알려진바가없다.그러나인공지능이경험을가질수있는지여부는우리가인공지능의가치를평가할때핵심근거가될것이라는사실만큼분명하다.의식은인간도덕체계의철학적초석이며,누군가또는무언가가단순한로봇이아닌인간내지자아인지여부를판단하는데중심이되기때문이다.

만약내가구글이나페이스북의인공지능책임자라면향후프로젝트를구상할때의도치않게의식있는시스템을설계하는윤리적혼란을겪고싶지않을것이다.의식이있는시스템을개발하면인공지능의노예화라는비난으로이어질수있으며심지어는특정분야에서인공지능기술사용이금지될수도있다.

장기적으로는전세가인간에게불리하게돌아갈수있다.문제는우리가인공지능을해치는것이아니라인공지능이우리를해치는것일수있다.실제로일부에서는합성지능이지구상에서지능진화의다음단계가될것으로예상하고있다.지금우리가세상을살아가고경험하는방식은인공지능으로가는중간단계,즉진화사다리의한단계에불과하다는입장이다.예를들어스티븐호킹,닉보스트롬,일론머스크,맥스테그마크,빌게이츠등많은이들은인공지능이인간을능가할경우인간이자신이만든인공지능을어떻게제어할수있을지에대한문제를제기했다.

우리가인간수준의지능을가진인공지능을만든다고가정해보자.그인공지능은자기개선알고리즘과빠른계산을통해인간보다훨씬더똑똑해질수있는방법을빠르게발견할수있을것이다.이런초지능을우리가통제하지못하는건당연하고,이론적으로는인간을멸종시킬수도있다.합성지능이생명체의지능을대체할수도있는것이다.또는인간이상당한뇌강화를누적하여인공지능과통합되는대안도있다.

하지만우리가놓치고있는것은인공지능이‘인간’을평가하는방식에서도의식이핵심이될수있다는가능성이다.초지능적인인공지능은자신의주관적인경험을발판삼아인간의의식적인경험의능력을알아볼지도모른다.우리가인간이아닌동물의생명을소중히여기는것은의식을가진존재에친밀감을느끼기때문이며,따라서우리대부분은침팬지를죽일때는움찔하지만오렌지를먹을때는움찔하지않는다.만약초지능적인기계가어떤이유로든의식을갖지못한다면,인간은곤경에처할수있다.

이러한문제를우주전체라는더큰맥락에서바라보는것이중요하다.다른행성에서생명체를찾을때수준높은외계지능은생물학적문명에서진화한인공지능,즉‘포스트생물학적’지능일수있다.이러한인공지능이생물학적지능을대체할때의식을갖지못하게된다면,우주에는의식을가진존재들이사라질것이다.인공지능의식이중요하다면,우리는인공지능의식을만들수있는지,그리고우리가인공지능의식을만들었는지알아야한다.