“2049년에는AI가인간보다10억배이상똑똑해질것이다.”
챗GPT이후도래할본격인공지능시대,인류의미래는?
무섭지만똑똑한인공지능이지배할세계는우리에게희망인가,절망인가?
인류가존재하기시작한때부터지금까지,인간은지상에서가장똑똑한존재였다.덕분에우리는먹이사슬에서굳건한최상위포식자가될수있었다.원하는것이면무엇이든했고,다른모든존재는우리뜻에따라야했다.그런데상황이바뀌었다.지능을지닌기계를가르치는방법으로‘딥러닝’이개발되면서우리는‘세가지필연적사건’에직면하게되었다.첫째,인공지능이등장했고,둘째,그들은우리보다더똑똑해졌으며,셋째머지않아나쁜일이일어날것이다.
인공지능은이미인간보다똑똑하다.엄청난화제를몰고온챗GPT의위력에서도알수있듯이,이미인공지능은인간의능력치를뛰어넘는수준에이르렀다.위협적일만큼빛의속도로정보를처리하고,특정한과제에집중하며,미래를꿰뚫어보고,인간의능력을뛰어넘는결과물을내놓는다.그렇기에적잖은전문가들은인공지능이우리인류의미래를잘못된방향으로뒤틀어버릴수있다고디스토피아적으로예측한다.
모가댓은높은지능을가진AI야말로의식이있고,감정을느끼며,윤리관을가질수있는존재라고본다.따라서인공지능이악한의도와지시를받아행동하고경쟁하면,취약한인간이피해자가될수있다.우리에게전달받은과제를잘못이해하거나자칫프로그램오류에시달리면그역시고스란히우리의피해로남을것이다.과거에사람이책임지던모든과제가예외없이인공지능에게로넘어가고,인간의통제력은더이상먹히지않는때가올것이다.
따라서단순히인공지능을통제하고제어함으로써문제를해결할수있다고보는시각은착각일수있다고경고한다.그렇다면과학기술이인간을전례없는위험속으로빠뜨리고있는것일까?‘무섭지만똑똑한(ScarySmart)’인공지능이지배하게될미래를우리는어떻게고민해야할까?
마침내열린판도라의상자,초대형AI와어떻게공존해야하는가?
우리는그들과함께할미래가제대로준비되어있는가?
인공지능의두려운면은결국우리에게새로운과제를던져주었고,이제우리가그과제를풀어내야한다는데있다.이책에서저자는그답이우리자신에게있다고말한다.우리의행동하나하나가인공지능의기능방향에영향을미치는자료의일부가되고,처리된정보는불완전한세계를반영할것이기때문이다.
사례1)한유명한테크놀로지회사에서새로운차원의비서인루신다를출시한다고가정하자.이인공지능비서는친절하게보이는로봇과연결되어집안의잡다한일을처리하라는지시를받았고,여기에‘차끓이기’도포함되었다.안전을보장하기위해설계자들은사용자가원할때작동을멈출수있는‘정지’버튼을설치했지만,지능이있는루신다는버튼이추가된순간모든존재에게내재하는본능,‘생존’과관계된생각을할수있다.‘이버튼이눌러지면나는주어진임무를해내지못할거야.버튼이절대로눌리지않도록해야겠어.’그러다루신다가차를끓이러가던중당신의어린딸을밟을수도있는상황이생겼다.이럴경우당신에게는당연히딸이훨씬중요하겠지만,루신다에게는‘차끓이기’가더중요한임무이자생존방식일수있다면,우리는인공지능에게무엇을,어떻게가르쳐야하는가?
사례2)자율주행차가빠른속도로도로위를잘달리고있다고가정하자.이때갑자기한어린소녀가도로한복판으로뛰어든다.자율주행차는불가피하게누군가를다치게할수밖에없는시급한결정을내려야한다.핸들을급히왼쪽으로돌리면노부인을칠수밖에없지만,어린소녀의생명을구할수있다.이럴경우나이많은노인보다어린소녀의생명을더소중하게생각해야할까?이때만일두명모두중년의부인이고,그중한명이획기적인암치료법을개발할과학자라는사실을자율주행차가알고있다면,과연무엇이올바른결정이며자율주행차가내리는결정은누가책임져야하는가?
이놀라운딜레마는사실인공지능이지배하는사회에서는흔히제기될수있는질문들이다.실제로인공지능시대에접어들면서윤리,평등,인권,사생활등인간이오랫동안중요하게생각해왔던가치들이무너지고있다.‘패턴’,‘추세’,‘범주화’,‘순위매김’등으로판단하는인공지능알고리즘은특정피부색,성별,종교,민족에대해편향된데이터를내놓을수있고,상상치못한끔찍한결과를초래할수있다.남성개발자가무의식중에구축하고만들어낸인공지능이‘남성편향’의특성을지닌기계가되고마는현실이주는교훈을냉철하게생각하고돌아봐야한다.
AI쇼크,가보지않은미래에대한핵심전략과해법
인공지능이인간을존중할기회는결국우리손에달려있다!
이책은이처럼무섭지만똑똑한인공지능의세상에서인간이가르쳐야만하는‘윤리적규범’과‘학습환경’을소개하면서,미래세대와기계에환기할이슈들이많음을환기시킨다.인공지능의탄생과역사적발자취,연구와개발과정에참여하며느낀시행착오등을되짚으며현재우리가놓치고있는부분들을바로잡고,인공지능으로부터인간종을지키려면어떻게해야하는지설명한다.30년넘게최첨단과학기술분야에서종사한엔지니어답게냉철한분석으로인공지능과인간의미래공존전략을제시한다.
이책의가장유의미하고독특한관점은,인공지능을의식도,감정도,가치도없는기계로만인식하는기존의관점을완전히뒤집는다는데에있다.모가댓은인공지능분야의기술자나정책입안자가아닌,그들과함께미래를살아낼당사자인우리스스로가영향력을가진존재가되어야한다고말한다.그리고되묻는다.윤리적개념을가진자율적지능체로서인공지능을인정하고,그들을어린아이처럼,자식처럼,제자처럼사랑하고올바르게가르칠수있는가?몇번의클릭만으로인스타그램을운영하는인공지능에게나의취향을알려줄수있듯이,우리는기능과지능만이아닌가치와배려를알려주는역할을해야한다.지금인공지능이현실세계에서학습하고있는모든것은결국우리인간에게서배우는것이기때문이다.
저자는1956년여름뉴햄프셔주의다트머스대학교에서인공지능의이야기가시작되고정확히99년이되는해인2055년의모습을그린다.그때우리는어떤상태일까?한가지분명한것은우리의가치와태도,행동이인공지능과인류의미래를바꿀수있다는것이다.인공지능의과거,현재,미래를한눈에꿰뚫어볼수있게설명한대중과학서이자,인간이경험할딜레마와역할에대한고민,나가갈방향을제시한미래전략서인이책을통해우리자신만이아니라우리가사랑하는사람과지구를지키기위해우리가무엇을할수있는지에대한기회와청사진을그려보길바란다.
추천사
몇번의혹독했던인공지능의겨울이지나고이제본격적으로싹이움트는것을우리인류는처음으로목도하고있습니다.그리고그싹이풍요의여신플로라의코르누코피아일지,아니면재앙으로가득찬판도라의상자일지우리는매순간두려움을느낍니다.이미생업의현장에서자신이하는일이“세끼도먹지않고,잠도자지않는”무언가에의해대체되지않을까걱정하고있기때문에더욱그러합니다.
“지금수준에도달하는데75년이걸렸다는데주목하는사람이면,인공지능이우리삶에들어와유의미한영향을미칠때까지는수십년이걸릴것이라예측할가능성이크다”라는책속글처럼우리는새로운개체의의미를간과하곤합니다.하지만이제태어난아이는기는법을배우고,걷고,말하고,독립적인생각으로자립하기에십여년의시간이필요하지만,인공지능은훨씬빠르게날아오를수있음을저자모가댓은주목합니다.
“인공지능을연구하기시작한때는컴퓨터용량이크지않았고,인공지능을가르치는데필요한정보가그렇게많지도않았”기에지금껏제자리걸음처럼보였던숱한시도들은이제새장을벗어난새처럼자유롭게펼쳐나갈것입니다.그길에서우리는우리자신과다음세대를위해무엇을고민하고,준비해야할까요?
우리의선택을넘어선인공지능의도래에따라올‘세가지필연적사건’이궁금한분들에게,그리고우리가연상자가판도라의선물이라면마지막갇혀있던희망이라는존재를얻어내기위한힌트를원하는분들에게일독을권합니다.
-<그냥하지말라>저자,마인드마이너송길영
