포스트 챗GPT : 폭주하는 AI가 뒤흔든 인간의 자리

박상현,구본권,조동현,금준경,장은수외

매체발행인.테크와국제정치,문화를다루는온라인매체〈오터레터〉를운영하며글을쓰고있다.미술사를전공한뒤에미국과한국에서뉴미디어스타트업과벤처투자활동을하는등조금은독특한길을걸어왔다.틈틈이올린페이스북글을통해“따스하면서도객관적”이라는평가를듣고있으며,박학다식이널리알려지며주요일간지네곳(<서울신문>,<세계일보>,<조선일보>,<중앙일보>)에칼럼을쓰는등“페이스북의빌브라이슨”으로불린다.고려대학교사회학과학사,미국위스콘신대학교매디슨미술사석사,미국펜실베이니아주립대학교미술사박사과정을수료했다.저서에는『팬데믹일기1,2』가있으며,역서로『아날로그의반격』,『내사랑모드』가있다.온라인매체오터레터(otterletter.com)를직접운영하고있다.

추천서문_김건희인공지능시대,인류의번영은계속될것인가

1장오픈에이아이와챗GPT로본테크산업_박상현(테크산업)
“지금인공지능은,실리콘밸리벤처자본의귀를쫑긋하게만든다.”

2장역사상가장빨리보급된기술,챗GPT_구본권(기술비평)
“기술의힘을어디에,무엇을위해사용해야하는가”

3장의료현장의챗GPT지각변동_조동현(의료)
“단순업무가줄어들면,의사와환자의관계는개선될까?”

4장챗GPT는기자가될수있을까?_금준경(언론)
“저널리즘의가치를구현하는심층보도와받아쓰기,수익성기사사이에서”

5장챗GPT,인공지능시대의출판_장은수(출판)
“콘텐츠생산구조를깨트리는인공지능과편집의창조성.”

6장챗GPT와인공지능연구의흐름_한소원(심리학)
“문제는기술이아니라,기술에반응하는인간이다”

7장생각을포기한사람들과챗GPT_박권일(사회비평)
“인공지능시대의위험은우리내부에있다.”

8장챗GPT는과학자를대체할수있을까?_전주홍(과학)
“문제는과학연구의소통에끼치는영향력이다”

9장딸기를모르는챗GPT와거버넌스의가능성_이원재(시민사회)
“챗GPT시대에어떤정치,어떤시민사회를선택할것인가.”

10장챗GPT가메타인지를시작하면우리는어떻게될까?_　리사손　(메타인지)
“슬프게도우리는점점기계를닮아가고있다”

11장우리에게는AI리터러시가필요하다_이유미(AI리터러시)
“챗GPT는생각하지마!발전된기술이가져온프레임을깨는법”

12장인공지능의법적인격을규제할수있을까?_박도현(법률)
“챗GPT가저지를수있는위법의가능성들에대하여”

13장인공지능은창의적인소설가가될수있을까?_강우규(글쓰기)
“또하나의세계를완성하는챗GPT의글쓰기”

14장디지털네이티브와챗GPT교육_최재용(교육비평)
“교사는토론을돕는코치와퍼실리테이터로변화해야한다.”

15장챗GPT가던지는철학적물음들_김재인(철학)
“인간을인간이게하는조건들은무엇인가?”

의료,과학,법률,교육
흔들리는현장의질문들
“인공지능시대가시작되었다”

3장에서서울대해부학교실조교수조동현은의료현장에끼친챗GPT의충격을전한다.실제로학계에서는챗GPT출시세달만에,우려와낙관을오가는의학논문50여편이발표되었다.저자는이대규모언어모델인공지능이진료보조,즉병원에서일어난일을정리하고,환자와의사사이의문진과정을작성하는의무기록을해내는역할은탁월할수있다고전망한다.의학연구자로서기존문헌을검토하는‘교육과정’에서도활용지점은많다.하지만이러한대화형인공지능이발전에있어“그방향이단순히기술을개발하거나이와관련된이익을누리는사람들에의해결정되는것은곤란하다”고지적한다.이를테면전자의무기록이도입될때에도단순업무가줄어들기때문에‘의사와환자의관계개선’을전망했으나현실은꼭그렇지않았다.새로운기술이도입될때마다대중참여와숙의가활성화되지못했던점을지적한다.

8장에서전주홍교수가지적하는과학연구현장의전망도흥미롭다.챗GPT라는연구파트너는우연과행운,호기심과주관이넘치는‘실제과학의현장’을이해하지못한다는것이다.인공지능은실패한가설없이승리한결과만남는연구논문만을데이터로학습한다.하지만역동적이고즉흥적인과학연구의‘소통과정’에서챗GPT가어떻게쓰일수있을지가화두인데,저자에의하면논문은철저히특정의도와방향성을가지고결과를재구성한산물이기때문에챗GPT에게깊은소양을기대하기에는어렵다고지적한다.

또한4장에서금준경<미디어오늘>기자는‘로봇기자가인간기자를대체할수있을까?’라는질문을던진다.이미미디어환경은조회수를자극하는수익성기사와양질의르포기사사이의양극화가진행되고있는데,우리는이환경에챗GPT가투입되는것을상상해야한다.논리적이고완결성있는글쓰기를해내는‘형식’만보면인공지능은인간기자를대체할수있어보인다.하지만언론이야말로‘허위정보’의홍수에가장취약한분야다.도널드트럼프체포장면과같은,이미지생성인공지능으로만들어진가짜뉴스가이미논란을일으켰다.저질뉴스의온상이될가능성이더욱더커진것이다.또한무엇보다현재성이중요한뉴스의경우기존의데이터에입각해최신정보를반영하지못하면정보의정확성이떨어질수밖에없다고일갈한다.

출판분야의변화또한눈여겨볼만하다.5장에서출판평론가장은수는인공지능시대,출판의미래에관해구체적실무의변화와거시적인생산구조의변화를세심하게짚어낸다.또한딥엘등번역인공지능의발달이번역서의생산구조를파괴할가능성을제시하며실제로번역가없는출판을계획중인업계관계자의목소리도전한다.또한번역지능과출판의만남은출판산업의대표적특징인지역적,언어적장벽을무너뜨림으로써전세계인구를독자로상정한콘텐츠제작을꾀하는작가가탄생할수도있다는흥미로운전망을제시한다.

인공지능이위법의주체가될것인지도흥미로운화두다.14장<인공지능의법적일탈을규제할수있을까?>에서박도현광주과학기술원AI대학원조교수는인공지능이위법을저지를수있는영역들에대해지적한다.글쓰기와소설창작도챗GPT가큰영향을끼칠대표적인분야다.15장<인공지능은창의적인소설을쓸수있을까?>에서중앙대학교인문콘텐츠연구소연구교수강우규는새로운글쓰기주체로떠오른챗GPT에대해소설창작과주체라는원론을되짚으며새로운‘글쓰기’의형태를조망한다.

리사손컬럼비아대바너드칼리지교수는챗GPT를통한‘표절’이당장의문제로떠오른,교육현장의우려를생생하게전한다.또한교육자로서‘스스로오류를발견하고,이를고쳐나가기위해도움을청하고바꾸어나가는것’을교육의목표로삼기에챗GPT가이능력을갖추게될경우를더우려한다.메타인지연구자로서,스스로메타인지용튜링테스트를시행한경험과동료연구자들의메타인지튜링테스트를소개하며,인공지능이메타인지를하게될경우를상상하게한다.그리고깊이있는주관식문제를통해,단순히‘정답맞히기’교육이아닌오류를발견하고,실패한뒤다시고치고‘사유하게하는’진정한교육이가능하다고강조한다.나아가단하나의정답맞히기에급급한인간의교육이오히려기계를닮아가는중이었다는심도있는통찰도함께덧붙인다.같은맥락에서최재용디지털융합교육원원장또한앞으로디지털네이티브의교육현장에서교사의역할은토론을돕는퍼실리테이터라고강조한다.철학자김재인또한작금의교육현장에서의챗GPT과제표절논란은표면적인현상일뿐이며문제의핵심이따로있다고강조한다.결국문제는대학에서배워야하는능력이라는게무엇이냐,이다.교수들이이능력을키워주는문제에대해별고민도대안도없이단순히‘표절이문제다’라는문제설정은교육제도에대한성찰이부족하다는방증이된다는것이다.

하지만문제는기술이아니라
기술에반응하는인간이다

추천서문을쓴김건희서울대컴퓨터공학부교수와,1장을집필한오터레터발행인박상현은빌게이츠의글‘인공지능시대가시작되었다’는기고문을소개하며지금시대를진단한다.박상현은이어인공지능의짧은역사를훑으며실리콘밸리에서오픈에이아이가처한맥락,그리고벤처자본의흐름이인공지능을겨냥하고있는현실적인모습을생생하게전한다.기술개발이흥하고쇠하는성과의이면에는개발자와투자자들의치열한움직임이있었다.

또한15명의저자들이챗GPT를비롯한생성형인공지능에대해공통적으로우려하는지점중하나는‘환각Hallucination’이다.챗GPT는우리가익히잘알고있듯이사실과다른이야기를‘자신있게’하는대규모언어모델,생성형인공지능챗GPT의대표적특징이다.이러한화법은어떤형태로든인간과사회에영향을끼칠수밖에없다.2장에서구본권사람과디지털연구소소장은챗GPT가거짓비용을만드는비용을0에가깝게만들었다고지적한다.지금보다더더욱허위정보와합성데이터로넘쳐나게된다.

6장에서한소원서울대심리학과교수는‘무인도의사기꾼문어’우화를소개하며,확률에기반한‘언어생성’을하는챗GPT의발화시스템과마주한인간의커뮤니케이션을주시한다.기계는마음이없어도텍스트를생성해내지만,문제는우리가그뒤에마음이있다고상상하는것을멈추지못한다는것이다.또한엔지니어뿐만이아니라사회과학자,윤리학자,철학자등다양한분야의사람들이인공지능개발에참여야한다고일갈한구글의CEO순다르피차이의말을전하며글을맺는다.비슷한맥락에서출판평론가장은수도5장에서인공지능이스스로세계를체험하지못하고,의미와가치를알지못하다는점을지적한다.자기고유의체험을언어로의미화하는맥락과다른것이다.대화를좋아하는인간의마음의습관이챗GPT의대중화를초래했지만결국인공지능을창조적으로사용할수있는것은‘인간’이라고강조한다.

5장에서미디어사회학자박권일은이지점을인지빈곤으로설명한다.이미다양한미디어환경에서쏟아지는지식-정보소화불량에빠진맥락과더견고해지는탈진실사회라는구조에챗GPT-인공지능시대가도래햇음을직관적으로그려낸다.전주홍또한오류에취약한인간의사고체계를지적하며챗GPT가제공하는지식에비판적태도를견지하는것이중요한이유를역설한다.

이러한맥락에서이원재와박권일은인공지능시대앞에서갈림길에놓인민주주의에주목한다.경제평론가이자경기도정책보좌관이원재는인공지능이시민에게양날의칼이될것이라고전망한다.잘활용하면시민의직접정치참여의도구가되지만,거꾸로고도의감시를받게되는구조가될수있다는것이다.결국시민사회와정치가대응하기나름이라고판단을유보한다.미디어사회학자박권일도민주주의문제를지적한다.이미각종온라인공간의알고리즘을통해사회양극화와민주주의가혼란을경험하고있음에도별다른개선을꾀하지않는인류가,인공지능개발을조금유예한다고해서얼마나달라질것인지회의하며인류는정말공적사안에대해참여할의사가있는것인지날카롭게묻는다.