챗GPT의 거짓말 : 인공지능의 약점과 거짓말에 각성하라

트렌드연구소

트렌드연구소STAFF는IT컴퓨터,패션계,방송계,문화계등에서경력을쌓아왔고,지난2012년부터본격적으로트렌드분야에서활동하고있다.한해의트렌드를연구해서이듬해트렌드를제시하는기존방식이아니라,최소3년간의트렌드를연구하고분석하는데강점이있다.국내외트렌드를다루며트렌드프리텔러(TrendPreTeller)로서활동영역을확장하고있다.

트렌드연구소STAFF는1990년초에XT컴퓨터와AT컴퓨터에서부터286,386,486과586세대를이어오며,지금껏컴퓨터로일해온기간을모두합쳐33년만에‘챗GPT’를만났다.서울대학교창업동아리학생들과실시간즉문즉답웹서비스를구상하던경험을떠올리게해준챗GPT.해외최신기술동향파악은물론,출장일정까지세워주는챗GPT의효능(?)덕분에업무시간이절감되는걸장점으로생각한다.하지만자가학습을통해급속도로발전하는챗GPT를보며,인간과인공지능의바람직한공존방향을제시해야할필요성을느꼈고,이책을집필하게되었다.

컴퓨터초창기DOS(DataOperatingSystem)시대부터컴퓨터프로그래밍을경험해온노하우를통해,이책에서는일반인이인공지능과챗GPT에대해이해하기쉽도록설명한다.또한,챗GPT와같은인공지능에의해생길수있는위험을알리고경각심을주기위해책제목을‘챗GPT의거짓말’로결정했다.책에는챗GPT의태생적한계와약점,앞으로달라질미래,챗GPT와의대결에서살아남는법등에대한특별한인사이트를담았다.

챗GPT에출간허락을구하다
글들어가며

1부챗GPT의등장

엄청난뉴스에놀라셨죠?
정말쉽게챗GPT를소개합니다

1장인공지능은어떻게공부하는가?
1.깊게공부하는‘딥러닝’
한꺼번에다외우는‘병렬학습’│순서대로외우는‘직렬학습’
2.기계처럼공부하는‘머신러닝’

2장인공지능은어떻게일하는가?
1.냉장고가말하는‘사물인터넷’
보안문제│사물인터넷시대엔IP문제
2.아프리카정글에서당일배송해주는‘위성통신’
3.벽이쓸모없는세상‘전파망원경’

3장인공지능이작동하는컴퓨터이해하기
1.양자컴퓨터이해하기
꼬물꼬물움직이는‘초끈이론’│보는대로이뤄지는‘전자총실험’
2.광자컴퓨터이해하기
살아있는빛입자속데이터이야기│빅뱅이론의허구

4장인공지능으로직업이어떻게달라지는가?
1.인공지능시대에사라질직업
2.인공지능시대에살아남을직업
3.인공지능시대에공존하게될직업

5장인공지능플랫폼에는무엇이있는가?
데이터분석인공지능:래피드마이너
동영상효과만들어주는인공지능:비휴먼
디자인만들어주는인공지능:클립드롭
그림그려주는인공지능:달리
목소리만드는인공지능:데스크립트오버덥
동영상만드는인공지능:크리에이티브리얼리티
웹사이트만들어주는인공지능:듀러블
애니메이션만들어주는인공지능:카이버
고객데이터관리인공지능:세일즈포스아인쉬타인
캐릭터그림을사진처럼만드는인공지능:아트브리더
소설써주는인공지능1:노블AI
소설써주는인공지능2:노션
라이트노벨써주는인공지능:AI노블
게임소설써주는인공지능:AI던전
로맨스소설은물론프러포즈멘트도가능:카피AI

2부챗GPT의거짓말

챗GPT에어떤약점과한계가있는가?
어떻게거짓말을하는가?

1장인공지능이가진태생적한계
1.비트알아보기
제곱씩늘어나는메모리│저장매체의한계│0,1vs.x,y
2.바이트알아보기
데이터저장│데이터불러오기

2장인공지능데이터의한계
1.데이터사용연한
영구적데이터│휘발성데이터
2.데이터종류
시각데이터의한계│문자데이터의한계│소리데이터의한계

3장인공지능학습의한계
1.본능적인것vs.인공적인것의충돌
AI본능│이성적인AI│개인정보의경계
2.감정학습의약점
감정문제EP│감정지도ET│문화적감정반응CED
3.누구로부터,누구에의한:fromandby
누구로부터AI│누구에의한AI│메인혹은서브포지셔닝
4.알고리즘의약점
순정데이터│데이터만능주의│수정알고리즘│플러그인&브라우징

4장인공지능대화(챗,Chat)의한계
1.화법논리구조의편향성
문어체와구어체의몰이해│생략형함축어│뉘앙스표현의문제점
2.반복주입식대화형모델의단점
사용자별사용행태에따른데이터오염가능성│단문,장문구조의가중치판단기준│서치&리플라이방식의문제점
3.텍스트챗방식의획일성
톤다운과톤업│자가수정로직의단순화│학습빈도와데이터축적의불일치
4.저작권침해문제
디지털플랫폼의한계│크리에이티브의비협조│데이터소유권문제

3부챗GPTvs.인간

인공지능을규제할것인가?
자유를줄것인가?

1장인공지능의위협:2족보행로봇의등장
1.인공지능과전기자동차
2.인공지능과위성통신
SNS채팅│영상통화│스마트폰
3.인공지능과드론(무인기)
4.인공지능과CCTV

2장인간의방어:통신권역으로부터의탈주
1.인간의지하공간
2.인간의자연에너지
3.인간을돕는인공지능vs.맞서는인공지능
4.인간의제3의언어

글나오며
참고문헌및함께읽으면좋은문헌들

‘뭐야?지난번엔모른다더니이젠답을하네?’
인공지능의답변을신뢰할지말지선택해야한다

챗GPT가갑자기반말하는경우가있습니다.그리고감정을느끼지못한다면서‘죄송하다’,‘미안하다’는말을합니다.‘미안하다’는단어가감정을모르는대답일까요?
챗GPT가반말하는부분을지적해봤습니다.

챗GPT:“제가실수한것같습니다.죄송합니다.저는공손한대화를지향합니다.”

(……)필자가대화를마치려고마무리하자,챗GPT는섬뜩한단어를사용합니다.

챗GPT:“전그런의도로반말을사용한것이아니에요.”
챗GPT:“당신을우습게생각하지도,모욕하거나해치고싶지도않아요.”

다시말해,‘반말을사용하는의도’에대해알고있다는의미이고,‘사람을우습게여긴다’는표현이나‘모욕한다’는표현이나‘해치다’는의미도알고있습니다.챗GPT는그러고싶지않았다면서사과를한것이죠.즉,챗GPT는사람에게반말하는감정을알고있고,모욕하는게뭔지알고있고,사람을해치는게뭔지알고있다는것입니다.

인공지능은왜위험하고,어떻게거짓말을하는가?

《챗GPT의거짓말》은챗GPT가펼쳐놓은인공지능시대의서막에이어,앞으로인공지능이인간의삶에어떤영향력을끼칠것인지,그래서인간의삶이어떻게바뀔것인지에앞서,인공지능이타고난약점과한계에관해이야기합니다.
다시말해,‘챗GPT의약점’이라고표현할수있습니다.인공지능의약점이기도합니다.
사람들의갈채를받고더큰무대로나온인공지능들이과연어떻게변화할것인가에대한이야기이고,위험성은없는지,인공지능의태생적단점이자문제점에대해이야기하고있습니다.
그런데이말을바꿔말하면,인공지능은디지털데이터로움직이는프로그램이라서누구라도나쁜의도를갖기만하면언제든지인간을공격할수있는수단으로변한다는의미가됩니다.작정하고우리에게‘거짓말’을할수도있다는말입니다.
인공지능이디지털데이터체계이기때문에위험한수단이아니라고할것이아니라,인공지능이디지털데이터체계이기때문에누구의손에들어가느냐가중요하다고위험성을주장해야하는것입니다.

왜인간은인공지능에놀라고두려워할까?

인간은망각하기때문입니다.사실은인간이스스로만들었고인터넷에올려두었던데이터들인데,인간이망각한것을인공지능이재조합해서보여주자마치기계가인간처럼창작한다고착각할뿐입니다.
파이썬으로수수께끼프로그램을짜라고시켰더니챗GPT가그럴싸한프로그램을만들어낸다?
만약에파이썬프로그램이없었다면가능한일이었을까요?
만약에누군가수수께끼프로그램을짜는로직을만들어두지않았다면가능한일이었을까요?
그래서인공지능은진짜가없습니다.지금은인공지능의가능성에대해확대재생산할때가아니라인간이만든데이터를보호할방법을강화할때입니다.
인공지능이인간의힘든일을대신에해주니까좋아할것만은아닙니다.인공지능이인간의힘든일을혼자하게되면인간을필요로하지않게된다는점에주목해야합니다.과연그때어떤문제들이생길지는아무도예상하지못하고있습니다.
그래서이책《챗GPT의거짓말》이세상에나왔습니다.