인공지능의 어두운 그림자 (위험은 어디에서 오는가)

김창익

ㆍ카이스트전기및전자공학부교수
ㆍ카이스트사이버안보연구소소장
ㆍ카이스트안보과학기술대학원장
ㆍ전)엡슨팔로알토연구소책임연구원
ㆍ워싱턴주립대학교전기공학과공학박사

01머리말
02인공지능의어두운그림자
03인공지능의내재적취약성
3.1투명성부족
3.2견고성이슈
ㆍ콘텐츠필터링분야
ㆍ국방분야
ㆍ자율주행분야
ㆍ법집행(LawEnforcement)분야
ㆍ의료분야
ㆍ금융분야
ㆍ전통적인사람기반작업분야
ㆍ시민사회분야
3.3편향(Bias)
3.4개인정보우려(PrivacyConcerns)
3.5보안상의위험(보안리스크,SecurityRisks)

04인공지능의재앙적위험원천
4.1악용(malicioususe)
가.생화학테러(바이오테러리즘)
나.설득형AI:가짜정보의전파
다.권력의집중
라.ChaosGPT
마.마치며
1)목표달성을위한수단이필요
2)목표의지속적추구보장
3)환경통제
4)도구적목표
라.속임수행위
마.제안
바,마치며
4.6막대한에너지소비
가.인공지능은개발과사용과정에서지구환경에친화적이어야한다
나.기업들의저탄소배출노력
다.마치며
05맺음말

□에필로그
□참고문헌
A자주묻는질문들274

최근AI가사회의대부분의영역에서놀라운신기술로등장하고있으며,모든강력한기술과마찬가지로사회의지속발전을위하여AI의잠재력을신중하게고민하고활용해야하는시점이다.그러나AI가가져다줄장미빛전망에가리워져고급AI가초래할수있는재앙적이거나종말적인위험이어떻게일어날지또는어떻게대처해야하는지에대해서는제한된정보만이제공되고있다.이주제에대한다수의자료가존재하지만,이들자료들은종종다양한논문에흩어져있거나특정위험에중점을둔특정한독자를대상으로하는것이일반적이다.이책에서는인공지능이갖는잠재적재앙적AI위험의주요원천을크게두가지범주로나누어설명한다.첫째는AI모델이기본적으로지니는내재적인취약성(IntrinsicVulnerability)으로인한위험이그것이다.사람의지능을포함어떠한지능이든고유의내재적인취약점은있게마련이며인공지능역시몇가지내재적취약성을가지며그로인해결정과정에서의편향이나불분명한책임소재,적대적공격,개인정보우려등의위험이발생한다.두번째위험원천은AI성능이점차사람의지능에도달하거나넘어서는단계로진화함에따라재앙적위험(Catastrophicrisks)의형태로나타나는위험요소들을말한다.이책에서는다음과같이여섯가지의재앙적위험에대해논하고자한다:악의적사용(Malicioususe),초지능숭배(superintelligencecultism),인공지능경쟁(AIrace),취약한안전문화(Weaksafetyculture),로그AI(RogueAIs)및막대한에너지소비가그들이다.

이책은인류와지구의지속가능성을염원하고노력하는이들은물론가까이다가온범용인공지능(AGI)시대에대한막연한두려움을가지고있는모든이에게보다구체적이고명료한이해를제공하기위해쓰여진것이다.각섹션을통해AI와관련된위험의원천이어떻게대규모재앙이나심지어종말적인위협을초래할수있는지를구체적으로설명함으로써,AI의위험성에대비하기위한우리의이해와관심을높이고자한다.위험의원천을구체적으로인지하고적절히관리함으로써AI의혜택을인류가누리면서도잠재적으로발생할수있는재앙가능성을최대한낮추게되기를바랄뿐이다.