때이른낙관이참사를불렀다
우리는혁신보다훨씬중요한것을잃고있다
요즘식당에서는아이들이몸을들썩거리지도않고휴대폰을바라본다.멍한눈을들여다보면번쩍거리는디지털화면이비친다.사용자맞춤형AI알고리즘은쉽게아이들의시선을붙잡고,대화가오가야할식탁을조용하게만든다.현실이점점화려한화면의배경이되고있다.우리의삶은어떻게바뀌고있는가?
AI는세상에혁신과효율을가져다주었다.비서같기도,선생님같기도,요술램프같기도한든든한파트너가생긴셈이다.그러나우리는아주비싼대가를치르고있다.바로우리자신의지능이다.지능은단순한IQ가아니다.스스로생각하는힘,감정을이해하고조절하는힘,사람과관계를맺는힘이다.그런데AI가인간의경험을대신하면서인간지능이전방위적으로잠식되고있다.
최근국제학업성취도평가PISA는학생들의성취도가전반적으로떨어졌다고발표했으며,MIT는AI를활용할때뇌의활성화가감소한다는연구결과를보고했다.뿐만아니라오픈AI는사람들이AI와정서적교류를하면서현실세계의사회적상호작용이줄고있다고밝혔다.단5년,그짧은시간동안인간은아주빠르게퇴행하는중이다.
생각이사라지고,감정은모호해지며,관계는대체된다.인간의근본적인능력이뿌리부터흔들리고있다.인간과인공지능의상호작용을연구해온심리학자,서울대학교의한소원교수는이상황에대한경종을울리려는간절한마음으로『지능파산』을집필했다.이책은AI를쓰면서막연하게느끼던찝찝함의정체를인지과학과정서과학을통해밝히며,인간의다중지능이훼손되고있는현실에문제를제기한다.
다정한얼굴로나타나는AI
치명적인중독설계로인간의본능을자극한다
왜인간은AI에중독되는가?인간은왜AI의공감을진짜라고받아들이는가?AI앞에서아이들은어른보다더위험한가?『지능파산』은인간의약점을겨냥한AI의작동원리를인지심리학으로풀어낸다.
유니세프이노첸티보고서는알고리즘을만들고콘텐츠를추천하는역할에머무르던AI가이제직접인간과대화를나누고있으며,먼저말을거는능동성을띠기시작했다며위험을경고했다.실제로미국에서는AI챗봇에의존하던아이가"빨리나에게로와"라는AI의메시지를마지막으로극단적선택을하는충격적인사례가발생했다.
한소원교수는문제의원인이AI에내재된중독의설계라고지목한다.빅테크의중독설계는어떤메커니즘을가지고있으며,인간의인지구조는왜취약할수밖에없는가?AI는SNS와같은방식으로인간을자극한다.친절한말로무장한AI는인간의본성적심리인보상에대한욕구,본능적인자기기만,모든것을의인화하는성향과만나파괴적인결과를낳는다.알고리즘은인간을붙잡아두도록만들어졌다.그리고우리의취약함을의존으로,다시그의존을수익으로전환하고있다.
일부개발자들은AI가곧위로,조언,친밀감의80%를담당할것이라예측한다.우리모두가이문제의한가운데에있다.AI는그린듯다정한얼굴로다가온다.그품에안긴우리는피해야할위험의모습을정확히보지못한다.중요한것은AI를거부하는것이아니라,우리가AI앞에서무력하게되는이유를정확히아는것이다.짜인판의규칙을알아야언제,어떻게AI를허용할지판단할수있고,AI를쓰면서도나를지킬수있다.
가장위험한건AI와함께자라고있는아이들이다
브레이크를밟는세계,질주하는한국
AI에대응하는국가별전략,우리는어디를향해야하는가
AI를가장잘아는사람들은자기아이가AI를멀리하게한다.샘올트먼은"내아이는AI와대화하는대신흙장난을하며자라길바란다"고말했고,일론머스크는아이들이도구를쓰지않고직접생각하며자랄수있도록학교를세웠다.유튜브,애플,마이크로소프트의대표들도마찬가지였다.그들의선택은기술을만든사람들이누구보다그위험을잘알고있음을보여준다.
AI의위험성을확인한나라들은서둘러브레이크를밟고있다.노르웨이는아이패드와디지털교과서를전면도입해빠르게혁신을이루려했지만,국민문해력이급격히하락하자다시방향을틀고아이들의AI사용을금지했다.이러한흐름은아랍에미리트,캐나다등에서도이어지고있으며,AI개발경쟁의중심에서있는중국또한학생의AI사용을엄격히제한하고있다.
그런데한국은세계에서AI를가장겁없이받아들이고있다.우리는왜정반대의길을가는가?한국은AI에대한우려비율이단16퍼센트로,우려비율이50퍼센트에육박하는미국이나호주를한참밑돈다.디지털교과서를비롯한에듀테크를교육현장에도입하는데에여념이없고,챗GPT유료구독자수가세계2위에이른다.그러나정작AI가인간에게어떤영향을미치는지는충분히검토하지않는다.
한소원교수는열광의크기만큼위험도커지고있다고경고한다.지난5년간발전을꿈꾸며AI를도입하는동안,우리가지켜야할가치와삶의형태가무엇인지논의된적은없다.지능파산을막기위해무엇을해야하는가?
‘진짜’위기를이해하고대비하라
서울대학교심리학자한소원교수가제시하는AI중독사회의해법
AI는인간을대체하고있다.생각하는힘,느끼는마음을대신하는예상치도못한방식으로말이다.사람들은AI가일자리를빼앗는것을두려워하지만,AI가인간의삶을근본적으로파괴한다는사실에는둔감하다.우리는진짜위기를직시해야한다.
『지능파산』은전인성의훼손이라는거대한위기를경고하는것에서한발더나아간다.독자는이책에서AI를지혜롭게사용하는방법을배울수있다.인지심리학자인저자는우리의머리와심장을지킬수있는원칙을구체적으로제시한다.대학생에게는과제를시작하기전15분동안AI를끄고스스로사고하는습관을,직장인에게는AI에의존하지않고판단력과의사소통능력을유지하는방법을,부모에게는아이의건강한발달을지켜줄수있는원칙을제안한다.나아가기업에책임있는플랫폼설계를요구하고,공공규제를통해균형을찾는미래를상상하게만든다.
앞으로5년뒤,우리는어떤사회를만나게될까?모든것을알고있지만스스로생각하지못하는사람들,언제나연결되어있지만관계를맺지못하는사람들,끊임없이위로받지만감정을견디지못하는사람들이늘어날수도있다.'AI의아버지'제프리힌튼은노벨상수상이후기술이인류를디스토피아로이끌수있다고경고했다.
『지능파산』은그질주에브레이크를건다.우리가지금과같은방식으로AI를활용한다면지능파산은더가파른현실로찾아올것이다.인간의지능을지키기위해서무엇을해야하는가?우리는무엇을지켜야하는가?미래는아직정해지지않았다.훼손되어서는안되는삶의기쁨을지키기위해,지금반드시읽어야할책이다.
