마틴포드
미래학자이자기술현실주의자다.로봇공학및인공지능의발전과이러한기술발전이미래의경제,사회,문화에어떤영향을미칠것인지현실적인비전을제시하고있다.기술현실주의자답게그는인공지능이인류문명을바꾸는유일무이한강력한기술임을인정하면서,또한인공지능이부상하며나타나는위험에대해서응집력있는대응이시급함을주장한다.균형잡힌그의비전은기술전문가와경제전문가뿐만아니라,변...
추천의말
1장.예측불가능한인공지능이가져올미래
2장.새로운전기,인공지능
지능을전기처럼쓴다면
새롭게떠오르는인공지능인프라
인공지능의핵심인프라,클라우드컴퓨팅
인공지능의민주화
한층더연결된세상과사물인터넷
가치는데이터에있다
3장.인공지능의과대포장과실제
가정용로봇배송이지연되고있습니다
물류창고와공장은로봇혁명의시작점
손을쓰는로봇을찾아서
소매업과패스트푸드산업에다가오는혁명
인공지능이의료분야에미치는영향
자율주행차와트럭은예상보다오래기다려야한다
과학과의학,기술정체기를벗어날것인가
4장.인공지능은어떻게진화해왔는가?
기계는생각할수있는가?
연결주의vs.상징적AI,그리고딥러닝의부상
5장.딥러닝과인공지능의미래
심층신경망은어떻게작동하는가?
경고신호,인공지능의겨울이다시온다면
일반기계지능을향한여정
상징적AI의부활과내재구조의중요성
일반기계지능을위한혁신과제
인간보다뛰어난인공지능에도달할수있는가
6장.사라지는일자리,인공지능이경제에미칠영향
과거와는근본적으로다르다
코로나바이러스팬데믹이시작되기전까지
포스트코로나와회복
사무직자동화물결,그리고코딩교육?
어떤직업이가장안전할까?
인공지능이가져올경제적혜택
인공지능이분배문제를해결할수있는가
7장.인공지능감시국가의부상
중국,인공지능연구개발의최전선
중국감시국가의부상
얼굴인식에대한새로운논쟁
8장.인공지능의위험
딥페이크,무엇이현실이고무엇이환상인가?
치명적인자율무기의위험
머신러닝알고리즘의편향,공정성,그리고투명성
초지능이제기하는존재위협과통제문제
인공지능의규제는절대적으로필요하다
결론.인공지능의두가지미래,스타트렉인가매트릭스인가?
감사의말
미주
지능을전기처럼쓴다면?
인공지능은점점더많은영역에서성공적으로적용되어진화하고있으며,진정한혁명은아직오지않았다.저자에따르면우리는인공지능을‘전기’처럼사용하게될것이다.전기는산업혁명이후경제와사회의모든측면을확장하고변화시키는혁신이며,전기없는미래를상상하기란거의불가능하다.
인공지능역시전기와같은규모와힘을가진범용기술로진화할것이며,전기와마찬가지로거의모든것과접촉하고거의모든것을변화시킬것이다.게다가인공지능은전기의경우보다훨씬빨리영향력을넓힐것이다.이미인공지능을배포할때필요한많은인프라가이미갖춰져있기때문이다.컴퓨터,인터넷,모바일데이터서비스와아마존,마이크로소프트,구글같은기업이운영하는거대한클라우드컴퓨팅시설을이미사용하고있다.기업뿐만아니라정부도클라우드컴퓨팅에크게의존하고있으며,클라우드컴퓨팅은정치적으로도매우격렬하고경쟁이치열한시장이다.
일반적으로사람들은전기를의심할여지없이긍정적인힘으로생각한다.하지만인공지능은다르다.인공지능이전기와가장다른점은‘누가기술을제공하는지’에따라크게달라질수있는‘직접적인지적능력’이라는점이다.인공지능에는어두운면이있고,개인과사회전체에끼칠수있는진짜위험을동반한다.
경제불평등과일자리위협…노동의종말은오는가?
인공지능이경제에미치는영향은‘양날의검’이다
저자마틴포드는인공지능이계속발전할수록노동시장과경제전반에유례없는변화가일어날것이라고말한다.이러한그의주장은전작《로봇의부상》에서부터이어지는데,인공지능과로봇공학의발전이결국단조롭고예측가능한많은일자리를파괴할것이고,이는잠재적으로불평등의증가와구조적실업으로이어질것이라는주장이다.코로나바이러스팬데믹이후완전히새로운경제현실로접어든현재,그는여전히자신의주장이매우적절하다고생각한다.팬데믹의여파로업무자동화증가추세는더욱증폭되고현재경제재난에서회복하려는기대심리에큰영향을끼칠수있다.
업무성격이단조롭고예측가능한직업,다시말해비슷한작업이반복되는일자리는전부또는부분적으로자동화될가능성이있다.연구에따르면미국노동인구가운데절반가량이이처럼예측가능한활동에종사하고있고,미국안에서만수천만개의일자리가사라질수있다고전망한다.그영향력은저임금층이나비숙련노동자에국한되지않을것이다.화이트칼라나전문직종사자가운데많은수가상대적으로단조로운업무를수행한다.특히예측가능한지식노동은소프트웨어로처리할수있으므로자동화될위험이크다.오히려육체노동을대체하려면고가의로봇이필요하다.
자동화가미래노동인구에끼칠영향력에대해서는활발한논의가진행되고있다.단조로운일자리를잃은노동자를흡수하기위해새로창출되는직업은앞으로자동화되지않고그수가충분할까?만약그렇다면사람들은새로운역할로성공적으로전환하는데필요한기술과능력,특성을갖추게될까?이전에트럭을운전했거나패스트푸드점에서일했던노동자가로봇공학엔지니어가되거나노인을돌보는개인간병인이될수있다고가정해서는안될것이다.코딩능력은기술에의한고용시장파괴의만병통치약처럼제시되곤한다.언론분야이든탄광업이든일자리를잃은사람들은‘코딩을배워보라’는조언을듣는다.그러나컴퓨터프로그래밍을배우면분명히유용하고보람도있겠지만,이런기술습득이좋은일자리를보장하는시대는저물고있다.다른화이트칼라직업도대부분마찬가지다.
마틴포드는전작《로봇의부상》에서주장했듯,신작《로봇의지배》에서도여전히인공지능과로봇이계속발전할수록노동인구대부분이결국뒤처지는위험에처할것이라고생각한다.그리고코로나바이러스팬데믹과그에따른경제침체가인공지능이노동시장에끼칠영향력을가속할것으로믿는타당한이유를다양한데이터와함께제시하고있다.
저자에따르면,자동화때문에일자리가완전히사라질위험뿐만아니라기술발전은이미노동시장에영향을끼치고있다.중산층일자리는필요한기술이점점단순해지는탈숙련화의위험에처했고,반면훈련을거의받지않은저임금노동자는기술의도움을받아한때더높은임금을받던일자리로진입할수있다.사람들은점점더자신을가상로봇처럼취급하며업무를감시하고속도를조절하는알고리즘의통제를받으며일하고있다.‘긱(gig)’경제에서새로운기회들이생기고있지만,이분야에서일하는사람들은대체로노동시간과수입을예측할수없다.이모든것은점점더많은사람이종사하는분야에서늘어나는불평등과잠재적인비인간화조건을가리킨다.
인공지능이경제에끼칠영향을생각하면사실양날의검과같다.한편으로생산성을높이고제품이나서비스가더저렴해지며우리모두의삶을개선하는혁신을가능하게할것이다.인공지능은지금우리가처한거대한경제적구멍에서빠져나올때없어서는안될경제적가치를창출한잠재력이있다.다른한편으로는경제불평등을더심각한수준으로몰아가며수백만개의일자리를없애거나단순화할것이확실하다.
얼굴인식알고리즘과딥페이크의위협
완전자율무기와인공지능군비경쟁
인공지능은어떻게민주주의를방해하고,인류의존재를위협하는가
“인공지능은인류가연구하고있는가장심오한것중하나다.불이나전기보다영향력이더심오하다.엄청난긍정적인측면도있지만,정말부정적인결과도있다.”-순다르피차이(구글CEO,‘다보스포럼2020’에서)
인공지능은중국같은권위주의적인체제에는사회를통제하는전례없는메커니즘으로작용할수도있다.중국의신장위구르자치구는중국감시체제의시작점이면서중국전체에배치될감시기법과기술의성능시험장이다.인공지능기반감시기술은결코권위주의체제에국한되지않는다.특히얼굴인식은미국과다른민주주의국가에서널리사용되고있다.2019년2월,인디애나주경찰은남성두명이공원에서다툼을벌여발생한범죄사건을수사하고있었다.한남성이총을꺼내다른남성의복부에쏜다음현장에서달아난사건이었다.현장에있던사람이휴대전화로이장면을녹화했고주경찰수사관들은가해자의얼굴이미지를시험중이던새로운얼굴인식시스템에올려보기로했다.시스템은즉시일치하는항목을생성했다.이름을포함한설명과함께총을쏜사람이소셜미디어에올라온영상에나타났다.용의자가이전에체포된기록이없고운전면허도없었지만,이사건을해결하는데고작20분이걸렸다.
그러나많은연구에서얼굴인식시스템이어느정도인종과성별에편향된것으로꾸준히나타나고있다.딥러닝알고리즘을훈련하기위해사용한데이터세트에백인남성의얼굴이우세한데서비롯한결과다.다시말해여성과유색인종은잘못된편향에피해를볼가능성이더크다.아프리카계미국인은백인보다100배이상잠재적범죄자로오인될가능성이있고,따라서구금될수도있다.이런문제는계속강력해지는기술을엄격하게규제하지않는한더욱만연하게될것이다.물론얼굴인식시스템이개인의사생활을위협할가능성은매우현실적이지만,이기술을적절하고윤리적으로배치해얻는분명한혜택도중요하게생각해야한다.이기술을사용해중범죄자들을많이검거할수있었고,같은시스템을실종아동과성인을찾는데사용할수도있다.
음성뿐만아니라사진,영상,심지어일관성있는텍스트를생성하는데까지이용될수있는딥페이크로대선후보의가짜영상과음성을만들어퍼트린다면?딥페이크가말그대로역사의흐름을바꿀수있다.딥페이크의악의적인사용은인공지능이발전하면서우리가직면하게되는심각한위험중하나다.이미음성딥페이크를사용한범죄자들에게수백만달러의돈을사취당한기업들이있다.모두딥페이크로만든그회사CEO의목소리로재무팀직원에게돈을이체하도록지시하는전화통화로범죄가이루어졌다.기업CEO가비정상적인행동을하는딥페이크영상은그기업의주가를폭락시킬수있다.그러나딥페이크를걱정해야할사람이단지정치인이나유명인으로제한되지않는다.거의모든사람이표적이될수있으며,당신의경력이나인생이딥페이크로인해파괴될수있다.
인간의개입없이인간목표물을찾고선택하고제거할수있는치명적인자율무기,인공지능기반완전자율무기는결국화학무기나생물학무기,심지어핵무기만큼파괴적이고불안정할수있다.모든드론은잠재적으로무기로사용될수있다.수백대의드론을동시에움직일수있지만,원격으로조정해야한다면기기를조정할수백명의사람이필요하다.하지만드론이완전히자율적으로움직인다면?소규모팀이거대한군단을배치해상상도할수없는대학살을일으킬수있다.통제실에있는5명이1,000만개의무기를발사해특정국가에거주하는12세에서60세남자를모두쓸어버릴수도있다.그렇다면이건대량살상무기다.얼굴인식알고리즘이민족,성별,복장에따라식별할수있는기능이있는것을고려하면이전에는생각조차할수없던무자비하고엄청난속도로자행되는자동인종청소나정치적반대자들의대량암살과관련된정말오싹한시나리오를쉽게상상할수있다.
4,500명이상의개인과수백곳의기업과조직,대학교가자율무기연구에참여하지않을것을밝히고이러한기술의전면금지를요구하는공개서한에서명했다.그러나2019년기준으로개발도상국29개국가가자율무기기술의완전금지를공식적으로요구했지만,주요군사강국은참여하지않고있다.저자마틴포드는완전자율무기기술에대해다소비관적으로전망하고있다.그는강대국간의경쟁역학과신뢰부족으로완전자율무기개발이곧확실해질것으로본다.미국,러시아,중국,영국,한국을포함하는국가에서대규모편대로이동하는드론을적극적으로개발하고있다.일단한국가가현재완전자율무기에대한비공식적금지를위반하고이런무기를배치하기시작하면피할수없는경쟁은시작될것이다.또한긴장이고조되고미국과중국관계가계속분리되면인공지능개발과배치에집중된갈등과경쟁이중심역할을할것은피할수없어보인다.인공지능이체계적이면서전략적인기술이라는점이분명해지면서양국간의전면적인인공지능군비경쟁의우려는진정한위협으로다가오고있다.
무엇보다가장큰위험은일단자율무기가생산되면불법무기거래상들에의해자율무기가테러리스트나용병,테러지원국에거래될수있다는점이다.저자는아이폰보다‘똑똑하지’않지만표적을식별하고추적하는데는망설임이없는유능한무기로인간이과연무엇을할지를오히려걱정해야한다고경고한다.
우리는어떤미래를선택할것인가?
유토피아인가,디스토피아인가?
저자마틴포드는여러우려되는부분이있음에도불구하고인공지능의일반적인연구를과도하게규제하거나제한하는것은매우잘못된판단이라고말한다.그보다는인공지능의구체적인응용을규제하는데초점을맞추어야한다고주장한다.자율주행차나인공지능의료진단도구같은분야에서는이미규칙이만들어지고있다.하지만광범위한관리감독도필요하다.인공지능은결국모든분야와접촉하게될것이고,형사사법제도에활용되는얼굴인식기술이나알고리즘같은기술은매우중요한결정을내리는데사용되고있기때문이다.저자는인공지능을관리감독하는가장좋은행동방침은인공지능적용에중점을둔규제권한을가진독립적인정부기관을세우는것이라고제안한다.
여러가지매우현실적인우려에도불구하고저자는인공지능에서얻는혜택이위험을능가한다고굳게믿는다.앞으로수십년동안우리가직면하게될여러도전과제를고려하면인공지능은없어서는안될기술이다.기술정체를벗어나광범위한혁신의새로운시대로진입하려면인류에게는인공지능이필요하다.기후변화는가장큰위협으로다가오고있다.전세계탄소배출량을비약적으로줄이려면전기발전,교통,농업,제조업,건물등모든분야에서기술적돌파구가필요하다.세계적인담수부족위기나피할수없는다음팬데믹과같은다른도전과제까지더하면산업전반에걸쳐혁신의폭발이절실히필요하다.혁신을가능하게하는촉매제가바로인공지능이다.
책《로봇의지배》의저자마틴포드는인공지능이가는길을따라탐색하다보면,인류가만들미래는결국두가지가상의극단이있는스펙트럼사이어딘가에놓이게될것이라전망한다.가장낙관적인시나리오는TV프로그램〈스타트렉〉에나오는세상이다.발전한기술덕분에물질적으로풍요롭고가난이사라졌으며,환경문제도해결되고,대부분질병도치료할수있다.전통적인직업이없어졌다고사람들이게을러지거나삶의의미나인간의존엄이결핍되지않는다.반면에훨씬더디스토피아적인미래는영화〈매트릭스〉에가까울것이다.저자가두려워하는것은인공지능이우리를노예로만드는것이아니라,현실세계가너무불평등하고더나아질기회가부족한나머지많은인구가가상현실로도피하는선택을하는것이다.
앞으로인공지능과가상현실기술의발전속도가빨라질수록두기술이결합해서너무나도매력적이고현실적인가상세계를만들것이다.그리고많은사람에게이가상세계는우리가실제로사는세상보다훨씬우월해보일것이다.2017년에한경제학자그룹이발표한분석에따르면,노동시장에서소외된젊은이들가운데점점더많은수가비디오게임에엄청난시간을소비하고있다.가상환경을일종의마약으로볼수있을정도로중독성을높이는기술이곧나타날것이다.
마틴포드는인류의거의모든사람이〈스타트렉〉에가까운미래를위해노력해야한다는데동의할것으로생각하지만,그런낙관적인미래는당연하게주어지지않는다고말한다.때문에목적지를향한궤도를수정하는명확한정책을만들어야한다.목적지에도착하기까지아주오랜시간이걸리겠지만사람들이스스로교육받고의미있는도전을추구하도록강력한인센티브를유지하면서소득분배문제를해결하는데서시작한다면,우리는올바른방향으로가게될것이라고저자는강조한다.