인공지능기술은어떤방향으로발전하고있는가
이책이제시하는AI기술발전의특징에서주목할만한점은,오픈소스AI생태계의활성화가눈에띈다는점이다.특히,2023년2월메타가라마1(LLaMA1)모델을발표하면서오픈소스AI분야의발전이가속화되었다.메타의오픈소스AI모델이주목받자,여타의경쟁기업들도빠르게오픈소스AI모델을발표했다.오픈소스AI의파괴력은2025년초중국의‘딥시크(DeepSeek)쇼크’에서절정에달했다.딥시크가충격으로받아들여지는것은미국의수출통제강화에도불구하고개발된점,개발비용을대폭절감함으로써상업화의가능성을보여준점때문이다.이에미국이고비용·폐쇄적접근에기반한AI전략을지속할것인지여부에대해근본적인문제가제기되기도하였다.
AI기술발전이단순히큰모델(대규모언어모델)을개발하는것을넘어‘스스로생각하고추론할수있는능력’을강화하는방향으로전환되고있다는점도주요한특징이다.AI의응용에서는정확성이매우중요한데,그럴싸한빠른대답보다는조금침착하고느리더라도정확한답변을하는쪽으로발전하고있다는것이다.이처럼단순한텍스트생성이아닌논리적인사고과정을거쳐문제를해결하는능력을강화한‘추론형AI’의등장과더불어AI기술은단순한언어처리를넘어다양한입력을처리하고상징적추론을수행하는등포괄적이고자율성이더욱향상되는방향으로발전하고있다.
이처럼AI기술은기업들간의치열한성능혁신경쟁으로인해추론형AI로까지성능이더욱고도화되는한편,소형화·경량화등의수요에따라AI모델및서비스의유형이다변화·다원화하고있다.앞으로거의모든소프트웨어들이어떤형태로든AI와연동하는상황,즉AI가사실상OS의지위를넘보는단계로까지발전할수도있다.
규제완화로자국의기술혁신을적극지원하고자하는미국
‘딥시크쇼크’로기술추격의단초를보여준중국
두강대국으로보는글로벌패권경쟁의지도
미래국제질서의향배를가늠할‘AI기반의국제정치전환’을보여주는가장대표적인사례는미중AI패권경쟁이다.미중AI패권경쟁은기술에서앞서갈뿐아니라,표준과플랫폼,생태계를주도하고,정책차원의규제와안보담론및국제규범의형성을이끌며,더나아가AI기반외교와전쟁에서승리하기위해벌이는다차원의경쟁이다.이책이제1장과제4장을비롯하여다수의글에서미중AI패권경쟁사례를다룬것은,글로벌지형에서영향력이큰두강대국을분석함으로써미래글로벌패권경쟁의지도를그려보기위함이다.
미국의수출통제와중국발‘딥시크쇼크’는최근벌어지고있는미중경쟁의동학을잘보여주는사례다.트럼프1기정부부터바이든정부,그리고트럼프2기정부에이르기까지미국은AI가미래산업경쟁력을확보하는데관건이될뿐아니라,군사적함의가지대할것으로판단하고,중국에대한견제를지속적으로강화해왔다.이는수출통제가중국의AI추격을지연시킴으로써기술격차를유지·확대하는데효과를발휘할것이라는전망에기초한것이었다.그러나딥시크는지속적인견제강화에도불구하고중국의AI추격의단초를보여주었다는것이미국의딜레마다.또한수출통제가미국반도체에대한글로벌수요를감소시켰을뿐아니라미국AI생태계가아닌대체생태계를모색하도록만들어,민간과국가의이익을오히려해쳤다는비판도있다.수출통제조치가중국내AI생태계발전에미치는함의에도주목해야한다.예를들어,H20칩의통제는중국의자생적생태계의성장을촉진했다.역설적이게도미국의수출통제가바이트댄스나텐센트와같은중국빅테크들로하여금화웨이AI칩사용을종용하는양상이된것이다.
미국의미래AI전략에대한이책의공통된전망은‘규제완화’다.이때염두에두어야할것은,규제완화정책을기반으로AI발전의균형추가기술혁신쪽으로기울면서사회적안전과국민기본권을위협하는AI기술이출현할가능성이높아졌다는점이다.트럼프의미국우선주의적AI정책이AI기술의효율성을강화하는방향으로추진되면서,서방국가들이벌여온AI규범형성을위한국제협력의행보가약화될가능성도있다고이책은지적한다.
인공지능은동반자가될수도,치명적인행위자가될수도있다
사이버안보와우주안보에서급증하고있는인공지능의위협
AI기술을도구로한사이버위협은지속적으로증가하고있다.그수단과형태또한고도화되고있고,사이버공격의대상또한다양해지고있다.AI모델을배포하여사이버공격대상의취약점을물색하는등새로운위협이등장했고,AI프롬프트로부터국가기밀,기업의중요한데이터와개인정보를유출하는등AI시스템자체도사이버공격의대상이될수있음이드러났다.이러한상황은AI기술의발전과함께사이버보안의중요성이더욱증대하고있음을시사한다.
이책은사이버공격영역에서향후AI기술의발전은자율성과행위성을더욱증대할것으로전망한다.즉,복잡한네트워크환경에서최적의공격경로를자체적으로도출하거나,인간의개입없이장기적인공격캠페인을수행하는등의고도화된능력을갖출수있게되는것이다.나아가다른자아를지닌AI시스템과의협업을통해보다정교한공격을수행할가능성도높아질것이다.
우주안보에서AI기술은위성,우주잔해,지상·해상·공중객체를식별·분류·추적·감시하는데활용되고,고품질지구관측데이터와우주기반통신·항법서비스는AI기술발전에기여하고있다.그러나AI기술이우주안보를위협하기도하고,우주안보의부재가AI기술에부정적영향을미칠수있는위험이존재한다.이책은위성에탑재된AI기술이위협의원천이될수있다는점,AI알고리즘및학습과정의취약성을악용하는행위자로인해우주안보가위협받을수있다는점,특히군사적의사결정과정에서매우치명적일수있다는점을주요위협으로꼽았다.이에이책은,민간행위자를포함한다양한행위자간파트너십을통해AI기술표준을설정하고,규제를강화하는방식,그리고AI기술에내재된위험성을최소화하려는국제협력과거버넌스구축등을대응방안으로제시하였다.
AI기술의발전속도는인간의인지능력뿐만아니라,상상력마저도초월할수있다.만약그렇게된다면,AI는사이버와우주공간에의존하고있는인류에게이롭고다재다능한동반자로서존재하거나,아니면극악한위협을끼치는,인류에게치명적인행위자또한될수있음을잊지않아야한다.
‘오펜하이머의비극‘이아닌,‘프로메테우스의도구’가되려면?
강력한군대,전쟁의억지를위한인공지능
AI가극초음속무기,자율드론,전자전및사이버전과결합하면서기존의억지체계를변화시키고있다.더나아가,상대국이핵무기를사용할위협이감지되는경우에AI기반극초음속미사일과같은초정밀비핵무기로보복가능한역량이있음을보여준다면,핵무기일변도의억지체계에추가적인선택지를제공,핵대결의가능성을보다낮출수있을것이라는주장도제기되었다.
반면에AI의자율적의사결정능력이전장환경에서전략적·전술적의사결정을수행하는수준으로발전할경우,인간의통제권을넘어서는안보딜레마가발생할수있다.AI가인간의사고방식을모방하고,더나아가인간과융합하는방식으로발전할경우,‘인간이란무엇인가’라는철학적·윤리적질문은재구성될수밖에없다.기존의인간중심적사고에서벗어나,인간과기계가공존하는새로운존재론적패러다임이요구될것이다.AI가노동시장,교육체계,사회적관계,나아가인간존재의개념을변화시킬가능성이높아지는만큼,사회적논의를이끌어내고윤리적·법적틀을조기에마련하여AI와인간의공존을위한정책적기반을강화해야한다고이책은강조한다.
‘AI의무기화’는‘오펜하이머의비극’과‘프로메테우스신화’가혼재되어있다.인공지능이전염병,핵전쟁과같은공멸의위험이될수있다는데많은사람들이동의한다.높은상업성,범용성,그래서군사적전용의장벽이낮은AI기술은핵무기와달리규제가불가능하기때문이다.AI를활용하는전혀새로운군비경쟁은이미시작되었고,자유민주진영을위협하는적대적위협에대한우위를점하기위해서는도덕적호소가아닌기술적혁신이우선되어야할것이다.미래전에서AI기술은오펜하이머의비극이아닌강력한군대,전쟁의억지를위한‘프로메테우스의도구’가되어야한다.
서로상이한입장을가진각국이국제거버넌스·규범형성으로나아가는길
AI글로벌거버넌스를장악하는것은AI기술에대한지배력과우위를공고히하는데도움이된다.현재AI규제거버넌스는기존의패권국인미국과이에도전하는국가인중국,어느쪽에도편승하지않고독자적노선을가고자하는유럽연합으로경쟁구도가형성되어있다.미국은기술력을통한규제거버넌스를추구하고,중국은권위주의적통제력과대항세력을통한규제거버넌스를,유럽연합은규범력을통한규제거버넌스를제시한다.여기에는모두상대를저지하고억지하기위한목적이강하게반영되어있다고할수있다.
이처럼전세계각국이처한서로다른안보환경과AI기술발전수준으로인해각국의AI기술에대한시각과입장은서로상이하다.중요한것은AI기술경쟁이각국의의도와는상관없이통제불가능한방향으로치닫는상황을국제규범이관리할수있어야한다는점이다.따라서다양한각국의입장을반영한열린거버넌스를가동하기위해서는개발도상국의AI역량구축을우호적인관계의강대국이지원할수있는협력관계가전제되어야한다.국가간AI에대한지식의격차가좁혀져야규범구축논의에실질적으로참여할수있기때문이다.
한국AI전략의방향성을제시하다
한국은중견국으로서안고있는AI국가전략의과제가있다.첫째,국가역량의‘규모’차원에서중견국인한국은AI기술혁신전략을추구하는데있어‘선도전략’과‘틈새전략’중에서무엇을우선시할지고민할수밖에없다.둘째,미중사이에‘위치’한중견국인한국은두나라가주도하는‘폐쇄형’과‘개방형’AI생태계·플랫폼사이에서어느쪽을선택할지의갈림길에서있다.셋째,국제사회에서담당할‘역할’차원에서중견국인한국은AI안보담론의원칙을고민할뿐만아니라글로벌차원에서진행되는AI윤리규범형성에도참여할과제를안고있다.
이에이책은국내정책·제도환경의방향이AI분야의‘진흥’보다는‘규제’쪽으로기운것이문제임을지적하고,단순히기술과인재의역량을키우기위해투자규모만늘리는것이아니라,AI분야에서쌓아온한국만의경험과성과를반영한새로운개념의AI국가전략수립을강조했다.한국이가진제한된자원을효율적으로활용하는국가전략의필요성이자주거론되는이유다.결국미중경쟁과정에서미중양국이설정하는AI정책·담론의단순이분법이아니라,다양한스펙트럼에서제기되는AI정책·담론을상황에맞추어유연하게채택하는‘한국형전략’의정립이필요하다는것이다.
