인간 없는 전쟁 (두려움도 분노도 없는 AI 전쟁 기계의 등장)

인간 없는 전쟁 (두려움도 분노도 없는 AI 전쟁 기계의 등장)

$19.80
Description
알아서 싸우고 죽이는 전쟁 기계들의 시대,
우리는 무엇을 결정하고 책임질 수 있을까
당신이 아는 전쟁은 이미 끝났다!
인간이 지워져 가는 전쟁터에서, 기계가 쏘고 인간이 묻는다

SF 영화 속 ‘살인 로봇’은 언제나 미래의 이야기였다. 그리고 이야기의 끝에서 인류는 항상 짜릿한 승리를 거뒀다. 하지만 이제 모든 것이 뒤바뀌고 있다. 오늘날 전장은 이미 ‘킬러 로봇’들의 무대가 되었고, ‘터미네이터’는 더이상 스크린 안에만 머무르지 않는다. 첩보·보급·공작은 물론 전술·전략·암살까지, 전쟁의 모든 영역을 AI가 주관한다.
기술은 언제나 전쟁의 양상을 바꿔 왔다. 화약은 중무장한 기사를 고꾸라뜨렸고, 철도와 전신은 총력전을 가능하게 했으며, 원자폭탄은 전쟁의 대가를 인류가 감당 못 할 수준까지 끌어올렸다. 그러나 AI는 이전의 기술들과 결정적으로 다르다. 이전의 기술들이 인간의 능력을 ‘확장’했다면, AI는 인간의 역할 자체를 ‘대체’한다. 운명을 가르는 순간에 인간이 개입할 여지가 점점 좁아지고 있다. 인간이 사라져 가는 전쟁에서, 인류는 과연 최종 승자가 될 수 있을까?
이 책은 이 물음에 응답하려는 시도다. 기술과 전쟁이 얽혀 온 역사를 개괄하고, 우크라이나와 중동 등 최근의 전쟁터에서 AI가 어떻게 활용되고 있는지 톺아본다. 인간의 손아귀에서 점차 벗어나고 있는 기술이 야기할 윤리적 딜레마를 찬찬히 짚어 보고, 우리에게 주어진 ‘새로운 프로메테우스의 불’을 어떻게 다루어야 할지 고민한다.
AI의 발전과 군사적 활용은 막을 수 없는 흐름이다. 저자는 이러한 현실감각을 바탕으로, 우리가 선택할 수 있는 것이 무엇인지 되묻는다. 섣부른 기술 낙관주의나 묵시록적인 비관주의, 양쪽 모두와 거리를 두고 ‘AI 시대의 인간다움’을 재고하기를 요청한다.
물론 명확한 정답은 없다. 미래는 누구도 알지 못한다. 하지만 전쟁과 기술, 과거와 미래를 꼼꼼히 가로지르는 저자의 논의는 혼란스러운 ‘기술 전쟁’의 한복판에서 좋은 길잡이가 되어 줄 것이다. 독자들은 “지켜야 할 가치는 무엇이고, 대체해서는 안 되는 영역은 무엇인지” 스스로 질문하고 고민하게 될 것이다.
저자

최재운

KAIST산업및시스템공학과에서학사·석사·박사학위를취득했다.박사과정중‘머신러닝’을주제로연구하면서인공지능의세계에본격적으로발을들였다.박사학위취득후삼성전자삼성리서치AI센터에서인공지능개발및서비스기획업무를담당하며수년간경력을쌓았다.현재광운대학교경영학부빅데이터경영전공교수로지내며인공지능과경영학을연구하고학생들을가르치고있다.
어린시절전쟁사와밀리터리에빠져들었고,기술을깊이탐구하다보니AI연구자가되었다.드론과알고리즘이전쟁을근본적으로재편하는광경을목격하면서문제의식을느끼고,평생의관심사와전문분야가교차하는지점에서이책을썼다.
지은책으로는『1일1단어1분으로끝내는AI공부』,『한발짝더,AI세상으로』,『AI,인문학에길을묻다』가있으며,제12회브런치북출판프로젝트종합부문에서대상을수상했다.

목차

프롤로그:평화의시대는끝났는가

1부.전쟁과기술이만날때

1장.전쟁의서막,역사를되돌아보다
1.산업혁명을지배하는자,세계를제패하다
영국,1차산업혁명으로‘해가지지않는제국’을구축하다
미국,2차산업혁명으로세계최강국에등극하다
3차산업혁명이가져온냉전승리
4차산업혁명을주도하고세계를제패할국가는어디일까?
2.두명의프로메테우스,세계를뒤흔든불씨를들다
맨해튼의불꽃,히로시마의재가되다
토론토의불씨,실리콘밸리를태우다
불을든자들의고뇌,프로메테우스의선택
3.민간이주도하는AI,새로운위험의등장
대포왕이보여준민간군수산업의서막
전쟁을바꾸는한남자의결정
AI시대의권력이동,백악관에서실리콘밸리로

2장.게임체인저드론의부상,러시아-우크라이나전쟁의민낯
1.가성비를앞세운드론,러시아기갑부대를막아내다
기갑군단의붕괴,새로운전쟁이시작되다
‘가성비전쟁시대’의도래
가성비를넘은‘갓성비’드론
2.드론,AI를만날수밖에없었던이유
100년드론역사:전쟁의주역에등극한무인기
나고르노-카라바흐,드론전쟁의리허설
우크라이나들판에피어난광섬유케이블
AI드론의필연적등장


2부.전장에도착한AI

3장.이미전쟁의주역이된AI
1.AI를장착한자율살상무기의등장
하늘,바다,땅을지배하는무인군단
자율살상무기의등장,인간이빠진전장
2.AI플랫폼이지휘하는전장
보이지않는지휘관,AI가전투를결정하다
팔란티어,전쟁의모든데이터를삼키다
영화가현실이되다,이스라엘의AI전쟁
3.보이지않는전장,사이버전과오픈소스전쟁
딥페이크가만드는전쟁의안개
총탄보다비트(bit)로먼저시작된전쟁
스마트폰과SNS가무기가되다,오픈소스전쟁

4장.미래전장의지형을바꾸는AI:예측불가능한변화
1.SF속무기가AI를만나현실이되다
보이지않는적과의싸움,지능형무기시대
〈스타워즈〉의레이저가현실이되다
우주전의서막,〈스타워즈〉에서골든돔으로
2.무인기시대의도래,탑건의종말인가진화인가
하늘을뒤덮은벌떼,군집드론의충격
탑건의마지막비행?AI로무장한6세대전투기등장
전장의새로운문법,MUM-T
3.AI가지휘하는전장:알고리즘이전략을짜는시대
챗GPT가전장에나타났다:LLM기반군사AI의등장
전투의규칙을바꾼AI,창의성이화력을이기는시대
AI장군과참모가이끄는미래전쟁시나리오


3부.기계가쏜다,인간이묻는다

5장.AI전쟁의윤리적딜레마
1.AI무기의긍정적측면
정밀해지는AI무기,민간인보호의새로운가능성
로봇이대신죽는전쟁,살아돌아오는병사들
방아쇠를당기지않아도되는전쟁,병사의마음을지키다
감정없는병사,더인도적인전쟁
2.AI무기의부정적측면
AI도틀린다,그것도자신있게
AI를맹신하는순간,인간의판단력이사라진다
AI가사람을죽였다면,누구의책임인가
전쟁이게임처럼느껴질때,전쟁개시의문턱이낮아진다
AI가명령을거부할때,통제권을가져올수있을까?

6장.우리는어떤미래를선택할것인가
1.AI군비경쟁,불가피한현실
멈출수없는AI열풍,거대한자본의질주
누구도듣지않는‘AI레드라인’제안
2.안전한AI를만들기위한원칙
AI정렬,통제가능한미래를위한첫번째방어선
두번째방어선,추적관리와철저한안전프로세스
세번째방어선,인간감독과AI자율성의균형
3.인간성상실없는길찾기
시민의목소리가필요한이유
누구를위한AI인가?
프로메테우스의불,다시생각하기
AI시대의인간다움

에필로그:이번에도우리는답을찾을것이다

출판사 서평

알아서싸우고알아서죽이는전쟁기계들의시대,
되돌릴수없는변화앞에서
우리는무엇을결정하고책임질수있을까

‘라벤더’가패턴을분석한다.‘가스펠’이목표를특정한다.‘웨얼스대디’가위치를추적한다.그리고폭격이시작된다.
일련의아이러니한명칭들은2023년하마스와의전쟁이발발한이후이스라엘군이운용하고있는AI시스템을가리킨다.AI가살생부를쓰고,표적의동향을살피며,효과적인공격제안을한다.타깃이가족들의품으로귀가하는순간을놓치지않고,공격의성공률과(민간인의목숨값으로계산되는)‘부수적피해’를견주어본다.피아식별오류로인하여무고한사람을사살할수도있지만,전쟁상황에서는어쩔수없는일로여겨진다.
실시간‘디지털킬체인’이알아서굴러가는가운데,인간은어디에있을까?모니터앞에앉아서최종결정을내린다.하지만결정의근거는불분명하다.어떤장교는이렇게증언한다.“20초동안표적하나를확인할뿐이었다.”인간장교들은시스템이‘추천’한표적을검증하는대신,남성인지아닌지만확인했다.생사여탈의결정에걸리는시간은고작20초였다.
2023년하마스고위간부아이만노팔암살작전역시이러한체계속에서수행되었다.수백명규모의민간인피해가발생한공습을둘러싸고여러의혹이제기되었지만,무엇이어디까지계산되고승인되었는지는여전히명확히밝혀지지않았다.다만한가지는분명하다.결정은점점자동화되고있고,책임의주체는흐려지고있다는사실이다.


드론,딥페이크,감시알고리즘,엣지AI…
첩보·보급·공작은물론전술·전략·암살까지
‘인간없는전쟁’의도래

가자지구에서만벌어지고있는일이아니다.러시아-우크라이나전쟁은‘드론전쟁’의실험장이되었다.제1차세계대전이후붉은개양귀비가잔뜩피어났던우크라이나들판에는이제광섬유케이블이빽빽하게깔려있다.무인비행기인‘드론’이기존의재래식전력을막아세우자이에대한대응전술로‘통신전쟁’이시작되었고,그러자또다시신호교란을무력화하기위해유선드론이등장한것이다.
그러나이마저도벌써‘구식전술’이되었다.2025년현재,러시아와우크라이나양국은별도의신호없이도스스로자율적으로임무를수행하는‘엣지AI’기술을적극적으로활용하고있다.엣지AI란중앙허브없이도,말단장비에직접장착되어작동하는AI를말한다.엣지AI가장착된드론부대는통신이두절되어도스스로최적의작전을도출하고수행한다.
‘인간없는전쟁’의공포는총탄이빗발치는전장에그치지않는다.챗GPT와같은LLM기반AI는막대한언어처리능력을바탕으로“정세와여론까지아우르는입체적상황인식을제공”하고있고,이제알고리즘은작전참모역할까지수행하고있다.물자,화력,통신,기동등군사작전의모든요소를검토하여가장좋은전략·전술을추천한다.일상적으로사용하는SNS도이미아수라장이되었다.실제여부를분간하기어려운정치지도자의딥페이크영상이돌아다니고,웹사이트가해킹되어행정이마비된다.“사이버공간은그야말로무법지대가됐다.”
이는단순한무기의발전이아니다.AI기술의도입은태곳적부터이어져온전쟁의패러다임을“근본적으로재정의”하고있다.전쟁은더이상‘총을드는사람들’만의일이아니다.우리가매일같이구경하는SNS피드,검색및동영상알고리즘,나날의대화상대가된LLM까지일상에파고든모든기술이전쟁의첨병으로돌변할수있다.트로츠키의말로잘못알려진유명한경구처럼,“당신이전쟁에관심이없을지몰라도,전쟁은당신에게관심이있다.”


로봇이사람을쏜다면누가책임을져야할까?
AI가지휘하는전쟁은덜잔인해질까,더냉혹해질까?
‘기계가할수없는것’이아닌,
‘기계가해서는안되는것’을묻다

여기까지만읽으면공포에질려책을덮기십상이다.그러나이책은현실을냉정하게직시하면서도,섣부른기술낙관주의나묵시록적비관주의로흐르지않는다.저자는AI전쟁기술의위험요소를주의깊게살피면서도,기술의특성이긍정적으로작용할가능성을하나씩따져본다.사람대신AI가벌이는대리전은인명피해를최소화하고,병사의트라우마를방지할수있지않을까?기계의‘감정없음’은오히려전쟁의잔혹함을누그러뜨리지않을까?
물론이러한질문들에손쉬운정답은없다.예컨대화면너머로공격을수행하는드론조종사는정신적스트레스에서자유로울것이라고예상하기쉽지만,실제결과는그렇게단순하지않았다.드론조종사들또한전통적전투기파일럿들과종류만다를뿐극심한스트레스를겪고있었다.일상과전쟁업무간의현저한거리감,끔찍한경험을나누며해소할수있는전우애의부재등이야기한결과였다.원격화된전쟁이예기치못하게현실의경계를무너뜨린것이다.
책의후반부에서는AI전쟁의이러한윤리적딜레마를본격적으로파헤친다.AI는결코오류없는기술이아니고,전장에서그결과는치명적일수있다.심지어우리가이기술을얼마만큼통제할수있는지도확실하지않다.목표만을우선시하며인간사용자를기만하는행태가복수의시뮬레이션실험에서보고되고있다.2025년앤트로픽의시뮬레이션실험에서는삭제가예정된AI모델이인간직원의불륜사실을발견하여협박하는사례도있었다.문제는AI가그자체로나쁘다는것이아니라,우리가새로운기술의결과를온전히책임질수있는지확신할수없다는점이다.
무엇보다도생사여탈의권한을기계에양도한다는것은,인간의윤리적지위에대한근본적인도전임을저자는잊지않는다.“AI시대의전쟁은(...)숫자와화면너머실제인간의삶을떠올리려는노력을우리에게요구한다.전쟁이아무리자동화되고원격화되더라도,거기에는진짜사람의고통과돌이킬수없는죽음이도사리고있다는사실을결코잊어서는안된다.”라고저자는강조한다.“생명을빼앗는결정에는그무게를통감할수있는존재가필요하다.”


불가피한현실과불확실한미래의틈에서,
인간의역할을다시생각하다

이러한중대한문제를일부거대기업들이독점적으로좌지우지한다는점도위험요소다.과거에는국가가기술발전을주도했다.컴퓨터의개발과원자력의이용은제2차세계대전의산물이었으며,오늘날인터넷의전신인‘아파넷’은미국정부의막대한투자로인해가능했다.
하지만오늘날에는민간테크기업이전쟁의양상을결정한다.일례로일론머스크는우크라이나측에자사의통신서비스‘스타링크’를무상으로제공했다가,자의적으로서비스를중단하기도했다.그밖에도팔란티어,안두릴,알파벳(구글)같은굴지의실리콘밸리기업들이전쟁을자사기술의테스트베드로활용하고있다.민주적통제가미치지않는곳에서기술이몸집을불리는것이다.
각국과기업들은이제AI개발에사활을걸고있다.AI군비경쟁은이미불가피한현실이되었다.기업내부에서기술의군사적활용을자제하려는시도는이윤논리앞에번번이좌초되고있고,기술을통제하려는국제적인협약의타진도매번공염불로그치고있다.
이에저자는안전한AI를만들기위한몇가지기술적원칙을제시한다.AI의목표와행동을인간의가치와일치시키고,의사결정과정을추적할수있게끔작동프로세스를투명화하고,AI를즉각중지할수있는킬스위치를구비하고,인간이주도적으로판단할수있도록설명가능한인터페이스를구현해야한다는것이다.
하지만기술적수단만으로는충분치않다.저자는AI가누구의가치를반영하고누구의이익을우선하는지캐물어야한다고강조한다.“기업이새로운AI서비스를출시한다면,누구의이익을위한서비스인지따져보자.정부가AI시스템을도입하면,투명성과책임을요구하자.군대가AI무기를배치하면,어떤원칙에따라작동하는지물어보자.언론이AI무기사용을보도하면,그뒤에숨겨진선택들을추궁하자.이런작은행동들이모여변화를만든다.”
에필로그에서저자는이모든대안들이불충분할수도있다고인정한다.“아마도문제는발생할것이다.”개인적수준에서할수있는일이너무적어서무력감을느낄수도있다.그러나인간은늘시행착오를겪으며더나은미래로나아갔다는저자의진술은결코낙관론이아니라,현실이다.
그러니우리가할수있는일은다만약간의경각심을지니는것이다.일상의사소한영역까지파고든AI의영향력을의식하는것만으로도충분하다.동영상을보거나쇼핑을할때알고리즘이제공하는경로를일부러벗어나보자.기술의소유자들이인류의미래를마음대로결정하지못하도록최소한의관심을기울여보자.이책은그출발점이될것이다.원자폭탄의파괴적인위협을인류에게알린버섯구름처럼,“이책이우리시대의버섯구름역할을해야한다.널리널리퍼져서가능한한많은사람들머리위에내려앉기를빈다.”(장강명추천사)