거대한 코끼리를 춤추게 하라 : 거대 조직은 어떻게 AI를 받아들이는가

거대한 코끼리를 춤추게 하라 : 거대 조직은 어떻게 AI를 받아들이는가

$17.00
저자

이치화

저자:이치화
경찰청미래치안정책국인공지능정책계장.
2008년경찰대학을졸업한18년차경찰관이다.2016년부터2022년까지자치경찰제도의도입과법제화를총괄하며14만경찰조직의제도설계를담당했고2025년부터는경찰청AI전담조직신설과「치안AI혁신종합계획」수립을주도했다.4명으로출발한태스크포스(TF)가3개의상설조직으로성장하기까지1년6개월동안현장에서조직의변화를이끌었다.
또한동료연구자들과함께신뢰할수있는공공AI를연구하고있다.한번의오류가국민에대한잘못된처분으로이어질수있는공공안전분야에서AI를어떻게평가·검증하고책임있게활용할것인지가주요연구주제다.그중심에는AI거버넌스가있다.공공AI가믿을만하게작동하는지를살피고그근거를검증하는신뢰성평가와정책을미리실험해보는생성형에이전트시뮬레이션이주된연구방법이다.이책에서소개하는「모두의경찰관」프로젝트의개발도함께이끌고있다.현재KAIST문술미래전략대학원석사과정에재학중이다.
규제와관성,그리고수많은현실의제약속에서조직을설득하며AI혁신을추진해온실무자의경험을이책에담았다.완벽한지도는어디에도없다.지금도더나은공공AI를향한여정은계속되고있다.

목차

프롤로그
한국공공AX의출발점-AI는마법지팡이가아니다6
1부
공공AX의작동환경
1장1장.왜민간의DX공식을그대로쓰면안되는가17
2장.데이터사일로는왜깨지지않는가22
3장.100억짜리공모전에떨어지고무엇을배웠는가27
4장.글로벌공공AX의철학-세계는어떻게하고있는가37
5장.AI는이미무기다-그리고우리는같은무기로막아야한다43

2부
조직AX의면역메커니즘
6장.왜14만명은새기술을거부하는가-‘건강한관성’의정체59
7장.블랙박스의공포와‘설명자(Explainer)’-공공조직인재영입의구조적한계65
8장.AI가인간을밀어낼까,인간을본업으로돌려보낼까73
9장.업스킬링의과학-막연한두려움을확신으로바꾸는교육81
3부
데이터의사각지대
10장.완벽한데이터가거짓말을할때,무엇이진실을구하는가94
11장.AI가잘못판단했을때,누가책임지는가101
12장.AI는왜자신감있게거짓말을하는가109

4부
암묵지자산화
13장.베테랑은퇴와조직면역력의손실-암묵지증발문제120
14장.암묵지의디지털트윈-현장의촉을시스템에이식하다126
5부
도입로드맵
15장.왜핵심업무가아닌곳부터시작해야하는가137
16장.분절시스템의통합-‘느슨한결합(LooseCoupling)’아키텍처141
17장.분산예산의통합모델-엣지AI와중앙·분산추론설계147
18장.100일도입플레이북-1주차에서14주차까지153
에필로그
치안을넘어-한국공공AX의다음18개월157

부록
부록A.핵심원칙&실무체크리스트/직무-AI매트릭스/통합프레임워크174
부록B.공공AX의5년·10년시나리오-Dator4Archetypes로본한국공공AI의분기점186
부록C.실무자의도구함191
부록D.참고문헌및용어해설219

출판사 서평

프롤로그
한국공공AX의출발점-AI는마법지팡이가아니다
이책의사용설명서
이책의무대는14만명규모의조직,경찰청이다.다룬시기는18개월.그안에서우리가부딪힌결정의갈림길을17개로추렸다.비슷한결의책이없는건아니다.IBM을살린거스너의회고록,인텔운영의정석을적은앤디그로브,스타트업의한복판에서쓴호로위츠의책.다만한국공공부문에서같은결로쓰인책은아직본적이없다.

거스너IBM과의차별화
이책의제목이루이스거스너의『코끼리를춤추게하라』와같은메타포를쓴건의도적이다.거대조직이시대의전환점에서자기체질을바꾸는일의보편성을표시하고싶었다.다만거스너의책과이책사이에는세가지결정적인차이가있다.
첫째,무대가다르다.거스너의IBM은민간영리기업이었다.이책의무대는14만명짜리공공위계조직이다.작동원리가다르다.이윤이아니라공공가치,CEO결재가아니라법률과예산심의가일을움직인다.
둘째,시기가다르다.거스너책은1990~2000년대,인터넷과서비스화로대표되는디지털전환시기의기록이다.이책은2024~2026년,의사결정의자동화로대표되는AI전환시기의기록이다.다루는기술의본질이다르다.
셋째,역할이다르다.거스너는외부에서영입된CEO였다.위에서아래로변화를누를수있는자리에있었다.나는그자리에없다.나는위계한가운데있는정책설계자로서,옆으로설득하고아래로협상하며변화를이식해야했다.‘외부CEO가위에서누른다’는모델로는풀리지않는한국공공조직의특수성이이책의핵심변수다.
정리하면이렇다.거스너의책이‘민간,디지털전환,위에서아래’의기록이라면,이책은‘공공,AI전환,안에서옆으로’의기록이다.같은메타포를빌렸지만,다른산업과다른시기와다른역할에대한다른보고서다.

[케이스매핑][매핑]17개케이스→5개원칙.본문각챕터끝에는[DecisionPoint/Mechanism/Principle/BeyondtheStage]분석박스가있고,부록에는적용체크리스트와도구함이수록되어있다.
[빨리읽고싶다면][싶다면]각챕터도입부의짧은핵심문장과에필로그의다섯원칙만봐도책의뼈대는잡힌다.[내조직에옮겨보고싶다면]부록체크리스트의‘민간조직적용시’가이드부터펼치고,거기서본문으로거꾸로들어가는게빠르다.[처음부터끝까지읽고싶다면]그냥순서대로.17개결정이누적되며만드는결이보인다.
[고백한가지]나는경찰청에서AI정책을짜는자리에있고,책에적힌17개결정의자리마다직접서있었다.그래서본문은‘나’로적었다.다만챕터끝의분석박스만큼은나의회고가아니라한발떨어져서본일반화다.회고와일반화를같은무게로읽지말아달라.

그회의실밖에서일어나고있던일을먼저적어두어야겠다.한국의보이스피싱피해액은2024년8,545억원으로역대최고를기록했고,2025년에는사상처음으로1조원을넘어섰다(1조2,578억원,경찰청·금융감독원통합집계,2025).딥페이크성범죄영상물에대한방송통신심의위원회의시정요구는2021년1,913건에서2024년23,107건으로12배늘었다.누군가의휴대폰에서는자녀의목소리로합성된음성이흘러나오고,누군가의PC에서는다크웹의알고리즘이새로운사기시나리오를자동생성하고있었다.우리가회의실안에서‘누가책임지나’를두고눈치를보는동안,적들은이미같은도구를손에쥐고진화하고있었다.
회의실공기가무거웠다.참석자들의시선은자기앞종이위만맴돌았다.아무도먼저손을들지않았다.책임소재를조율해야하는자리였고,그조율이쉽지않다는걸다들알고있었다.
테이블한가운데에는열장남짓한보고서하나가덩그러니놓여있었다.표지에는굵은명조체로「치안AI혁신추진계획」이라는거창한제목이적혀있었다.시대의화두인인공지능을치안현장에도입하여대한민국경찰의미래를혁신하겠다는,야심찬청사진.문제는그화려한청사진을‘누가직접그릴것인가’였다.
“AI가중요하다는건다들동의하시지않습니까.하지만우리부서는지금맡은업무를처리하기에도인력이부족한상황이라…”
“저희는AI전문가가아닙니다.이런업무는전문지식이있는부서에서맡는게더좋을것같습니다.”
이유는제각각이었지만결론은하나였다.아무도이미지(未知)의기술을책임지고싶어하지않았다.기획안을최초로올렸던부서조차,실행단계에서책임소재가거론되자신중한태도로돌아섰다.‘필요성’에는고개를끄덕이면서도,정작‘실무’를맡으라하니부담이밀려온다.
그들의공포에는분명한이유가있었다.14만명짜리조직,그중에서도국민의생명과안전을책임지는경찰은‘무결성’과‘적법성’을산소처럼들이마시며산다.정해진매뉴얼대로한치의오차없이움직여야하는시스템에서자란사람들에게,확률로움직이고때로는환각(Hallucination―AI가사실이아닌내용을그럴듯하게지어내는현상)까지일으키는AI는통제하기어려운존재에가까웠다.혁신이라는이름으로포장되어있지만,만에하나이시스템이잘못된판단을내리거나예산만삼킨채실패로흘러간다면그책임은온전히실무부서장에게돌아올터였다.그것은단순한업무기피가아니다.낯선변화에본능적으로저항하며검증된방식을지키려는조직의방어본능―조직행동론에서는이를‘건강한관성(HealthyInertia)’이라부른다.
누구도선뜻손을내밀지않으려눈치만보는이무거운공기는단지경찰청회의실에만머물지않는다.분기마감과당장의매출에쫓기는영업본부,낡은전산망유지보수만으로도허덕이는IT부서,그리고검증되지않은외부AI서비스도입이가져올보안유출을우려하는기업컴플라이언스팀의회의실풍경도이와딱맞는다.낯선변화에본능적으로저항하며기존의방식을지키려는방어본능은,이윤과생존을다투는민간기업에서도동일하게나타나는‘건강한관성’이다.
그렇게주인을찾지못한계획서는몇달째부서와부서사이를표류하고있었다.조직의눈치게임이길어지던2025년3월,지휘부가결단을내렸다.표류하던계획을추진할사람으로나를지목하며자리이동을명했다.모두가피하고싶어했던이과제가내게맡겨진데에는나름의이유가있었다.
2016년부터2022년까지,나는대한민국경찰역사상주요한패러다임전환중하나였던‘자치경찰제도’의도입과법제화실무를총괄했다.세상에없던새로운제도와법을처음부터설계하고,수십년묵은관료제에뿌리내리도록조율한6년이었다.제도를조직에뿌리내리게하는것은기술을도입하는것과본질적으로같은일이다―어느쪽이든결국사람을설득하고,관성을조율해야한다.지휘부는AI라는낯선기술을뿌리내리게하는이번작업에도그‘조직이식의노하우’가필요했던것은아닐까?어차피벌어진일,긍정적으로생각하기로했다.
지휘부의이판단덕분에논의는비로소다음단계로넘어갈수있었다.
하지만내자리로돌아와서류철의첫장을넘겼을때,나는막막해졌다.기안일자,‘2024년11월’.부서간조율이이어지는동안,4개월이지나있었다.바깥세상에서는하루가다르게새로운AI기술이지각변동을일으키고있는데,우리의AI시계는지난겨울에멈춰있었다.
숫자를들여다보니상황은더심각했다.2025년기준,경찰청이운용하는정보화시스템은수십개.그안에축적된데이터는수십테라바이트에달했지만,AI학습에즉시투입할수있도록정제된데이터세트는사실상전무했다.다시말해수십개의시스템이각자의방언으로중얼대고있을뿐,AI가알아들을수있는공통어로번역된것은아무것도없었다는뜻이다.
AI모델을돌리는데필수적인GPU(그래픽처리장치)카드는경찰청전체를통틀어몇장없었다.네이버나카카오같은민간빅테크기업의AI연구소가수천장의GPU를풀가동하며글로벌경쟁에뛰어들고있다는사실과비교하면,이것은‘AI인프라’라부르기조차민망한수준이었다.
마이크로소프트의사티아나델라CEO가2025년한국방문강연(MicrosoftBuild)에서던졌던한마디를떠올렸다.“우리가AI를쓰지않으면,범죄자들이AI를쓰기시작할것이다.”그것은비유가아니라이미벌어지고있는현실이었다.인간의얼굴을훔치는딥페이크,국경을넘나드는보이스피싱,다크웹마약거래―범죄자들은이미알고리즘을무기로갖고있었다.수사관들은수천시간분량의CCTV영상과테라바이트단위의포렌식데이터를제한된도구만으로대응해야하는비대칭전쟁의한복판에놓여있었다.경찰에게AI는유행이아니라,국가치안시스템의붕괴를막기위한가장강력한비대칭전력이자‘생존의문제’였다.
조급함은커졌지만,시중의경영서를아무리뒤져봐도치안현장에맞는AI매뉴얼은어디에도없었다.지시가없는현장에던져진경찰관이할수있는일은직접발로뛰는것하나뿐이다.나는무작정밖으로나갔다.퇴근후에는AI기술스터디를병행했고,낮에는서울시청,경기도청,국방부,과학기술정보통신부,한국지능정보사회진흥원(NIA)등AI유관기관의문을두드렸다.공문으로충분한설명을하고적당한명분을찾는정석적인절차를거칠여유는없었다.무작정담당부서에전화를하고양해를구한후직접사무실을찾아갔다.이당시수집한인사이트는기술의조각들을‘경찰의언어’로번역해내는귀중한자양분이됐다.
처음TF에배정된인원은나와함께일하던동료두명과AI기획안초안을묵묵히다듬어온베테랑실무자한명이었다.
나를포함해단4명.예산도,인프라도부족한상태에서조직전체의인공지능대전환(AX,AITransformation―조직의업무방식과의사결정구조를AI중심으로재설계하는것)을책임져야하는TF의출발이었다.우리는테이블에마주앉았다.
“일단한번부딪혀봅시다.대한민국모든공공기관이사실상처음시작하는업무니까,다같은처지아니겠습니까.”
하지만드라마나영화속혁신처럼,하룻밤사이극적인결단으로세상이뒤집히지는않는다.관료제속에서혁신은철저히‘문서’로시작해‘문서’로끝나는행정실무의연속이다.
우리는두달동안밤낮없이보고서와씨름했다.“AI가유행이니도입하자”는감성적주장으로는단한사람도설득할수없었다.우리가필요로했던것은냉정한팩트였다.대한민국경찰은260개의경찰서와2,050개의지구대·파출소에서24시간365일박동한다.한해쏟아지는112긴급신고만천만건이상,온·오프라인경찰민원은3억7천만건에달한다(2024년기준,「모두의경찰관」공모안내서).지금까지이거대한파도를현장경찰관들의야근과육체적헌신이라는둑으로막아왔지만,그둑은이미인지적·물리적한계치에도달해있었다.
2025년5월,객관화작업을거친끝에우리는마침내「치안AI혁신추진계획」을공식발표했다.팩트와수치로구성된이보고서는조직의공감대를이끌어내는데성공했고,지휘부의승인하에‘AI융합계’직원3명을추가선발할수있었다.기획을담당하는AI정책계와실무융합을담당하는AI융합계,총7명의완전체가꾸려진다.
이책은영웅담이아니다.14만명짜리조직이AI를받아들이는18개월동안부딪힌17개결정의갈림길을,그자리에있던사람의시선으로적은기록이다.성공한결정과실패한결정이섞여있고,그사이에어떤조직메커니즘이움직였는지를가능한한솔직히풀었다.부록에는17개케이스에서뽑아낸다섯가지원칙과,독자가자기조직에옮겨적용할수있는체크리스트,그리고실무도구함을묶었다.
이책의무대는경찰청이지만,적용대상은경찰에한정되지않는다.112긴급출동은기업의최접점고객서비스(CS)클레임대응과같고,수사부서의적법성원칙은금융·의료의컴플라이언스의무와닮았다.14만명의위계조직의관성은대기업부서이기주의와레거시시스템의한계와정확히겹친다.표면의단어를자기조직으로한번씩옮겨적어두면,17개케이스가운데일곱개쯤은그대로통한다.권말부록C의빈칸이자기조직의답안으로채워지는순간,이책의가장큰효용이시작된다.
완벽한지도는없었다.거대한코끼리를춤추게할첫발은그렇게시작됐다.