실전 AX 리포트: 1개에서 52개 계열사로, 국내 대기업 AX 팀의 AI 확산 실전 기록

박주혜,오현식,공득조

저자:박주혜
고려대학교에서인공지능학석사를취득하고온톨로지기반지식활용과LLM학습효율화를연구했으며,현재광주과학기술원(GIST)에서AI정책박사과정에재학중입니다.롯데이노베이트AI기술팀에서NLPAI엔지니어이자언어AI담당리더로일했고,현재롯데지주에서그룹의AI/Data거버넌스와정책을맡고있습니다.AI모델을직접만드는일부터시작해,모델을서비스화하고확산하는것을거쳐,지금은기업에서의AI활용을위한정책을세우는일을하고있습니다.

저자:오현식
롯데이노베이트AI혁신센터장을역임하며기업현장의AI도입과AX를주도해왔으며,현재는롯데지주에서그룹AI를총괄하며기업의AX전략과AI정책표준을이끌고있습니다.또한인하대학교에서인공지능분야겸직교수로서산업현장의AI전문성을교육과산학협력으로확장하고있습니다.인공지능공학석사를취득하고AI정책공학박사과정에재학중이며,정보관리기술사·컴퓨터시스템응용기술사·국제기술사등IT분야최고수준의전문자격을보유하고있습니다.한국인공지능기술산업협회이사,한국정보공학기술사회AI전략위원회전문위원,한국표준협회표준기술위원으로활동하며AI기술표준화와산업발전에기여하고있습니다.또한법원전문심리위원,과학기술정보통신부ICT멘토,주요공공기관평가위원등을역임했습니다.

저자:공득조
광주과학기술원(GIST)에서전기전자컴퓨터공학박사를취득하고,현재GISTAI정책전략대학원교수로재직중입니다.설립추진단장과부원장을역임하며대학원설립을이끌었고,국가AI융합및산업전략분야의중대형연구개발프로젝트를총괄해왔습니다.AI거버넌스와산업전략을연구하면서전환전략설계와핵심기술개발을함께수행하고있습니다.공공과산업양쪽에서전략을세우고이를기술로구현하는일을모두겪었고,이러한경험을바탕으로UNESCAP과협력(MoA)을맺어AI를통한사회공헌과지속가능한디지털전환을위한국제협력에도참여하고있습니다.

PART1AX,왜대부분실패하는가

CHAPTER1AX의현실:선언과실행사이의간극
_1.1'AI도입했습니다'와'AI로일하고있습니다'의차이
_1.2국내대기업AX현황과실패패턴분석
_1.3PoC지옥:왜파일럿에서전사확산으로넘어가지못하는가

CHAPTER2AX를바라보는잘못된프레임
_2.1기술도입≠AX
_2.2'킬러유스케이스'에대한집착이만드는함정
_2.3조직이AI를거부하는진짜이유

PART2AX전략설계:실무자가경영진을설득하는법

CHAPTER3AX로드맵수립:톱다운과바텀업의균형
_3.1경영진이원하는것vs.현장이필요한것
_3.23단계AX로드맵:체험→내재화→혁신
_3.3로드맵설계실전:전략과현장을연결하는법

CHAPTER4ROI없이시작하고,ROI로증명하기
_4.1AX초기에ROI를요구하면안되는이유
_4.2정량적성과측정프레임워크
_4.3경영진보고:숫자를이야기로만드는법
_4.4ROI를넘어서:AX성과의장기적관점

CHAPTER5예산확보와투자의사결정
_5.1AI플랫폼구축비용구조해부
_5.2내재화vs.외부솔루션도입의사결정
_5.3벤더선정프레임워크와협상포인트
_5.4예산승인을위한제안서구조

PART3AI플랫폼구축:전사AI인프라만들기

CHAPTER6전사AI플랫폼아키텍처설계
_6.1왜챗봇이아니라플랫폼이어야하는가
_6.2멀티테넌시설계:여러계열사를하나의플랫폼으로
_6.3LLM게이트웨이,RAG파이프라인,권한체계설계
_6.4아키텍처진화과정:1.0→2.0→3.0그리고4.0

CHAPTER7AI모델선택과운영전략
_7.1상용LLMvs.오픈소스LLM
_7.2멀티모달모델활용전략
_7.3멀티모델전략:업무별·비용별최적라우팅
_7.4비용최적화:토큰사용량모니터링과관리
_7.5모델업데이트대응전략

CHAPTER8멀티에이전트시스템설계와구축
_8.1단일챗봇에서멀티에이전트로
_8.2에이전트아키텍처패턴
_8.3에이전트의기술적구성:ToolUse,FunctionCalling,MCP
_8.4에이전트간협업구조
_8.5실전에이전트설계
_8.6에이전트평가와품질관리

CHAPTER9보안과거버넌스
_9.1기업데이터가LLM으로유출되지않게하는방법
_9.2프롬프트인젝션방어
_9.3개인정보필터링
_9.4계열사별데이터격리와접근제어
_9.5AI사용정책과컴플라이언스
_9.6거버넌스운영체계

PART4전사확산:PoC에서대규모프로젝트로

CHAPTER10파일럿에서전사롤아웃까지
_10.1파일럿대상선정과성공조건설계
_10.2단계별확산전략:1개계열사에서52개계열사까지
_10.3계열사별맞춤배포전략
_10.4롤아웃체크리스트와타임라인

CHAPTER11사용자온보딩과활성화
_11.135,000명을AI사용자로만드는온보딩설계
_11.2프롬프트템플릿라이브러리
_11.3사용자세그먼트별접근법
_11.4활성화지표와개선사이클

CHAPTER12AI챔피언육성과조직내확산
_12.1AI챔피언프로그램
_12.2우수사례발굴과공유체계
_12.3사내AI커뮤니티운영
_12.4저항을협력으로바꾸는일

PART5산업별AX실전:이렇게적용했다

CHAPTER13유통AX
_13.1문화센터강좌AI개인화추천서비스
_13.2마트육류지방비율추론및품질판별
_13.3앱스인챗GPT:24개계열사동시진입

CHAPTER14생산·제조AX
_14.1건설특화AI실시간번역
_14.2제품라벨검토를위한한도견본AI
_14.3VisionAI기반스마트팜모니터링

CHAPTER15서비스·인프라AX
_15.1금융권보안기준을충족한구축형AI플랫폼
_15.2공항철도지하철혼잡도분석
_15.3수영장안전모니터링

CHAPTER16공통업무AX
_16.1회의록자동화와액션아이템추출
_16.2자료조사와문서작성
_16.3조직지식관리AI
_16.4누구나만드는업무에이전트,아이멤버온플로우

PART6타플랫폼과의연동:AI를기존업무시스템에녹이기

CHAPTER17그룹웨어·기존업무도구연동
_17.1사내메신저AI통합
_17.2그룹웨어연동:메일·캘린더·전자결재
_17.3알림과워크플로트리거자동화
_17.4일하던곳에서쓰는AI의UX전략

CHAPTER18기간계시스템연동
_18.1ERP·CRM·SCM과AI의만남
_18.2오케스트레이션레이어설계
_18.3레거시시스템연동의현실적제약과우회
_18.4데이터동기화와실시간처리

CHAPTER19외부AI서비스·플랫폼과의통합
_19.1오픈AI앱스SDK를활용한챗GPT연동
_19.2마이크로소프트365코파일럿,구글워크스페이스AI와의공존전략
_19.3n8n·Make같은워크플로자동화도구와LLM결합
_19.4MCP기반도구통합
_19.5사내플랫폼과외부플랫폼의역할분담

PART7AX조직과문화만들기

CHAPTER20AX전담조직설계
_20.1AXCoEvs.분산형조직
_20.2AX조직의핵심역할
_20.3채용과내부육성전략
_20.4외부파트너·벤더관리

CHAPTER21AX리터러시프로그램운영
_21.1전사AI교육커리큘럼설계
_21.2직급별·직무별맞춤교육프로그램
_21.3SmallAX워크숍
_21.4교육효과측정과개선

CHAPTER22AX문화정착
_22.1AI를쓰는게당연한조직문화만들기
_22.2실패를허용하는실험문화
_22.3AI윤리가이드라인수립
_22.4지속적전환을위한피드백루프

AI를도입한회사는많지만,제대로AI를활용하는회사는왜이렇게적을까
국내대기업AX팀도처음엔실패뿐이었다.그실패를넘어선실전기록

이책의시작은회의실에서오간짧은대화였다.사람들을만날때마다'AX를어디서부터시작해야하느냐'는질문을받는데건네줄자료가없더라는것.그래서저자들은몇년간그룹의AX를만들며쌓아둔기록을꺼냈다.단순한성공사례집이아니다.계정은다발급했는데사용률이오르지않던시기,세번을갈아엎은플랫폼,현업의반발앞에서멈춰섰던순간까지그대로적었다.실패를감추지않는것이실패를줄이는가장빠른방법이라는판단에서다.

책은7개의부로이어진다.왜대부분의AX가PoC지옥에서멈추는지진단한뒤,경영진을설득하는로드맵과ROI측정,전사AI플랫폼아키텍처와모델·에이전트운영,1개계열사에서52개계열사로넓혀간확산전략,유통·제조·서비스의산업별사례,그룹웨어·기간계·외부AI연동,그리고조직과교육과문화까지.사내플랫폼이1.0에서3.0까지진화한후4.0을바라보며각단계의한계가다음설계를어떻게결정했는지,35,000명을실사용자로만드는온보딩을어떻게짰는지를설명한다.

저자들이남기려한것은결론이아니라판단과정이다.모델과도구는빠르게낡지만,단계마다무엇을놓고고민했고어떤기준으로결정했는지는오래남는다.같은고민앞에선팀이라면이책을통해시행착오를줄일수있다.

대상독자
AX전략의큰그림을그려야하는경영진과임원
사내AI플랫폼을설계하고운영하는AI엔지니어
사업부에서AI를사용자가치로옮기는PM과전략·기획담당자
도입은했는데아무도쓰지않는상황을풀어야하는변화관리담당자

추천사

노준형(롯데지주대표이사)
기다리지않고,망설이지않고,시도하고또시도하는그추진력이결국AX의속도를만듭니다.이책에는그병목을어떻게넘는지에대한솔직한기록과,과감한도전의정신이담겨있다고생각합니다.AX의살아있는사례를찾는모든분께이책을권합니다.

김대식(KAIST전기및전자공학부교수)
이책은독보적입니다.이론이나본질적담론이아니라직원,임원,ROI,PoC,비용,규제등수많은요소와이해관계가얽힌대한민국기업현실에서의모든AX과정을다룹니다.가장가까운곳의AX사례가궁금한모든분께이책을추천합니다.

장동인(KAIST김재철AI대학원책임교수/AIBBLAB대표)
이책의가장큰장점은저자가AX실무의한복판에직접서있었다는점입니다.컨설턴트의보고서도,학자의이론서도아닙니다.그룹전사AI플랫폼을맨손으로만들고,세번의메이저버전을갈아엎으며챗봇을플랫폼으로진화시키고,계정은발급했는데사용률은10%대에머무는냉정한현실앞에서고민했던사람의기록입니다.

이연수(NCAI대표이사)
이책은전략수립부터플랫폼구축,전사확산,시스템연동,조직문화에이르기까지AX의전주기를다룬완결된가이드입니다.막연한기대감이아닌,철저한데이터기반의정량적효과측정방안을제시한다는점에서차별성을가집니다.