FREE SHIPING FOR OVER $100 - MOSTLY SHIP VIA USPS GROUND ADVANTAGE %D days %H:%M:%S
김태헌
저자:김태헌 금융과AI의접점에서실무와교육,저술활동을이어가고있다.현재글로벌이커머스기업의핀테크조직에서수석데이터과학자겸머신러닝알고리즘엔지니어로근무하며,아주대학교인공지능대학원겸임교수이자캐글Kaggle그랜드마스터로활동하고있다.『금융AI의이해』(제이펍,2024),『AI소사이어티』(미래의창,2022,세종도서교양부문선정)를집필했으며,미국의IT전문출판사Manning에서영문저서『FinancialAIinPractice』(2026)를출간했다.
PART01AI시스템에서처음으로착각하게되는것들CHAPTER1모델은똑똑한데,시스템은왜바보가될까?_1.1전통적인소프트웨어와AI시스템의결정적차이_1.2결정론적시스템vs.확률론적시스템_1.3AI엔지니어링의본질은통제다_1.4핵심정리CHAPTER2AI시스템장애의대부분은모델밖에서시작된다_2.1실제현장에서가장자주터지는장애유형_2.2왜성능지표는정상인데서비스는망가질까?_2.3침묵하는장애가가장위험한이유_2.4'모델은무죄다'라는관점_2.5핵심정리PART02데이터파이프라인:망가지는건항상여기서시작된다CHAPTER3데이터파이프라인은단순한ETL이아니다_3.1데이터파이프라인=의사결정생성기_3.2행동을위한스트리밍,진실을위한배치_3.3파이프라인설계가모델의사고구조를고정시키는방식_3.4'나중에고치자'가통하지않는이유_3.5핵심정리CHAPTER4데이터는생각보다훨씬쉽게망가진다_4.1정형데이터의부패:스키마드리프트vs.시맨틱드리프트_4.2비정형데이터의부패:컨텍스트포이즈닝_4.3데이터관측가능성:코드가아니라데이터를테스트하라_4.4핵심정리CHAPTER5잘못된피드백루프는AI시스템을천천히죽인다_5.1피드백루프의구조해부_5.2자기강화적편향_5.3피드백루프를끊는방법_5.4피드백은위험이자자산이다:암묵적신호와데이터플라이휠_5.5핵심정리PART03LLM의작동원리를모르면,시스템설계도모른다CHAPTER6생성형AI는API가아니라확률엔진이다_6.1토큰,확률,샘플링:LLM이텍스트를만드는방법_6.2컨텍스트윈도우:LLM의유한한작업기억_6.3생성형AI기반시스템의고유한위험들_6.4핵심정리CHAPTER7예측불가능한모델위에안정적인시스템을만드는법_7.1레이어1:모델파라미터통제:확률의폭을줄이기_7.2레이어2:구조화된출력강제:'형식만큼은결정론적으로'_7.3레이어3:생성-검증-수정루프:자기교정아키텍처_7.4레이어4:결정론적로직분리:LLM에게맡기지말아야할것_7.5레이어5:검증인프라:모델의출력을다층적으로검증_7.6안전망의비용:신뢰성과지연시간의트레이드오프_7.7핵심정리PART04모델을둘러싼시스템을설계하라CHAPTER8모델에게올바른맥락을제공하는기술_8.1청킹:가장먼저다듬어야할곳_8.2검색결과는좋은데응답이이상한이유_8.3단일검색으로는답할수없는질문들_8.4벡터검색너머의맥락설계_8.5텍스트를넘어서:멀티모달시스템의맥락설계_8.6맥락이시간에따라썩는문제_8.7맥락의품질을측정하는법_8.8핵심정리CHAPTER9모델이외부세계와상호작용하는구조_9.1도구스키마가모호하면잘못된행동이실행된다_9.2읽기도구와쓰기도구는위험도가완전히다르다_9.3최소권한원칙:도구에도적용된다_9.4AI시대에도멱등성은변하지않는다_9.5도구실패가추론을붕괴시키는방식_9.6프레임워크보다원칙이먼저다_9.7핵심정리CHAPTER10자율적으로판단하고행동하는시스템을설계하는법_10.1에이전트를만들지않는기술:워크플로다섯패턴_10.2계획이잘못되면나머지전부가잘못된다_10.3멀티스텝에서불확실성은곱해진다_10.4아무도트윗하지않는이야기:비용과안전의현실_10.5체크포인팅과롤백:처음부터다시하지않는설계_10.6싱글에이전트와멀티에이전트:언제무엇을선택하는가?_10.7자율성의경계를설계하라_10.8능력의분리:에이전트에게권한을주기전에_10.9읽기도구가공격통로가될때_10.10핵심정리PART05시스템을배포하고운영하라CHAPTER11AI시스템은배포되는순간부터비용이된다_11.1추론의두단계:프리필과디코드_11.2지연시간,비용,품질:세가지는동시에만족되지않는다_11.3프롬프트캐싱:프리필을건너뛰는설계_11.4출력을줄이는것이가장효과적인비용레버다_11.5모델라우팅과캐스케이딩:요청마다적절한모델을고르는법_11.6배치처리:실시간이아니어도되는작업을분리하라_11.7시맨틱캐싱:모델호출자체를건너뛰는설계_11.8에이전트비용을구조적으로관리하는법_11.9온프레미스와셀프호스팅:다른세계의최적화_11.10비용최적화의올바른순서_11.11핵심정리CHAPTER12감이아니라측정으로:평가주도개발_12.1에러분석:모든평가의출발점_12.2평가의3레벨_12.3골든데이터셋:작게시작해살아있게유지한다_12.4LLM심판을신뢰하게만드는절차_12.5기준은진화한다:기준표류_12.6평가·가드레일·관측가능성의관계_12.7핵심정리CHAPTER13관측되지않는AI시스템은이미실패했다_13.1AI관측가능성의기본단위:세션,트레이스,스팬_13.2무엇을기록하고무엇을측정해야하는가?_13.3품질이조용히떨어지는것을잡는법_13.4장애를체계적으로분류하는프레임워크_13.5알림설계:'모든것에알림'은'어떤것에도알림이없는'것과같다_13.6관측가능성은처음부터설계해야한다_13.7핵심정리CHAPTER14AI엔지니어는무엇을다르게판단해야하는가?_14.1좋은AI엔지니어는문제를어디서부터의심하는가?_14.2차이를만드는세가지렌즈_14.3좋은AI엔지니어는해결책의순서를의식적으로고른다_14.4자동화의경계선은검증가능성이다_14.5도구보다오래가는원칙APPENDIXA현업AI엔지니어인터뷰_Interview1숫자의이유를찾다:AI에이전트기반실험지표진단팟을리드하며_Interview2AI는완성되지않는다,도메인을만나기전까지는_Interview3안되는이유를끝까지추적하는일_Interview4“나중에만들자”가쌓이면시스템이무너진다APPENDIXB추가자료_Reference참고문헌과더읽을거리
주니어AI엔지니어에게필요한건LLM사용법이아니라,AI시스템설계의감각이다AI에이전트와RAG를붙이는일은이제누구나몇시간이면해낸다.하지만그렇게만든데모가프로덕션에서도안정적으로동작하는지는전혀다른문제다.이책은'LLMAPI를어떻게잘부를것인가'가아니라'확률적으로답하는모델위에서어떻게결정론적으로안전한시스템을만들것인가'를묻는다.1부와2부에서는AI시스템의장애가왜모델이아니라데이터파이프라인,피드백루프처럼모델바깥에서시작되는지를파헤친다.시맨틱드리프트와컨텍스트포이즈닝처럼겉으로는'정상'으로보이는실패유형을짚고,자기강화적편향이시스템을어떻게서서히망가뜨리는지보여준다.3부와4부에서는생성형AI가확률엔진이라는본질을받아들인뒤,모델파라미터통제,구조화된출력강제,생성-검증-수정루프,결정론적로직분리,검증인프라라는다섯겹의방어아키텍처를제시한다.RAG의맥락설계,도구호출의스키마와멱등성,에이전트의자율성경계설계까지실무에서바로맞닥뜨리는문제들을순서대로다룬다.5부는배포이후의이야기다.지연시간·비용·품질은동시에최적화되지않는다는트레이드오프를인정한뒤,프롬프트캐싱과모델라우팅으로비용을관리하고,감이아니라측정으로개선하는평가주도개발방법론과세션-트레이스-스팬기반의관측가능성설계까지이어진다.마지막장에서는이모든원칙을관통하는질문하나로되돌아온다.'좋은AI엔지니어는무엇을다르게판단하는가?'그질문에이책이답하는것은두가지다.장애가났을때모델·데이터·검색·도구중어디부터의심할지아는진단감각,그리고확률적인출력위에결정론적인안전장치를쌓는설계감각.이두감각을실무사례를통해함께기를수있다.그차이가데모만잘만드는사람과,무너지지않는시스템을만드는사람을가른다.대상독자프로덕션에서반복되는장애앞에서막막한주니어AI엔지니어데모수준을넘어안정적으로운영되는AI시스템을만들고싶은1~3년차엔지니어RAG,에이전트,도구호출을실제서비스에안전하게적용할기준이필요한실무자현업AI엔지니어들이실제로어떻게판단하고일하는지궁금한신입·주니어개발자
