LLM을 위한 프롬프트 엔지니어링 (LLM 구조 이해부터 프롬프트 전략, 대화형 에이전트 설계, 성과 평가까지 | 반양장)

존베리먼

ArcturusLabs의창립자이자수석컨설턴트로,LLM애플리케이션개발을전문으로한다.기업들이첨단AI기술을효과적으로활용할수있도록돕고있으며,깃허브코파일럿의초기엔지니어로참여해자동완성과대화기능개발에기여하며AI기반코딩도구의최전선에서활동했다.그이전에는검색엔지니어로경력을쌓으며미국특허청의차세대검색시스템개발,Eventbrite의검색및추천기능구축,깃허브코드검색인프라개발에참여했다.저서로는《RelevantSearch》가있다.

옮긴이머리말ix
베타리더후기x
시작하며xii
감사의글xv
표지에대하여xvi

PARTI기본원리
CHAPTER1프롬프트엔지니어링소개3
1.1LLM은마법이다4
1.2언어모델:어쩌다우리가여기까지왔지?7
1.3프롬프트엔지니어링14
1.4요약16

CHAPTER2LLM의이해18
2.1LLM은무엇인가?19
2.2LLM이세상을보는방법26
2.3한번에토큰한개33
2.4온도와확률37
2.5트랜스포머아키텍처41
2.6요약47

CHAPTER3대화형으로넘어가기48
3.1인간피드백을통한강화학습50
3.2지시형에서대화형으로56
3.3지금도변하고있는API61
3.4극본작성으로서의프롬프트엔지니어링67
3.5요약69

CHAPTER4LLM애플리케이션설계하기71
4.1루프구조71
4.2순전파확대해보기82
4.3LLM애플리케이션품질평가89
4.4요약91

PARTII핵심기술
CHAPTER5프롬프트내용95
5.1콘텐츠출처97
5.2정적콘텐츠98
5.3동적콘텐츠110
5.4요약134

CHAPTER6프롬프트구성하기135
6.1이상적인프롬프트구조135
6.2어떤종류의문서인가?139
6.3스니펫형식지정하기150
6.4탄력적스니펫153
6.5프롬프트요소간관계155
6.6최종프롬프트구성157
6.7요약161

CHAPTER7모델제어162
7.1모델제어162
7.2텍스트를넘어서:로그확률168
7.3모델선택175
7.4요약182

PARTIII전문가역량
CHAPTER8대화형에이전시187
8.1도구활용188
8.2추론201
8.3작업기반상호작용을위한콘텍스트208
8.4대화형에이전트구축213
8.5요약219

CHAPTER9LLM워크플로221
9.1대화형에이전트로충분할까?223
9.2기본LLM워크플로226
9.3고급LLM워크플로242
9.4요약246

CHAPTER10LLM애플리케이션평가247
10.1LLM애플리케이션평가248
10.2오프라인평가249
10.3온라인평가265
10.4요약269

CHAPTER11미래를전망하며270
11.1다중모달처리271
11.2요약277

찾아보기279

깃허브코파일럿을만든이들이말하는LLM설계의기준
이책은프롬프트를'예쁘게'다듬는요령을모은안내서가아니다.한두줄의문장으로모델을요령껏다루는방법을기대한다면이책은전혀다른이야기를한다.저자들은LLM을단순히'어떻게'쓸것인가보다어떤관점으로이해하고어떤구조안에서다뤄야하는지를먼저묻는다.콘텍스트를수집하고정리하는법부터프롬프트를쌓아올리는구조,그리고가드레일과평가를통해AI의출력을통제하는법까지실무에서마주하는핵심문제들을정면으로다룬다.이논의는자연스럽게에이전트와워크플로설계라는더큰시스템의영역으로확장된다.

그단단한논리의출발점에는깃허브코파일럿개발에참여하고실제제품환경에서운영한저자들의독보적인경험이있다.그래서이책은단순한기법나열에그치지않는다.대신'왜이런설계가필요한가','이방식은언제깨지는가'라는날카로운현장의질문들을중심으로이야기를전개한다.LLM을'텍스트완성엔진'으로재정의하는냉철한시선에서시작해모델이바뀌어도결국남는것은‘마법같은문장’이아니라'설계'라는점을일관되게보여준다.

코파일럿을직접만든경험에서우러나온이책은프롬프트를단순한입력값이아닌설계의언어로다룬다.LLM을일회성실험이아니라안정적인시스템으로구축하고싶은이들에게이책은흔들리지않는분명한기준점이되어줄것이다.

주요내용
●LLM의구조와작동원리이해하기
●애플리케이션을위한프롬프트전략설계하기
●맥락요소를수집및분류,제시해효율적프롬프트만들기
●퓨샷,CoT,RAG등핵심기법익히기
●대화형워크플로를설계하고실무에적용하기
●성과를평가하고활용전략검증하기