쉽고 빠르게 익히는 실전 LLM : ChatGPT 활용부터 LLM 파인튜닝, 임베딩, 고급 프롬프트 엔지니어링까지

시난오즈데미르

저자:시난오즈데미르(SinanOzdemir)

현재ShibaTechnologies의창립자이자CTO입니다.존스홉킨스대학교의데이터과학강사였으며데이터과학및머신러닝에관한여러교과서를집필했습니다.또한RPA기능을갖춘엔터프라이즈급대화형AI플랫폼인Kylie.ai의창립자이기도합니다.



역자:신병훈

서울대학교수학과를졸업하고,나눔기술과Microsoft에서개발자,컨설턴트,프로덕트매니저로일했습니다.현재도쿄에있는스타트업,BoostDraft에서프로덕트매니저로일하고있습니다.

Part1LLM소개
Chapter1LLM
_1.1LLM이란?
__1.1.1LLM정의
__1.1.2LLM주요특징
__1.1.3LLM작동원리
_1.2현재많이사용되는LLM
__1.2.1BERT
__1.2.2GPT-4와ChatGPT
__1.2.3T5
_1.3도메인특화LLM
_1.4LLM을이용한애플리케이션
__1.4.1전통적인자연어처리(NLP)작업
__1.4.2자유로운텍스트생성
__1.4.3정보검색/신경망의미기반검색
__1.4.4챗봇
_1.5마치며

Chapter2LLM을이용한의미기반검색
_2.1들어가는글
_2.2작업
__2.2.1비대칭적의미기반검색
_2.3솔루션개요
_2.4구성요소
__2.4.1텍스트임베더
__2.4.2문서청킹
__2.4.3벡터데이터베이스
__2.4.4파인콘
__2.4.5오픈소스대안
__2.4.6검색결과재순위화
__2.4.7API
_2.5통합
__2.5.1성능
_2.6클로즈드소스구성요소의비용
_2.7마치며

Chapter3프롬프트엔지니어링의첫번째단계
_3.1들어가는글
_3.2프롬프트엔지니어링
__3.2.1언어모델에서정렬
__3.2.2직접요청하기
__3.2.3퓨샷학습
__3.2.4출력구조화
__3.2.5페르소나지정하기
_3.3여러모델과프롬프트작업하기
__3.3.1ChatGPT
__3.3.2Cohere
__3.3.3오픈소스프롬프트엔지니어링
_3.4ChatGPT와Q/A챗봇만들기
_3.5마치며

Part2LLM활용법
Chapter4맞춤형파인튜닝으로LLM을최적화하기
_4.1들어가는글
_4.2파인튜닝과전이학습:기초안내서
__4.2.1파인튜닝과정
__4.2.2파운데이션모델로사전훈련된클로즈드소스모델사용하기
_4.3OpenAI파인튜닝API살펴보기
__4.3.1GPT-3파인튜닝API
__4.3.2사례연구:Amazon리뷰감정분류
__4.3.3데이터에대한지침및모범사례
_4.4OpenAICLI로맞춤형예제준비하기
_4.5OpenAICLI설정하기
__4.5.1하이퍼파라미터선택과최적화
_4.6첫번째파인튜닝LLM
__4.6.1정량적지표로파인튜닝모델평가하기
__4.6.2정성적평가기술
__4.6.3파인튜닝된GPT-3모델을애플리케이션에통합하기
_4.7사례연구2:Amazon리뷰카테고리분류
_4.8마치며

Chapter5고급프롬프트엔지니어링
_5.1들어가는글
_5.2프롬프트인젝션공격
_5.3입력/출력유효성검사
__5.3.1예제:NLI이용해서유효성검사파이프라인만들기
_5.4배치프롬프팅
_5.5프롬프트체이닝
__5.5.1프롬프트인젝션을방어하기위한체이닝
__5.5.2프롬프트스터핑을막기위한체이닝
__5.5.3예제:멀티모달LLM을안전하게사용하기위한체이닝
_5.6연쇄적사고프롬프트
__5.6.1예시:기초연산
_5.7퓨샷학습다시보기
__5.7.1예제:LLM을이용한초등학교수학
_5.8테스트와반복적프롬프트개발
_5.9마치며

Chapter6임베딩과모델아키텍처맞춤화
_6.1들어가는글
_6.2사례연구:추천시스템만들기
__6.2.1문제와데이터설정하기
__6.2.2추천의문제정의하기
__6.2.3추천시스템의전체개요
__6.2.4항목비교를위한맞춤형설명필드생성
__6.2.5파운데이션임베더로기준선설정
__6.2.6파인튜닝데이터준비
__6.2.7문장트랜스포머라이브러리로오픈소스임베더파인튜닝하기
__6.2.8결과요약
_6.3마치며

Part3고급LLM사용법
Chapter7파운데이션모델을넘어서
_7.1들어가는글
_7.2사례연구:VQA
__7.2.1모델소개:ViT,GPT-2및DistillBERT
__7.2.2은닉상태투영과융합
__7.2.3크로스-어텐션:이것은무엇이며왜중요한가요?
__7.2.4맞춤형멀티모달모델
__7.2.5데이터:VisualQA
__7.2.6VQA훈련과정
__7.2.7결과요약
_7.3사례연구:피드백기반강화학습
__7.3.1모델:FLAN-T5
__7.3.2보상모델:감정과문법정확도
__7.3.3트랜스포머강화학습
__7.3.4RLF훈련과정
__7.3.5결과요약
_7.3마치며

Chapter8고급오픈소스LLM파인튜닝
_8.1들어가는글
_8.2예시:BERT를이용한애니메이션장르다중레이블분류
__8.2.1다중레이블장르예측을위한성능측정지표로자카드점수사용하기
__8.2.2단순파인튜닝과정
__8.2.3오픈소스LLM파인튜닝을위한일반적인팁
__8.2.4결과요약
_8.3예시:GPT-2를이용한LaTeX생성
__8.3.1오픈소스모델을위한프롬프트엔지니어링
__8.3.2결과요약
_8.4시난의현명하면서도매력적인답변생성기:SAWYER
__1단계:지시사항파인튜닝
__2단계:보상모델훈련
__3단계:(예상하는)사용자피드백기반강화학습
__결과요약
_8.5끊임없이변화하는파인튜닝의세계
_8.6마치며

Chapter9LLM을프로덕션환경에서사용하기
_9.1들어가는글
_9.2클로즈드소스LLM을프로덕션환경에배포하기
__9.2.1비용예측
__9.2.2API키관리
_9.3프로덕션환경에오픈소스LLM배포하기
__9.3.1추론을위한모델준비
__9.3.2상호운용성
__9.3.3양자화
__9.3.4가지치기
__9.3.5지식증류
__9.3.6LLM사용에대한비용예측
__9.3.7HuggingFace에올리기
_9.4마치며

Part4부록
APPENDIXALLM자주묻는질문(FAQ)
APPENDIXBLLM용어해설
APPENDIXCLLM애플리케이션개발고려사항

LLM이생소한입문자이든,숙련된개발자이든,모두가만족할맞춤형LLM가이드

ChatGPT와같은최신LLM은놀랍고도편리한기술을제공해주지만,거대한크기와많은복잡성때문에여전히실무자가실제로자신의업무에적용하기어려워합니다.이책은이러한어려움을해결하기위해LLM의복잡성을최소화하고,프롬프트엔지니어링기법부터강화학습까지여러분야의쉽지않은내용들을적당한깊이와난이도로설명합니다.LLM서비스를구현하는개발자이든,새롭게공부하는학생이든,심지어서비스를기획하는프로덕트매니저까지도자신의수준에맞는LLM개념과활용법을알차게배울수있습니다.이책을통해LLM의전반적인지식을빠르고쉽게익혀자신의업무에LLM을적용해보시길바랍니다.

주요내용

사전훈련,파인튜닝,어텐션,토큰화등LLM의주요개념
API와파이썬을활용한LLM파인튜닝및맞춤화
의미기반검색시스템을구축하여LLM검색기능최적화
퓨샷프롬프트와같은고급프롬프트엔지니어링
LLM임베딩,멀티모달트랜스포머구축,RLHF/RLAIF를활용한LLM정렬