테디노트의 랭체인을 활용한 RAG 비법노트: 심화편 (RAG 성능을 극대화하는 리랭커, 에이전트, 평가, 배포까지 완전 정복)

테디노트(이경록)

삼성전자무선사업부에서소프트웨어엔지니어로출발했다.2018년AI교육·개발스타트업브레인크루를창업하며현장개발에뛰어들었고,데이터분석,머신러닝,딥러닝공부를했던것을기반으로생성형AI시대를맞아기술과삶을잇는실전개발을끊임없이하고있다.특히2023년부터는LLM·RAG애플리케이션을제작하며〈랭체인한국어튜토리얼〉을공개해LangChain·LangGraph생태계를국내에확산시켰고,지금은기업과대학을오가며강연과컨설팅을통해더많은학습자와조직이AI를손에쥘수있도록돕고있다.
개발을사랑하고사람들과소통하는것을즐기는천직개발자다.또한지식공유의즐거움을원동력삼아LLM애플리케이션의최전선에서'쉬운기술설명'을전파하는데누구보다진심이다.특히이믿음으로지식공유플랫폼'테디노트'블로그와유튜브채널을운영한다.2025년4월현재유튜브구독자4.2만명,GitHub튜토리얼1,630개와약1,500명의팔로워를기록하며입문자에게친숙한언어로AI개념과최신동향을전하고있다.

대표저서
-일잘러의비밀,챗GPT와GPTs로나만의AI챗봇만들기(2025,한빛미디어)
-파이썬딥러닝텐서플로(2021,정보문화사)

프롤로그
추천사
독자들의찬사
코드리뷰어들의후기
다운로드및문의
이책의구성


PART01고급RAG

CHAPTER01리랭커로검색된문서순위조정하기
01교차인코더리랭커
02Cohere리랭커
03Jina리랭커
04FlashRank리랭커

CHAPTER02RAG파이프라인
01네이버뉴스기사기반QA시스템
02RAPTOR
03무료오픈모델로구현하는문서기반QA시스템

CHAPTER03사전에정의된체인
01Stuff요약
02Map-Reduce요약
03Map-Refine요약
04ChainofDensity(CoD)요약
05Clustering-Map-Refine요약
06SQL쿼리생성기


PART02LCEL고급문법

CHAPTER04LCEL고급문법으로Runnable활용하기
01RunnablePassthrough
02Runnable구조검토하기
03RunnableLambda
04RunnableBranch와RunnableLambda를이용한라우팅
05RunnableParallel
06config로LLM이나프롬프트를동적으로변경하기
07@chain데코레이터로Runnable설정하기


PART03RAG평가와개선

CHAPTER05RAGAS로답변평가하기
01합성테스트데이터셋생성하기
02RAGAS로평가하기
03테스트데이터셋번역및업로드관리하기

CHAPTER06LangSmithAPI를활용한프롬프트최적화
01평가용테스트데이터셋구축하기
02LLM-as-a-judge로평가하기
03사용자정의평가자만들기
04휴리스틱방식으로평가하기
05실험별비교분석하기
06요약평가자로전체수준평가하기
07Groundedness평가자로할루시네이션확인하기
08Pairwise평가로실험비교분석하기
09반복평가하기
10온라인LLM평가자를활용한평가자동화하기
11RAGAS를활용해RAG평가하기


PART04에이전트

CHAPTER07도구와툴킷
01LangChain에서제공하는도구
02사용자정의도구만들기

CHAPTER08에이전트주요기능
01LLM에도구바인딩하기
02에이전트와AgentExecutor생성하기
03에이전트의중간단계스트리밍출력하기
04이전대화내용을기억하는에이전트만들기
05다양한LLM을활용해에이전트생성하기
06iter()함수로단계별출력하고확인하기

CHAPTER09에이전트활용
01AgenticRAG
02CSV,엑셀데이터분석에이전트
03파일관리업무자동화에이전트
04보고서작성업무자동화에이전트
05CSV파일기반데이터분석에이전트

PART05서비스배포

CHAPTER10Streamlit을이용한서비스배포실습
01배포를위한config설정하기
02배포를위한GitHub와기타설정파일준비하기
03배포및동작테스트하기
04서비스수정및변경사항확인하기

CHAPTER11LangServe
01LangServe로모델을서빙하기
02NGROK을활용해서모델을외부에공개하기

에필로그
찾아보기

★더욱정교하게:고급RAG로필요한정보를추출한다
기본RAG의리트리버는단순히벡터유사도에만근거해실제로중요한문서를뽑아내는데한계가있다.이때리트리버검색문서의순위를재조정하는리랭커(CrossEncoder,Cohere,Jina,FlashRank등)를도입하면더욱정확하고관련성높은정보를추출할수있다.문서를계층구조로요약하는RAPTOR를이용해구체적인질문부터추상적인질문까지효과적으로답변하는방법도있으며,Stuff,Map-Reduce,Map-Refine,CoD(ChainofDensity),Clustering-Map-Refine등여러기법을이용해밀도높은요약을얻는과정을실험해볼수있다.

★더욱유연하게:LCEL고급문법을이용해복잡한체인을구성한다
LCEL기반체인을구성하는여러Runnable클래스(RunnableLambda,RunnableParallel,RunnableBranch,RunnablePassthrough등)를활용해병렬처리,조건분기,라우팅,동적프롬프트구성등을구현한다.사용자입력에따라프롬프트와모델을선택적으로바꾸거나체인흐름을분기처리하는고급설계까지직접실습할수있다.

★더욱정확하게:RAG시스템의응답품질을평가하고개선한다
RAGAS를통해LLM응답의관련성,신뢰도,문맥과의정합성등을수치화하여평가하는방법을다루고,LangSmithAPI로평가데이터셋생성,LLM-as-a-judge기반평가,사용자정의평가자구현,휴리스틱기반평가,온라인평가자동화,응답비교평가등실제품질실험을위한다양한평가방식을체계적으로안내한다.실습은코드기반으로진행되며실험결과를비교분석하는방식까지포함되어있다.

★더욱편리하게:LangChain으로에이전트를구성하고외부도구를연동한다
LLM이외부도구를직접호출해복잡한작업을수행하는에이전트구조를다룬다.파이썬REPL,Tavily검색도구,DALL·E등다양한도구를바인딩하고,메모리기능과중간응답스트리밍까지포함한실습을통해실제업무수준의자동화작업을구현해본다.AgentExecutor,AgenticRAG,파일분석,보고서작성자동화등실전예제를통해단순한QA를넘어선확장형LLM시스템설계를학습할수있다.

★더욱완전하게:실제사용자에게제공할수있는서비스를배포한다
Streamlit을이용해사용자입력과체인실행결과를연결하는웹UI를구성하고,설정파일과GitHub연동을통해배포이후의코드수정과테스트까지실습한다.LangServe를활용해체인이나에이전트를API로서빙하고,NGROK을통해외부에서접근가능한환경을구성한다.


▶추천사
“LangChain의알파이자오메가입니다.이시리즈로배웠다면더배울것이없다고할정도로상세히많은내용을다루고있습니다.취업을준비하든,기업에서AI구현을시작하든,AI의실체를알고싶은모든분들에게이책을권합니다.”
_장동인_KAIST김재철AI대학원책임교수및AIBBLAB대표

“이책은‘생존키트’입니다.특히LangChain을기반으로한RAG전략과현장중심의팁들은빠르게변화하는개념을단시간에체득할수있을뿐아니라바로현업에서실질적인성과를얻을수있습니다.저자의시간과노하우를오롯이담아낸이노트를너무쉽게얻게되어미안한마음까지듭니다.”
_강수진_더프롬프트컴퍼니대표


▶코드리뷰어들의후기
“실습중심으로개념학습은물론,실제프로젝트에곧바로적용할수있는실전형가이드입니다.특히LangSmith와같은최신도구까지반영되어있어그가치는더큽니다.”
_전창원_LGCNS

“전공자가아닌제가감히리뷰를해도될지고민했지만,저와비슷하게다른분야의업무를하면서AI분야필요성을느껴배움을시작하는독자들에게조금이라도도움이되고자하는마음으로진행했습니다.실습중심의구성과친절한설명덕분에누구든부담없이시작할수있을것입니다.”
_김무상_삼성전자

“『테디노트의랭체인을활용한RAG비법노트』는LLM을뛰어놀게하는아름다운코드입니다.리뷰를거듭할수록저자의피와땀이얼마나이코드에스며들었는지느낄수있었습니다.”
_김정욱_브레인크루


▶이책에쏟아진찬사
“시작이어려웠던모두에게최고의선택이될것입니다.”
_김재호_수원대학교대학원컴퓨터학과

“독보적한국형예시로이해가쏙쏙되었고빠르게성장할수있었습니다.”
_박정기_JCHSYSTEMS/AI선임연구원/n8nKorea앰버서더

“복잡한설명없이stepbystep따라하기로!정말매력적입니다.사실입니다.”
_신정호_입소스코리아/데이터사이언스

“책이아니라나침반을사는겁니다.”
_오주영_프리랜서

“LangChain입문에있어서바이블같은책”
_정광원_주식회사스튜디오엠개발팀팀장

“더이상랭체인이무엇인지,어떻게개발해야하는지찾지않게되었습니다.”
_조영준_에스티이지

“코드를따라가다보니어느새랭체인마스터가되었습니다.”
_허수영_윈드케어


▶이책이필요한독자
RAG시스템의기본은알고있지만,실무수준의고도화가필요한개발자서비스수준의RAG를구축하려는개발자검색품질향상과성능최적화에관심있는개발자사내문서검색,FAQ시스템,지식관리시스템을구축하려는기업담당자대용량문서처리와정확도향상이중요한업무를담당하는사람AI도입후품질관리와평가체계구축이필요한담당자업무자동화를위한에이전트시스템구축이필요한사람

▶이책에서다루는내용
_PART01고급RAG
문서검색후리랭커로순위를재정렬해RAG의답변품질을높이고,네이버뉴스기반QA시스템과오픈소스LLM을활용한구현방법을설명한다.밀도높은요약을위해다섯가지방식도소개한다.

_PART02LCEL고급문법
LangChain에서모델과데이터를효율적으로연결하고실행하기위한표현언어인LCEL의다양한Runnable클래스를활용해병렬처리,데이터변환,라우팅등을수행한다.

_PART03RAG평가와개선
RAGAS를활용해정답없이도응답의품질을평가하고,LangSmith에서데이터셋생성부터LLM기반자동평가,휴리스틱평가,온라인평가까지여러방식으로RAG시스템을실험하고개선하는과정을다룬다.

_PART04에이전트
LangChain에이전트를통해LLM이검색,계산,이미지생성등외부도구를활용해복잡한작업을수행하는방법을다룬다.도구바인딩,메모리,스트리밍출력기능을실습하고,AgenticRAG부터업무자동화까지다양한활용사례를소개한다.

_PART05서비스배포
LangChain에이전트를실제서비스로확장하는방법을다룬다.LangServe를활용해에이전트를배포하고,Streamlit으로사용자입력과실행과정을보여주는웹UI를구축한다.