올라마와 오픈소스 LLM을 활용한 AI 에이전트 개발 입문 (로컬 LLM을 활용한 보안과 비용 걱정 없는 지능형 AI 에이전트 구축)

서영배,김병규,임재봉

저자:서영배
하고자하면못할것이없다는개발자.모바일부터프런트엔드/백엔드를거쳐현재는임베디드프로젝트에참여중이다.되면한다!

저자:김병규
‘Mobile’분야에서임베디드개발자로시작했다.‘Mobility’를위해SDV와자율주행을만들었다.이제세번째‘M’을찾아,‘Medical’AI와로보틱스로향하는여정을시작했다.

저자:임재봉
AI개발자와임베디드개발자사이의어딘가에위치한개발자.로봇,자동차,공장,농장,병원등다양한필드를누비며임베디드AI를개발하고있다.

▣01장:대규모언어모델과AI에이전트
1.1일상에다가온AI에이전트
__1.1.1AI에이전트를시작하는방법
__1.1.2오픈소스로일상에더다가온LLM
1.2내컴퓨터에서작동하는AI에이전트
__1.2.1오픈소스LLM의장점
__1.2.2오픈소스LLM생태계:라마와올라마
__1.2.3한국어LLM의가능성과Qwen모델
1.3LLM과AI에이전트의이해
__1.3.1LLM이란?
__1.3.2LLM의발전과정
__1.3.3LLM의구조와작동원리
__1.3.4최신LLM구조
__1.3.5LLM의훈련과활용

▣02장:LLM과올라마
2.1올라마시작하기
__2.1.1올라마설치
__2.1.2올라마실행
__2.1.3모델관리
__2.1.4올라마로다양한오픈소스LLM사용해보기
__2.1.5올라마로다양한크기의LLM사용해보기
__2.1.6올라마로양자화LLM사용해보기
2.2AI에이전트개발환경설정
__2.2.1AI프로그래밍에적합한언어,파이썬
__2.2.2uv패키지관리자설치와사용법
2.3올라마API와SDK연동
__2.3.1상용LLMAPI와같은RESTAPI방식
__2.3.2올라마파이썬SDK사용
2.4올라마GUI와웹UI
__2.4.1올라마에연결할수있는GUI도구
__2.4.2OpenWebUI설치및사용법
__2.4.3올라마GUI

▣03장:랭체인:AI프로그래밍의시작
3.1랭체인의개념과특징
__3.1.1랭체인이란?
__3.1.2랭체인의구성요소
3.2올라마를이용한채팅예제
__3.2.1올라마채팅예제분석
__3.2.2LLM모델변경방법
3.3상용LLM을사용하는방법
__3.3.1상용LLM채팅예제소개
__3.3.2OpenAI채팅예제분석
__3.3.3상용모델의장단점과주의사항
3.4스트리밍출력예제
__3.4.1스트리밍출력예제소개
__3.4.2스트리밍출력예제분석
__3.4.3출력방식과출력형식
3.5출력형식변경예제
__3.5.1JSON출력으로바꾸는예제
__3.5.2소스코드분석
__3.5.3다양한출력형식
3.6LCEL을이용한기본예제
__3.6.1LCEL예제소개
__3.6.2LCEL예제분석
__3.6.3LCEL의장점

▣04장:프롬프트엔지니어링
4.1프롬프트엔지니어링이란?
__4.1.1프롬프트와프롬프트엔지니어링
__4.1.2프롬프트엔지니어링이필요한이유
4.2랭체인에서프롬프트를제어하는방법
__4.2.1프롬프트템플릿예제소개
__4.2.2프롬프트템플릿예제분석
__4.2.3프롬프트와변수
4.3대화내용을기억하는연속채팅
__4.3.1연속채팅예제소개
__4.3.2연속채팅예제분석
__4.3.3대화기록기능의활용
4.4프롬프트클래스와출력스트림처리
__4.4.1프롬프트클래스와출력스트림처리예제소개
__4.4.2프롬프트클래스와출력스트림처리예제분석
__4.4.3프롬프트와출력스트림의활용

▣05장:검색증강생성(RAG)
5.1RAG의개념과특징
__5.1.1RAG란?
__5.1.2RAG의구성요소
5.2올라마를이용한임베딩
__5.2.1임베딩이란?
__5.2.2올라마임베딩예제
__5.2.3올라마임베딩예제분석
5.3벡터저장소와검색
__5.3.1랭체인벡터저장소예제
__5.3.2올라마임베딩예제분석
5.4랭체인을이용한RAG구현
__5.4.1랭체인RAG예제
__5.4.2랭체인RAG예제분석
5.5PDF를활용한RAG
__5.5.1랭체인PDFRAG예제
__5.5.2PDFRAG예제분석
__5.5.3RAG예제의활용

▣06장:랭스미스:AI애플리케이션모니터링
6.1랭스미스:LLM테스트,평가및모니터링도구
6.2랭스미스작동모니터링
__6.2.1프로젝트생성과API키발급
__6.2.2테스트용예제코드소개
__6.2.3작동모니터링
6.3랭체인허브시작하기
__6.3.1랭체인허브를이용한뉴스요약예제
__6.3.2랭체인허브를이용한뉴스요약예제분석
__6.3.3랭체인허브사용의효과
6.4랭스미스클라이언트를통해랭체인허브사용하기
__6.4.1랭스미스클라이언트예제분석

▣07장:에이전트:지능적인LLM사용법
7.1에이전트가필요한이유
__7.1.1LLM의한계와도구
__7.1.2에이전트의등장
__7.1.3에이전트의작동구조
__7.1.4에이전트의시작:ReAct
7.2검색엔진을이용한챗봇에이전트
__7.2.1검색엔진챗봇에이전트예제소개
__7.2.2검색엔진을이용한챗봇에이전트분석
__7.2.3에이전트작동모니터링
7.3다양한도구를활용하는에이전트구현
__7.3.1멀티도구에이전트예제소개
__7.3.2여러개의도구를사용하는에이전트예제분석
__7.3.3에이전트작동모니터링

▣08장:랭그래프와멀티에이전트시스템
8.1랭그래프와멀티에이전트시스템소개
__8.1.1랭그래프란?
__8.1.2랭그래프의구성요소
8.2랭그래프챗봇예제
__8.2.1프로젝트생성과테스트
__8.2.2랭그래프챗봇예제분석
__8.2.3랭그래프챗봇실행모니터링
8.3랭그래프에이전트구현예제
__8.3.1프로젝트생성과테스트
__8.3.2랭그래프도구추가예제분석
__8.3.3작동모니터링
8.4랭그래프기능확장예제
__8.4.1사용자입력과일시중지기능테스트
__8.4.2작동모니터링
8.5멀티에이전트예제
__8.5.1멀티에이전트예제테스트
__8.5.2멀티에이전트예제분석
__8.5.3작동모니터링

▣09장:MCP활용법
9.1MCP소개
__9.1.1MCP란?
__9.1.2MCP의작동구조
__9.1.3MCP저장소,Smithery.ai
9.2클로드데스크톱과MCP테스트
__9.2.1클로드와클로드데스크톱
__9.2.2클로드데스크톱설치및실행
__9.2.3클로드데스크톱에도구연결하기
__9.2.4클로드데스크톱에연결된도구활용하기
9.3MCP에이전트구현예제
__9.3.1프로젝트생성과테스트
__9.3.2MCP에이전트예제의파일구조와MCP코드
__9.3.3MCP에이전트예제메인파일
__9.3.4MCP에이전트작동모니터링

▣10장:[예제프로젝트]AI뉴스블로그작성자동화하기
10.1노션블로그생성및노션MCP연결
__10.1.1노션블로그만들기
__10.1.2노션MCP연결하기
__10.1.3노션MCP테스트하기
10.2긱뉴스MCP연결및AI뉴스블로그자동화하기
__10.2.1긱뉴스MCP연결하기

▣11장:[프로젝트]멀티모달AI로구현하는자동회의록애플리케이션
11.1멀티모달LLM과음성인식AI모델
__11.1.1멀티모달LLM
__11.1.2위스퍼음성인식모델
__11.1.3회의록워크플로설계
11.2회의록구현예제
__11.2.1위스퍼와LLM을이용한AI회의록예제소개
__11.2.2메인로직(main.py)
__11.2.3전체파이프라인구현(pipeline.py)
__11.2.4음성파일전사(transcriber.py)
__11.2.5로컬LLM을통한요약(summarizer.py)
__11.2.6요약파일저장(file_handler.py)

-