MLOps 실전 가이드 : DevOps와 MLOps의 이론과 실습부터 클라우드 컴퓨팅, AutoML, 엣지 컴퓨팅까지

노아기프트,알프레도데자

저자:노아기프트(NoahGift)
UC데이비스경영대학원MSBA프로그램의강사겸컨설턴트인노아기프트는CTO,총괄관리자,컨설팅CTO,클라우드설계자등비즈니스역할을담당해왔다.프래그매틱에이아이랩스(PragmaticAILabs)의설립자로서,머신러닝과클라우드아키텍처에대해스타트업,기타회사들과협업한다.파이썬소프트웨어재단펠로우(PythonSoftwareFoundationFellow)로,머신러닝분야에관한AWSSME(SubjectMatterExpert)이며,클라우드머신러닝과데브옵스(DevOps)에관한책을출간했다.

저자:알프레도데자(AlfredoDeza)
열정적인소프트웨어엔지니어이자열렬한오픈소스개발자이며,빔(Vim)플러그인작성자겸사진작가,전올림픽선수다.오픈소스소프트웨어,자기개발,프로스포츠에대해전세계에서여러강의를했다.효율적이고탄력적인환경을추구하며회사인프라재구축,공유스토리지설계,복잡한빌드시스템교체를수행했다.테스트및문서화에대한강한신념으로강력한개발관행을어디에서든지속적으로추진하고있다.지식을갈망하는개발자이며,자신의지역에서파이썬,파일시스템및스토리지,시스템관리,프로스포츠에대한프레젠테이션을한다.

역자:이장후
대학교에서컴퓨터공학을공부하다가갑자기휴학후창업에도전해칵테일바를열어보기도하고,자율주행킥보드를만드는일에1년6개월간뛰어들었다가최근에는AIMSP를다루는회사에서데이터사이언티스트로일하기도했다.이소개를쓰는순간에는학생신분으로프랑스에서경험을쌓고있다.살아가며배우고느낀것들을광적으로쓰고기록하며롤모델의이름을딴개인블로그다빈치작업실(davincijang.space)에포스팅하고있다.

역자:이일섭
데이터분석전공으로석사과정을졸업하고현재신한카드AI솔루션팀에서근무하고있다.데이터커뮤니티데이터야놀자에서활동하고있으며,『데이터품질의비밀』(디코딩,2023)을번역하였다.

역자:서기원
GS리테일에서머신러닝엔지니어및데이터플랫폼엔지니어로근무하고있다.2022년하반기에는GS리테일우수사원상을수상하였다.클라우드기반MLOps파이프라인설계및구현에전문성을갖추고있으며,효율적이고현대적인아키텍처를구축하는데관심이있다.최근에는데이터분석플랫폼의고도화와기술지원을담당하며아키텍처고도화,IaC,데이터저장정책및메커니즘,비용최적화,모니터링,분석환경정책등다양한영역의업무를수행하고있다.2018년IITP의지원을받아퍼듀대학교에서빅데이터와관련된연구와프로젝트를수행하면서데이터에대한관심을키웠다.

감수:맹윤호
이화여대신산업융합대학겸임교수로데이터분석및AI강의를하고있으며,카논그룹의CTO로재직중이다.이전에는IBM의Data&AI팀에서엔지니어로근무했으며,이후카카오벤처스패밀리사인1zLabs를공동창업한후,지분을매각한바있다.연세대학교에서데이터분석전공으로석사과정을졸업하고박사과정을수료했다.SKC&C,KISTI,NRF,DBpia등에서프로젝트를진행하였으며ApacheZeppelin,Qiskit,KoGPT-2등오픈소스프로젝트에기여했다.삼성,현대,LG,딜로이트등기업을대상으로강연하고연세대학교,이화여대,중앙대학교,동덕여대,상명대학교,순천대학교등에서도강연했다.참여도서로는『머신러닝디자인패턴』(한빛미디어,2021),『Doit강화학습입문』(이지스퍼블리싱,2021),『코딩진로』(호모루덴스,2021),『초소형머신러닝TINYML』(한빛미디어,2020),『쉽게배우는AWSAI서비스』(한빛미디어,2022),『하이퍼레저블록체인개발』(한빛미디어,2019),『블록체인의정석』(지앤선,2019)등이있다.깃허브에서@YUNHO0130으로활동하고기술블로그와유튜브채널을운영하고있다.

CHAPTER1MLOps세상으로초대
_1.1머신러닝엔지니어와MLOps의부상
_1.2MLOps란?
_1.3DevOps와MLOps
_1.4MLOps욕구단계이론
__1.4.1DevOps구현
__1.4.2깃허브액션을사용하여지속적통합구성하기
__1.4.3DataOps와데이터엔지니어링
__1.4.4플랫폼자동화
__1.4.5MLOps
_1.5마치며
연습해보기
생각해보기

CHAPTER2MLOps를시작하기위한기본개념
_2.1배시와리눅스커맨드라인
_2.2클라우드셸개발환경
_2.3배시셸과명령어
__2.3.1파일목록
__2.3.2실행명령
__2.3.3파일탐색
__2.3.4셸입출력
__2.3.5셸설정
__2.3.6셸스크립트작성
_2.4클라우드컴퓨팅기반과구성요소
_2.5클라우드컴퓨팅시작하기
_2.6파이썬벼락치기
_2.7미니멀리스트를위한파이썬튜토리얼
_2.8프로그래머를위한수학벼락치기
__2.8.1기술통계학과정규분포
__2.8.2최적화
__[역자노트]
_2.9머신러닝의핵심개념
_2.10데이터과학해보기
_2.11간단한파이프라인밑바닥부터작성하기
_2.12마치며
연습해보기
생각해보기

CHAPTER3컨테이너와엣지디바이스를위한MLOps
_3.1컨테이너
__3.1.1컨테이너런타임
__3.1.2컨테이너생성하기
__3.1.3컨테이너실행하기
__3.1.4컨테이너모범사례
__3.1.5HTTP로모델서빙하기
_3.2엣지디바이스
__3.2.1구글코랄
__3.2.2애저퍼셉트
__3.2.3텐서플로허브
__3.2.4구글코랄엣지TPU컴파일러
_3.3완전관리형머신러닝시스템을위한컨테이너
__3.3.1MLOps컨테이너거래하기
__3.3.2다양하게활용되는컨테이너
_3.4마치며
연습해보기
생각해보기

CHAPTER4머신러닝애플리케이션에지속적배포를적용하기
_4.1머신러닝모델패키징
_4.2머신러닝모델의지속적배포를위한코드형인프라
_4.3클라우드파이프라인사용하기
__4.3.1모델배포제어하기
__4.3.2모델배포를위한테스팅전략
_4.4마치며
연습해보기
생각해보기

CHAPTER5AutoML과KaizenML
_5.1AutoML
__5.1.1MLOps산업혁명
__5.1.2AutoMLvsKaizenML
__5.1.3피처스토어
_5.2애플생태계
__5.2.1애플의AutoML:CreateML
__5.2.2애플의CoreML
_5.3구글의AutoML과엣지컴퓨터비전
_5.4애저의AutoML
_5.5AWSAutoML
_5.6오픈소스AutoML
__5.6.1Ludwig
__5.6.2FLAML
_5.7모델설명력
_5.8마치며
연습해보기
생각해보기

CHAPTER6모니터링과로깅
_6.1클라우드MLOps와관찰가능성
__[역자노트]
_6.2로깅기초
_6.3파이썬에서로깅실습하기
__[역자노트]
__6.3.1로그수준설정하기
__6.3.2여러애플리케이션을동시에로깅하기
_6.4모니터링과관찰가능성
__6.4.1모델모니터링의기초
__6.4.2AWS세이지메이커에서드리프트모니터링하기
_6.5애저머신러닝에서드리프트모니터링하기
_6.6마치며
연습해보기
생각해보기

CHAPTER7AWS를이용한MLOps
_7.1AWS에입문하기
__7.1.1AWS제품사용해보기
__7.1.2AWS와MLOps
_7.2AWS를이용한MLOps레시피
__7.2.1명령행인터페이스도구
__7.2.2플라스크마이크로서비스
_7.3AWS람다레시피
__7.3.1AWS람다-SAM:로컬환경에서사용하기
__7.3.2AWS람다-SAM:컨테이너화하여배포하기
_7.4현실의문제를해결하기위한AWS머신러닝제품과조언
__[인터뷰]스포츠SNS서비스의사례
__[인터뷰]AWS머신러닝기술전도사줄리앙의커리어조언언
_7.5마치며
연습해보기
생각해보기

CHAPTER8애저환경과MLOps
_8.1애저CLI와파이썬SDK
_8.2인증
__8.2.1서비스주체
__8.2.2API서비스인증
_8.3컴퓨팅인스턴스
_8.4배포
__8.4.1모델등록
__8.4.2데이터셋버전관리
__[역자노트]
_8.5컴퓨팅클러스터에모델배포하기
__8.5.1클러스터구성하기
__8.5.2모델배포하기
_8.6배포문제해결하기
__8.6.1로그검색하기
__8.6.2애플리케이션인사이트
__8.6.3로컬환경에서의디버깅
_8.7애저머신러닝파이프라인
__8.7.1퍼블리싱파이프라인
__8.7.2애저머신러닝디자이너
_8.8머신러닝생애주기
_8.9마치며
연습해보기
생각해보기

CHAPTER9구글클라우드플랫폼과쿠버네티스
_9.1구글클라우드플랫폼둘러보기
__9.1.1지속적통합과지속적배포
__9.1.2helloworld쿠버네티스
__9.1.3클라우드네이티브데이터베이스선택과설계
_9.2구글클라우드플랫폼에서의DataOps
_9.3머신러닝모델운영
_9.4마치며
연습해보기
생각해보기

CHAPTER10머신러닝상호운용성
_10.1상호운용성이중요한이유
_10.2ONNX:OpenNeuralNetworkExchange
__10.2.1ONNXModelZoo
__10.2.2파이토치를ONNX로변환하기
__10.2.3텐서플로를ONNX로변환하기
__10.2.4애저에서ONNX모델배포
_10.3애플의CoreML과ONNX
_10.4엣지통합
_10.5마치며
연습해보기
생각해보기

CHAPTER11MLOps명령줄도구와마이크로서비스구축
_11.1파이썬패키징
_11.2Requirements파일
_11.3명령줄도구
__11.3.1데이터셋린터생성
__11.3.2명령줄도구모듈화
_11.4마이크로서비스
__11.4.1서버리스기능만들기
__11.4.2클라우드기능인증
__11.4.3클라우드기반명령줄인터페이스구축
_11.5머신러닝명령줄인터페이스워크플로
_11.6마치며
연습해보기
생각해보기

CHAPTER12MLOps실사례연구
_12.1머신러닝에서무지함이주는뜻밖의이점
_12.2스포츠소셜네트워크의MLOps프로젝트
__12.2.1기계적인반복작업:데이터라벨링
__12.2.2인플루언서등급
__12.2.3인공지능프로덕트
_12.3현실vs완벽한기술
_12.4MLOps의중요한과제
__12.4.1윤리적문제와의도치않은결과
__12.4.2운영능력의부족
__12.4.3기술력에집중할것인가,비즈니스에집중할것인가
__[인터뷰]MLOps실무자피에로몰리노
__[인터뷰]MLOps실무자프란체스카라제리
_12.5MLOps구현을위한마지막권장사항
__12.5.1데이터거버넌스와사이버보안
__12.5.2MLOps구축시자주언급되는개념과도구들
_12.6마치며
연습해보기
생각해보기

부록A.기술자격증
부록B.MLOps를위한기술포트폴리오작성Tip

MLOps는AI시대에맞춰진화한DevOps로알려져있습니다.간단히말해MLOps는DevOps방법론을활용하여머신러닝을자동화하는프로세스라고할수있습니다.DevOps의핵심철학중하나인자동화에대한중요성을강조하는측면에서MLOps는DevOps의계보를잇는것입니다.

『MLOps실전가이드』는MLOps와DevOps의이론뿐만아니라머신러닝모델을실제운영환경에서배포하고관리하는방법과자동화에필수적요소인지속적인통합(CI)와지속적인배포(CD),더나아가지속적인개선이라는의미를가진카이젠(Kazien)개념까지포괄적으로다룹니다.더불어AWS,Azure,GoogleCloudPlatform과같은플랫폼에서MLOps를구현하는방법과역자가경험했던MLOps실제사례도포함하고있습니다.

이책은MLOps에대한개념을통찰력있게설명하고자합니다.ChatGPT를활용한번역이아닌역자진이원문을직접번역하고,소스코드를리팩토링하여사례별Hands-on실습코드를제공합니다.또한본문에등장하는‘역자노트’는역자가최신내용을참고하여직접설명을추가해독자들이더잘이해할수있도록하였습니다.각장이끝날때마다등장하는‘연습해보기’와‘생각해보기’를통해학습한내용을복습하고비판적인사고를가지며MLOps의다양한인사이트를얻을수있습니다.

대상독자

-MLOps코드와함께문서를작성해야하는소프트웨어개발자
-다양한플랫폼에서의MLOps를경험하고싶은개발자
-머신러닝개발과함께실제서비스배포를위한엔지니어링이궁금한개발자