모니터링의 새로운 미래 관측 가능성 (프로메테우스, 그라파나, 오픈텔레메트리까지 마이크로서비스와 인공지능 중심의 옵저버빌리티 구현)

정현석,진미란

저자:정현석
액센츄어(Accenture),IBM에서소프트웨어엔지니어로근무했고,현재호주시드니에있는맥쿼리그룹에서SRE로근무하고있다.비용절감을위해다양한관측가능성설루션을하나로통합하고있으며,USED/RED대시보드와알람을표준화해서배포를자동화했다.실사용자모니터링을사용하여프런트엔드부터백엔드까지관측가능성을적용하고,비즈니스적인가치를찾고기술적으로구현하기위해지원하고있다.또한,관측가능성을고도화해서근본원인분석과IT운영자동화를이루고,나아가AIOps가구현될수있도록협업중이다.

저자:진미란
클라우드엔지니어로근무하며데이터,ML분야의여러베스트프랙티스를경험했다.머신러닝의프로세스자동화,재현가능성및지속성이중요하다고생각하고,머신러닝모델을서비스화하여UX에도움을주거나수익을창출하는등의실용성에대해고민하고있다.현재는MLOps엔지니어로근무하며관련설루션을개발하고있다.새로운것에도전하고값진경험으로성장하기를희망하는미래의나와,실제로그것을해내야하는현실속의나사이의괴리로인해갈등하지만,‘이것도그냥나인가보다’하고받아들이는수행과정에있다.

추천사x
베타리더후기xiii
머리말xv
이책에대하여xvii

CHAPTER1관측가능성의개념과방향성1
1.1관측가능성의세가지요소2
__1.1.1모니터링과차이점2
__1.1.2관측가능성구성요소5
1.2메트릭6
__1.2.1가용성6
__1.2.2구글의골든시그널7
__1.2.3메트릭유형12
__1.2.4시계열데이터13
__1.2.5프로메테우스의히스토그램16
__1.2.6메트릭관리방안21
1.3추적25
__1.3.1추적구성요소25
__1.3.2추적데모29
1.4로그37
__1.4.1로그관리37
__1.4.2로그표준화40
1.5상관관계44
__1.5.1상관관계의필요성44
__1.5.2상관관계구현방안46
1.6관측가능성데모52
__1.6.1데모의방향성52
__1.6.2관측가능성데모목록54
1.7관측가능성목표59
__1.7.1레퍼런스아키텍처59
__1.7.2핵심목표60
1.8관측가능성오픈소스64
1.9관측가능성방향성65

CHAPTER2관측가능성기반기술69
2.1트래픽관리69
__2.1.1단일장애점69
__2.1.2로드밸런서70
__2.1.3복원성패턴73
__2.1.4가시성78
__2.1.5서비스메시79
2.2쿠버네티스오토스케일링81
__2.2.1오토스케일링오픈소스85
__2.2.2메트릭측정90
__2.2.3메트릭선정91
2.3관측가능성프로세스96
__2.3.1관측가능성운영프로세스96
__2.3.2관측가능성장애프로세스97
2.4수평샤딩99
2.5마이크로서비스102
__2.5.1마이크로서비스개발흐름103
__2.5.2관측가능성의마이크로서비스105
__2.5.3읽기와쓰기를분리하기106
2.6일관된해시108
2.7관측가능성시각화113
2.8키-값저장소119
2.9객체스토리지120
2.10안정적데이터관리121
2.11시계열데이터집계128

CHAPTER3관측가능성의시작,프로메테우스131
3.1프로메테우스바이너리구성131
3.2프로메테우스시계열데이터베이스138
__3.2.1데이터형식138
__3.2.2데이터관리139
__3.2.3블록관리141
3.3프로메테우스쿠버네티스구성144
3.4프로메테우스오퍼레이터146
3.5프로메테우스오토스케일링154
__3.5.1프로메테우스어댑터154
__3.5.2KEDA오토스케일159
3.6프로메테우스알람162
3.7프로메테우스운영아키텍처170
__3.7.1샤딩아키텍처170
__3.7.2페더레이션아키텍처173
3.8타노스운영175
__3.8.1타노스아키텍처175
__3.8.2타노스사이드카방식178
__3.8.3타노스리시버방식181
__3.8.4타노스구성183
__3.8.5타노스테스트186

CHAPTER4오픈소스관측가능성,그라파나189
4.1그라파나관측가능성190
__4.1.1목적과범위190
__4.1.2인프라구성191
__4.1.3애플리케이션구성193
4.2로키로그관리202
__4.2.1로키기능202
__4.2.2로키바이너리구성213
__4.2.3프롬테일쿠버네티스구성214
__4.2.4로키쿠버네티스구성215
__4.2.5로키테스트221
4.3미미르메트릭관리224
__4.3.1미미르기능224
__4.3.2미미르구성232
__4.3.3미미르쿠버네티스구성236
__4.3.4미미르업무규칙238
4.4템포추적관리245
__4.4.1템포기능245
__4.4.2템포바이너리구성249
__4.4.3템포쿠버네티스구성250
__4.4.4템포쿠버네티스테스트252
4.5예거추적관리254
__4.5.1예거쿠버네티스구성254
__4.5.2예거데이터모델257

CHAPTER5그라파나관측가능성데모259
5.1상관관계261
__5.1.1메트릭에서추적으로262
__5.1.2추적에서메트릭으로263
__5.1.3로그에서추적으로270
__5.1.4추적에서로그로271
__5.1.5메트릭에서로그로272
5.2뉴스택278
__5.2.1뉴스택소개279
__5.2.2뉴스택구성284
__5.2.3뉴스택상관관계287
5.3라이드온디맨드294
__5.3.1시스템설정296
__5.3.2소스설명309
__5.3.3HotROD개선방향328
5.4그라파나관측가능성330
__5.4.1시스템개요330
__5.4.2소스설명333
__5.4.3시스템구성336
__5.4.4그라파나데이터소스설정341

CHAPTER6관측가능성의표준,오픈텔레메트리343
6.1오픈텔레메트리소개344
6.2오픈텔레메트리컴포넌트345
__6.2.1신호의구성요소347
__6.2.2콘텍스트전파358
__6.2.3파이프라인359
6.3추적361
__6.3.1오픈텔레메트리추적소개361
__6.3.2추적파이프라인구성367
6.4메트릭374
__6.4.1오픈텔레메트리메트릭소개374
__6.4.2메트릭파이프라인구성378
6.5로그384
__6.5.1오픈텔레메트리로그소개384
__6.5.2로그파이프라인구성391
6.6컬렉터397
__6.6.1오픈텔레메트리컬렉터소개397
__6.6.2컬렉터파이프라인구성400
6.7오픈텔레메트리데모404

CHAPTER7관측가능성을넘어자동화로425
7.1IT운영자동화425
7.2AIOps의발전단계427
__7.2.1지능형경고429
__7.2.2상관관계429
__7.2.3이상탐지430
7.3AIOps의기술들431
7.4앞으로더배울내용433
__7.4.1다섯가지텔레메트리433
__7.4.2이상탐지434
__7.4.3근본원인분석435
__7.4.4데이터파이프라인436
__7.4.5오픈서치관측가능성436
__7.4.6멀티클러스터와멀티테넌트437
__7.4.7자동계측439
__7.4.8SLO규칙과시각화439

용어설명440
찾아보기445

실습애플리케이션을이용해직접하면서배우는관측가능성

날로복잡해지는기술에따라모니터링만으로모든현상을분석하고대비하기는어려워졌다.특히클라우드서비스를많이이용하여내부시스템을들여다보는것도쉽지않기때문에여러가지신호를측정하여발생가능한이벤트를예측하는것이중요하다.따라서관측가능성을통해발생하는오류의원인과잠재적인오류가능성까지살펴볼필요가있다.이책은관측가능성의개념과용어정리부터시작해서프로메테우스,그라파나,오픈텔레메트리까지다양한관측가능성도구를설명한다.Go언어와파이썬으로개발한마이크로서비스를제공하며,카오스엔지니어링이가능하도록구성한애플리케이션을통해실제와유사한환경으로실습하도록구성한것이특징이다.분산서비스에서빼놓을수없는쿠버네티스를기반으로실습하며,그라파나LGTM스택등다양한도구를활용해시스템을구축하며근본원인분석을실시한다.관측가능성을처음접하는사람도쉽게시작할수있도록프로그램설치방법부터대규모서비스를위한클라우드환경에서의구축방법까지설명하여실무에서바로적용할수있도록하였다.관측가능성을처음접하는개발자는물론,AIOps와운영자동화등그라파나와일래스틱서치를운영중인운영자,개발에관심이많은데브옵스개발자,사이트신뢰성엔지니어(SRE)까지도움이될내용이가득담겼다.현장에서바로적용할수있는다양한실무노하우가가득담긴이책이한단계성장하는발판이되길바란다.

·주요내용
-관측가능성의개념과기반기술
-프로메테우스생태계이해와타노스소개
-로키,템포,미미르를이용한그라파나관측가능성
-그라파나와오픈서치기반으로개발된예제실습
-오픈텔레메트리를활용한관측가능성
-AIOps와운영자동화개념과전망