해석 가능한 AI : 설명 가능한 머신러닝 시스템 구축

아제이탐피

저자:아제이탐피
머신러닝에대한확고한배경을갖고있다.박사학위의주제는신호처리와머신러닝에중점을두고있다.5G셀룰러네트워크에적용되는강화학습,볼록최적화,전통머신러닝기술에대한주제로주요콘퍼런스및잡지에논문을발표했다.현재책임있는AI와공정성에관심을두고대형기술회사에서머신러닝엔지니어로근무하고있다.과거에는마이크로소프트의선임데이터과학자로서제조,소매,금융등여러산업의고객을위한복잡한AI솔루션을배포했다.

역자:최영재
소프트웨어분야에서일하면서좀더좋은품질의제품을만들기위해노력해왔다.현재는소프트웨어공학과관련된강의를하고있으며어떻게하면사용자가안심하고사용할수있는AI소프트웨어를만들수있는지를고민하고있다.
소프트웨어와관련된국내외표준과여러지식체계의개발에참여하고있으며최근에는누구나믿고사용할수있는AI시스템을만드는방법에관심을갖고있다.예측모델,추천시스템등AI가인간의삶에줄수있는많은가치를실현하기위해서는모델이가진한계를이해하고AI가뭔가를어떤방식으로예측했는지이해할필요가있다고생각한다.

1부.해석가능성개요

1장.소개
1.1진단+AI-AI시스템예제
1.2머신러닝시스템유형
1.2.1데이터표현
1.2.2지도학습
1.2.3비지도학습
1.2.4강화학습
1.2.5진단+AI를위한머신러닝시스템
1.3진단+AI구축
1.4진단+AI의문제점
1.4.1데이터누출
1.4.2편향
1.4.3규제미준수
1.4.4(콘셉트)드리프트
1.5강건한진단+AI시스템구축
1.6해석가능성대설명가능성
1.6.1해석기법유형
1.7이책에서는무엇을배우나?
1.7.1이책을읽는동안어떤도구를사용하게되는가?
1.7.2이책을읽기전에무엇을알아야하는가?
요약

2장.화이트박스모델
2.1화이트박스모델
2.2진단+-당뇨병진행
2.3선형회귀
2.3.1선형회귀해석
2.3.2선형회귀의한계
2.4결정트리
2.4.1결정트리해석
2.4.2결정트리의한계
2.5일반화가산모델(GAM)
2.5.1회귀스플라인
2.5.2진단+당뇨병을위한GAM
2.5.3GAM해석
2.5.4GAM한계
2.6앞으로살펴볼블랙박스모델
요약

2부.모델처리해석

3장.모델애그노스틱기법:글로벌해석가능성
3.1고등학교학생성적예측기
3.1.1탐색적데이터분석
3.2트리앙상블
3.2.1랜덤포레스트훈련
3.3랜덤포레스트해석
3.4모델애그노스틱기법:글로벌해석가능성
3.4.1부분의존성도표
3.4.2특성상호작용
요약

4장.모델애그노스틱기법:로컬해석가능성
4.1진단+AI:유방암진단
4.2탐색적데이터분석
4.3심층신경망
4.3.1데이터준비
4.3.2DNN훈련및평가
4.4DNN해석
4.5LIME
4.6SHAP
4.7앵커
요약

5장.돌출매핑
5.1진단+AI:침습성관암종탐지
5.2탐색적데이터분석
5.3합성곱신경망
5.3.1데이터준비
5.3.2훈련및평가
5.4CNN해석
5.4.1확률풍경
5.4.2LIME
5.4.3시각적귀속기법
5.5바닐라역전파
5.6유도역전파
5.7기타경사기반방법
5.8Grad-CAM및유도Grad-CAM
5.9어떤귀속기법을사용해야할까?
요약

3부.모델표현해석

6장.레이어와유닛의이해
6.1시각적이해
6.2합성곱신경망:요약
6.3망해부프레임워크
6.3.1개념정의
6.3.2망조사
6.3.3일치정도정량화
6.4레이어및유닛해석
6.4.1망해부실행
6.4.2개념식별기
6.4.3학습과업별개념식별기
6.4.4개념식별기시각화
6.4.5망해부의한계
요약

7장.의미론적유사성의이해
7.1감정분석
7.2탐색적데이터분석
7.3신경단어임베딩
7.3.1원-핫인코딩
7.3.2워드투벡
7.3.3글로브임베딩
7.3.4감성분석모델
7.4의미론적유사성해석
7.4.1유사성측정
7.4.2주성분분석
7.4.3t-분포확률적이웃임베딩(t-SNE)
7.4.4의미론적유사성시각화검증
요약

4부.공정성과편향

8장.공정성과편향완화
8.1성인소득예측
8.1.1탐색적데이터분석
8.1.2예측모델
8.2공정성개념
8.2.1인구통계동등성
8.2.2기회와확률의평등
8.2.3기타공정성개념
8.3해석가능성과공정성
8.3.1입력특성을통한차별
8.3.2표현을통한차별
8.4편향완화
8.4.1무지를통한공정성
8.4.2가중치재설정을통한라벨편향수정
8.5데이터세트용데이터시트
요약

9장.설명가능한AI로가는길
9.1설명가능한AI
9.2반사실적설명
요약

부록A.준비하기
A.1파이썬
A.2깃코드저장소
A.3콘다환경
A.4주피터노트북
A.5도커

부록B.파이토치
B.1파이토치는무엇인가?
B.2파이토치설치
B.3텐서
B.3.1데이터유형
B.3.2CPU및GPU텐서
B.3.3운영
B.4데이터세트및데이터로더
B.5모델링
B.5.1자동미분
B.5.2모델정의
B.5.3훈련

이책에서다루는내용

AI모델해석기법
편향,데이터누수,개념드리프트에따른오류에대처하는방법
공정성을측정하고편향을완화하는방법
GDPR을준수하는AI시스템을구축하는방법

이책의대상독자

모델의동작방식과공정하고편향없는모델의구축방법을더깊이이해하고자하는데이터과학자및엔지니어를위한책이다.공정성을보장하고비즈니스사용자와브랜드를보호하기위해AI시스템의근간을이루는모델을이해하려는설계자와비즈니스이해관계자에게도유용할것이다.

이책의구성

이책은9개의장과4개의부로구성돼있다.

1부에서는해석가능한AI의세계를소개한다.
1장은다양한유형의AI시스템을살펴보고해석가능성과그중요성을정의한다.화이트박스와블랙박스모델을살펴보고해석가능한AI시스템을구축하는방법을소개한다.
2장은화이트박스모델과이를해석하는방법,특히선형회귀,의사결정트리,GAM(GeneralizedAdditiveModel,일반화가산모델)에초점을둔다.

2부에서는블랙박스모델에초점을맞추고모델이입력을처리하고최종예측에도달하는방법을소개한다.
3장은트리앙상블이라는블랙박스모델클래스와PDP(PartialDependencePlot,부분의존성도표)및특성상호작용도표등범위가글로벌하거나모델의유형에상관없이훈련후에적용할수있는기법을사용해이를해석하는방법을다룬다.
4장은심층신경망을설명하고LIME(LocalInterpretableModel-agnosticExplanation,로컬해석가능한모델애그노스틱설명),SHAP(SHapleyAdditiveexPlanations,샤플리첨가설명),앵커(anchor)와같이범위가로컬이면서모델의유형에상관없이훈련후에적용할수있는기법을사용해이를해석하는방법을다룬다.
5장은합성곱신경망과돌출맵(Saliencymap)을사용해모델이집중하고있는영역을시각화하는방법을다룬다.특히경사,유도역전파,Grad-CAM(경사-가중클래스활성화매핑),유도Grad-CAM,SmoothGrad(평탄화경사)등과같은기술에중점을둔다.

3부에서는블랙박스모델을계속다루지만,블랙박스모델이학습한특성이나표현을이해하는단계로이동한다.
6장은합성곱신경망을분석해신경망의중간및히든레이어에서학습한데이터표현을이해하는방법을살펴본다.
7장은언어모델과PCA(PrincipalComponentAnalysis,주성분분석)및t-SNE(t-distributedStochasticNeighborEmbedding,t-분산확률적이웃임베딩)와같은기술을사용해그것이학습한고차원표현을시각화하는방법을다룬다.

4부에서는공정성과편향에초점을맞춰설명가능한AI를위한길을제시한다.
8장은공정성에대한다양한정의와모델이편향됐는지확인하는방법을다룬다.또한편향을완화하는기법과AI시스템의이해관계자및사용자에대한모델의투명성과책임성을개선하는데도움이되는데이터시트(datasheet)를사용한데이터세트의정보를문서화하는표준접근방식을설명한다.
9장은설명가능한AI시스템을구축하는방법을이해함으로써시스템을구축할수있는길을제시하고반사실적예를사용한대조적인설명을다룬다.