XAI, 설명 가능한 AI (주요 파이썬 라이브러리를 활용한 개별 기술 학습과 실습까지)

XAI, 설명 가능한 AI (주요 파이썬 라이브러리를 활용한 개별 기술 학습과 실습까지)

$27.00
Description
그 순간, 인공지능은 왜 그렇게 생각했을까?
설명 가능한 AI인 XAI로, AI의 마음속을 들여다본다!
어느덧 우리 주변에서 AI를 쉽게 접할 수 있는 시대가 되었다. 여러 다양한 기업에서도 AI를 통해 전략을 수립하거나 투자를 결정하고, 데이터 관련 법이 제정 및 공표되어 빅데이터를 수집하고 활용하는 근거가 마련되고 있다. 하지만 AI가 갑자기 일반적인 결과에서 벗어나 엉뚱한 결과를 도출한다면 어떻게 될까? 만약 생명과 관련된 AI에 이러한 문제가 발생한다면 큰 사고로도 이어질 수 있다. 하지만 ‘AI의 책임성’, 즉 AI가 도출하는 추론 결과에 명확한 근거를 제시하기 어려운 것이 현실인데, 이때 그 해결책으로써 'eXplainable AI', 즉 XAI가 주목받고 있다.

XAI는 AI에 관한 업무를 수행하거나 관심이 있다면 반드시 알아두어야 할 분야이다. 이 책은 XAI의 배경부터 개별 기술까지 체계적으로 학습하고 몇 가지 주요 라이브러리를 시험 삼아 구동해 보면서 실무 지식을 얻을 수 있는 해설서이다. 특히 각 기술들을 최소한의 수학적 전개를 통해 설명하며, 파이썬으로 구현하기 때문에 XAI를 실무에서 빠르게 적용할 수 있도록 하며, 그 외에 XAI에 대한 주요 이슈 및 앞으로의 전망도 설명한다. XAI가 무엇인지 개념을 잡고 싶거나 각 기술을 직접 소스 코드로 구현해 빠르게 확인해 보고 실무에 적용하려는 분들에게 꼭 필요한 책이 될 것이다.

소스 코드 다운로드 https://github.com/bjpublic/XAI
선정 및 수상내역
2023 세종도서 학술부문 선정
저자

오오쓰보나오키,나카에도시히로,후카사와유타,도요카쇼,사카모토뎃페이

2015년NTT데이터에입사하여헬스케어분야패키지소프트웨어의개발업무를거쳐서2018년부터AI및데이터분석기술연구개발에종사하고있다.헬스케어를시작으로사람의판단에중대한책임을지는비즈니스영역에대해업무의고도화ㆍ효율화를목표로AI개발에매진하고있다.‘설명가능한AI’이비즈니스와기계학습을접목시키는주요기술이라고생각하며,고객ㆍ사용자시선에서사용하기쉽고이해하기쉬운것이가장중요하다고생각한다.

목차

제Ⅰ부과제설정

제1장AI에게‘설명’이필요한이유
1.1AI보급과새로운요구사항
1.2AI의공평성ㆍ책임성ㆍ투명성
1.2.1AI의공평성(Fairness)
1.2.2AI의책임성(Accountability)
1.2.3AI의투명성(Transparency)
1.3AI의설명가능성
1.3.1설명가능성이높은알고리즘
1.3.2설명가능성이낮은알고리즘
1.4AI를업무에적용할때AI설명이필요한이유
이번장을정리하며

제Ⅱ부기초지식

제2장‘설명가능한AI’의개요
2.1XAI란무엇인가?
2.1.1XAI의목적
2.1.2‘설명가능한AI’와‘해석가능한AI’
ColumnXAI관련용어의미
2.2XAI동향
2.2.1XAI에대한왕성한연구활동
2.2.2XAI구현
2.3‘전역설명’과‘국소설명'
2.3.1전역설명(GlobalExplanations)
2.3.2국소설명(LocalExplanations)
2.4설명방법의차이점
2.5모델의존성
2.5.1모델의존형XAI
2.5.2모델불문형XAI
이번장을정리하며

제3장XAI활용방법
3.1설명분류별활용방법
3.1.1국소설명활용방법
3.1.2전역설명활용방법
3.2국소설명활용방법
3.2.1신고내용의타당성검증
3.2.2의도와다른학습재검토
3.3전역설명활용방법
3.3.1AI모델의개선운용
3.3.2적대적공격검증
이번장을정리하며

제4장다양한XAI기술
4.1다양한설명방법
4.1.1XAI라인업
4.1.2이책의해설내용
4.2기술소개①LIME
4.2.1개념과동작원리
4.2.2데이터종류별동작원리
4.2.3LIME의특징과주의점
4.2.4LIME정리
4.3기술소개②SHAP
4.3.1섀플리값이란
4.3.2SHAP의개념
4.3.3SHAP계산알고리즘
4.3.4SHAP정리
4.4소개기술③PermutationImportance
4.4.1PermutationImportance의개념
4.4.2PermutationImportance의동작원리
4.4.3PermutationImportance정리
4.5소개기술④PartialDependencePlot
4.5.1PDP/ICE의개념
4.5.2PDP/ICE의특장점과주의점
4.5.3PDP/ICE정리
4.6소개기술⑤TreeSurrogate
4.6.1TreeSurrogate의개념
4.6.2의사결정트리대리모델의특ㆍ장점과주의점
4.6.3의사결정트리대리모델정리
4.7소개기술⑥CAM/Grad-CAM
4.7.1CAM의개념과동작원리
4.7.2Grad-CAM의개념과동작원리
4.7.3관련기술ㆍ파생기술
4.7.4CAM/Grad-CAM대응모델
4.7.5CAM과Grad-CAM정리
4.8소개기술⑦IntegratedGradients
4.8.1IntegratedGradients의개념과동작원리
4.8.2IntegratedGradients대응모델
4.8.3IntegratedGradients정리
4.9소개기술⑧Attention
4.9.1Attention의개념과동작원리
4.9.2Attention대응모델
4.9.3Attention정리
이번장을정리하며

제5장XAI라이브러리평가ㆍ선정
5.1XAI를평가하는기본적인관점
5.1.1사용할XAI를결정하기위한관점
5.1.2범분야(Cross-Cutting)평가관점
5.2XAI선정방법
5.2.1XAI선정절차(Flow)
5.2.2목적ㆍ최소조건과부합하는가?
5.2.3중요조건과부합하는가?
5.2.4사용자가만족할수있는가?
5.3일관된관점
5.3.1평가관점①‘충실도’
5.3.2평가관점②‘신뢰성’
5.3.3평가관점③‘만족도’
5.3.4평가관점④‘MentalModel’
5.3.5평가관점⑤‘실작업친화성’
이번장을정리하며

제Ⅲ부실천매뉴얼

제6장LIME을활용한표형식데이터국소설명
6.1검증목적
6.2라이브러리준비
6.3검증대상데이터
6.3.1데이터개요
6.3.2데이터이해
6.4모델학습
6.4.1전처리
6.4.2모델학습
6.5LIME을활용한예측결과의설명
6.5.1LIME사용준비
6.5.2주요파라미터
6.5.3LIME실행
6.5.4다른데이터에대한설명
Column이해가능한설명인가
6.6국소설명의수준을조정하는kernalwidth
검증결과정리

제7장LIME과Grad-CAM을활용한이미지데이터의국소설명
7.1검증목적
7.2라이브러리준비
7.3검증대상데이터
7.4AI모델준비와예측
7.5LIME을활용한설명
7.5.1LIME을활용한AI모델설명
7.5.2LIME설명가시화와해석
7.5.3LIME을활용한설명정리
7.6Grad-CAM을활용한설명
7.6.1Grad-CAM을활용한AI모델설명
7.6.2Grad-CAM설명가시화와해석
7.6.3Grad-CAM을활용한설명정리
검증결과정리

제8장LIME과IntegratedGradients텍스트분류의국소설명
8.1검증목적
8.2라이브러리준비
8.3검증대상데이터
8.4모델학습과예측
8.5LIME을활용한모델해석
8.6IntegratedGradients를활용한방법
검증결과정리
ColumnAttention가시화

제9장SHAP의국소적ㆍ전역적설명과대응
9.1설명준비
9.1.1환경구축
9.1.2데이터세트준비
9.1.3모델준비
9.2SHAP값산출과이해
ColumnLightGBM의SHAP연계기능
9.3SHAP값가시화
9.3.1개별예측에대한특징량의영향
9.3.2데이터세트전체에대한특징량반영방법
Column특징량중요도상호비교?
9.3.3SHAP값과특징량의상관관계가시화
Column변수사이의상호작용을활용한상세관찰방법:SHAPInteractionaVlues
9.4SHAP값의추가적인활용
9.4.1SHAP값의클러스터링을활용한데이터분류
9.4.2차원삭제에따른특징량의조합추출
9.4.3유사데이터검색과신규성의산출
검증결과정리

제10장ELI5,PDPbix,Skater를활용한전역설명
10.1다양한전역설명XAI
10.1.1모델설명을수행하는라이브러리
10.1.2개발성숙도
10.2사전준비
10.2.1XAI실행을위한과정
10.2.2파이썬환경구축
10.2.3XAI라이브러리설치
10.3ELI5(PermutationImportance)
10.3.1ELI5는어떠한기술인가?
10.3.2ELI5실행
10.3.3ELI5평가
10.4PDPbox(PDPㆍICE)
10.4.1PDPbox는어떠한기술인가?
10.4.2PDPbox실행
10.4.3PDPbox평가
10.5Skater(TreeSurrogate)
10.5.1Skater는어떠한기술인가?
10.5.2Skater실행
10.5.3Skater평가
검증성과정리

제11장LIME,SHAP의한계와해결책
11.1XAI방법의한계
11.2LIME결과안정성
11.3SHAP계산시간대처방안
11.4스파스(Sparse)데이터분석
이번장을정리하며

제Ⅳ부장래전망

제12장업무에서필요한설명능력
12.1비즈니스상의설명
12.1.1AI활용상황
12.1.2설명이필요한비즈니스상황
12.1.3비즈니스상필요한설명분류
12.2정밀도와설명능력의TradeOff
12.2.1복잡한사상의설명은근본적으로복잡하다
12.2.2XAI에과도한기대는금물
12.3설득력키우기
12.3.1필요한것은‘이해’가아닌‘설득’?
12.3.2왜XAI의설득에선형회귀가사용되는가?
12.3.3XAI를사용해설득할수있는가?
이번장을정리하며

제13장XAI의전망
13.1사용자에게XAI란
13.1.1XAI의도달점
13.1.2XAI는사용자에게도움이되는가?
13.2설득할수있는설명을위한도전
13.2.1설득력부족에대한이유
13.2.2지식활용방침
Column지식클럽과LOD
13.3XAI의이상적인모습
13.3.1분야를넘나드는발전방향기대
13.3.2XAI가갖추어야할모습

부록-환경구축방법
A.1파이썬환경
A.2Jupyternotebook환경구축

출판사 서평

XAI를실무현장에적용하여풀어낸기술적해설서출간!
이책으로당신의AI를한층더이해하고업그레이드하라!

본격적으로AI가업무환경에투입되고있습니다.이에따라AI차세대기술인XAI(eXplainableAI,AI가도출한결과에인간이이해할수있는이유나근거를제시하여,인간과AI를연결하는기술)도동시에각광받고있습니다.하지만현재공개된다양한XAI소스코드들중대부분은연구자를대상으로한논문이고,실무현장의실정에입각한기술적해설서는그리많지않습니다.특히AI업무시‘공평성’,‘책임성’,‘투명성’이라는3가지요구사항을갖추어야하며,그중에서도‘AI의책임성’은엔지니어와사업가양쪽에서중요한과제임에도불구하고책임성에대한기본적인인식을포함한모든내용들이체계적으로정리되지못한상황입니다.

이책에서는실제로AI에어떠한‘설명’이필요하고XAI를통해무엇이가능한지를친절하게설명합니다.XAI의기본이론및대표적인XAI기술을소개하고,소스코드를구현하면서실무적인XAI지식도습득할수있습니다.또한파이썬의XAI라이브러리인LIME이나SHAP등의사용방법도소개합니다.이책을통해당신의AI를한층더이해하고발전시켜보시기바랍니다.