머신러닝 리스크 관리 with 파이썬 : 안정성과 신뢰성 높은 견고한 모델을 구축하는 방법

패트릭홀,제임스커티스,파룰판데이

저자:패트릭홀
BNH.AI의수석과학자로포춘500대기업과최첨단스타트업에AI위험에관해자문을제공하고,NIST의인공지능위험관리프레임워크를지원하는연구를수행하고있다.조지워싱턴경영대학원의의사결정과학과객원교수로데이터윤리와비즈니스분석,머신러닝강의를진행하고있다.
BNH를공동설립하기전에는H2O.ai에서책임있는AI분야를이끌면서머신러닝의설명가능성및편향성완화를위한세계최초의상용응용프로그램을개발했다.또한SAS연구소에서글로벌고객지원업무와R&D업무를담당했다.일리노이대학교에서계산화학을전공한후노스캐롤라이나주립대학교의고급분석연구소를졸업했다.
미국과학,공학및의학아카데미(NationalAcademiesofScience,Engineering,andMedicine),ACMSIGKDD,합동통계회의(JointStatisticalMeetings)에서설명가능한인공지능과관련주제로발표했다.McKinsey.com,오라일리레이더(O’ReillyRadar),톰슨로이터규제인텔리전스(ThompsonReutersRegulatoryIntelligence)등의매체에글을기고했으며,그의기술성과는『포춘(Fortune)』,『와이어드(Wired)』,『인포월드(InfoWorld)』,『테크크런치(TechCrunch)』등에소개되었다.

저자:제임스커티스
솔레아에너지(SoleaEnergy)의정량분석가(quantitativeresearcher)로,통계예측을사용해미국전력망의탄소배출을감소하는데주력하고있다.이전에는금융서비스조직,보험사,규제기관및의료서비스제공업체에더공정한인공지능및머신러닝모델을구축하는데도움을주는컨설턴트로활동했다.콜로라도광업대학교(ColoradoSchoolofMines)에서수학석사학위를받았다.

저자:파룰판데이
전기공학을전공했으며현재H2O.ai에서수석데이터과학자로근무하고있다.이전에는Weights&Biases에서머신러닝엔지니어로근무했다.또한캐글노트북부문의그랜드마스터이며,2019년에는링크드인(LinkedIn)소프트웨어개발부문에서최고목소리(TopVoices)중한명으로선정되었다.다양한출판물에데이터과학및소프트웨어개발을주제로한여러기사를기고했으며,책임있는AI와관련된주제에대해강연하고멘토링및워크숍을진행하는등활발하게활동하고있다.

역자:윤덕상
고려대학교정보보호대학원에서정보보호분야박사학위를취득했다.삼성그룹,롯데그룹,KT그룹등대한민국전자,유통,통신핵심대기업과SECUI,Fasoo등정보보호전문업체를두루거치면서34년간정보보호실무자부터정보보호최고책임자(CISO)에이르기까지정보보호분야의핵심업무를두루경험한정보보호전문가다.2015년ISC22015AsiaPacificISLAAward,2016년제15회K-ICT정보보호대상특별상,2018년제10회SECUREKOREA2018대상,2020년소프트웨어연구개발(R&D)우수성과장관상을수상했다.현재모빌리티보안전문업체인(주)시옷에서부사장으로근무하며성균관대학교과학수사학과겸임교수,한국정보보호학회부회장,한국디지털포렌식학회이사등정보보호분야에서활발한활동을이어가고있다.

역자:이상만
동국대학교전자계산학과를졸업하고삼성SDS,KDB산업은행,NH농협손해보험등대기업에서12년간정보보호운영,기획등의실무를역임했다.삼성그룹정보보호전문업체인SECUI등정보보호솔루션업체에서16년간네트워크기반취약점점검도구,방화벽,PC개인정보보호솔루션,Endpoint정보유출탐지솔루션을개발한정보보호분야개발전문가다.현재모빌리티보안전문업체인㈜시옷에서미래자동차분야에서국제표준Smart충전방식인Plug&Charge(PnC)보안인증솔루션,Automotive취약점점검솔루션등의개발을담당하는등현역으로활발한연구개발활동을펼치고있다.

역자:김경환
개발자의길로들어선이후강산이세번바뀌었고이제네번째도중반을넘어섰다.코딩자체도좋아하지만,다양한분야의전문가들로부터요구사항을듣고분석하면서새로운지식을습득하고체계화하는것을즐긴다.첫직장에서경험한데이터베이스를시작으로데이터웨어하우스,검색엔진,빅데이터그리고인공지능에이르기까지여정에서얻게된‘살아숨쉬는지혜’를DIKW이론을빌려주변에설파하고있다.‘배운것남주자’를실천하기위해한양대학교대학원과학부에서겸임교수로‘새로운데이터역학을주도하는빅데이터시스템과데이터과학’,‘자료구조와알고리즘’을가르치고있다.반도체분야에적용한텍스트마이닝기반의DLP솔루션을개발했고,ITS를위한빅데이터플랫폼을설계및구축했다.현재는모빌리티보안전문업체인㈜시옷에서스마트카보안의핵심기술인vPKI와이를활용한F-OTA,PnC등의솔루션고도화에매진하고있다.번역서로는『Pandas를이용한데이터분석실습2/e』(에이콘출판사,2022)이있다.

역자:김광훈
고려대학교정보보호대학원에서석사과정을졸업하고성균관대학교일반대학원컴퓨터공학과에서박사과정을수료했다.글로벌컨설팅펌인PwC와Deloitte를거쳐,일본에서NHN그룹보안총괄을지냈고,현재한국의IT기업에서CISO/CPO로재직중이다.또한대통령직속디지털플랫폼정부위원회보안분과전문위원으로도활동하고있다.

역자:장기식
경희대학교에서대수학을전공했으며,고려대학교정보보호대학원에서박사학위를취득했다.이후약10년간경찰청사이버안전국디지털포렌식센터에서디지털포렌식업무를담당했다.경찰대학치안정책연구소에서데이터분석을접한이후데이터분석을기반으로한머신러닝기술을연구했으며,이경험을바탕으로현재쏘마(SOMMA)에서고도화된보안위협대응을위한사이버위협헌팅플랫폼MONSTER와APT공격시뮬레이터CHEIRON개발및연구를책임지고있다.번역서로는『보안을위한효율적인방법PKI』(인포북,2003)와『EnCase컴퓨터포렌식』(에이콘,2015),『인텔리전스기반사고대응』(에이콘,2019),『적대적머신러닝』(에이콘,2020),『사이버보안을위한머신러닝쿡북』(에이콘,2021),『양자암호시스템의시작』(에이콘,2021),『스크래치로배워보자!머신러닝』(에이콘,2022),『Pandas를이용한데이터분석실습2/e』(에이콘,2022)이있다.

[1부_인공지능위험관리의이론과실제적용사례]

1장현대의머신러닝위험관리
_1.1법률및규제환경개요
_1.2권위있는모범사례
_1.3AI사고
_1.4머신러닝위험관리를위한문화적역량
_1.5머신러닝위험관리를위한조직프로세스
_1.6사례연구:질로우아이바잉사업의흥망성쇠
_1.7참고자료

2장해석및설명가능한머신러닝
_2.1해석가능성및설명가능성에관한중요아이디어
_2.2설명가능한모델
_2.3사후설명
_2.4실무에서사후설명의고질적문제
_2.5설명가능한모델과사후설명의결합
_2.6사례연구:알고리즘채점
_2.7참고자료

3장안전성과성능을높이는머신러닝시스템디버깅
_3.1훈련
_3.2모델디버깅
_3.3배포
_3.4사례연구:자율주행차사망사고
_3.5참고자료

4장머신러닝편향관리
_4.1ISO및NIST의편향정의
_4.2미국의머신러닝편향에대한법적개념
_4.3머신러닝시스템의편향을경험하는경향이있는사람
_4.4사람들이경험하는피해
_4.5편향테스트
_4.6편향완화
_4.7사례연구:편향버그바운티
_4.8참고자료

5장머신러닝보안
_5.1보안기초
_5.2머신러닝공격
_5.3일반적인머신러닝보안문제
_5.4대응책
_5.5사례연구:실제우회공격
_5.6참고자료

[2부_인공지능위험관리실행하기]

6장설명가능한부스팅머신과XGBoost설명
_6.1개념복습:머신러닝투명성
_6.2일반화가법모형계열의설명가능한모델
_6.3제약조건과사후설명이있는XGBoost
_6.4참고자료

7장파이토치이미지분류기
_7.1흉부엑스레이분류설명
_7.2개념복습:설명가능한모델과사후설명기법
_7.3설명가능한모델
_7.4파이토치이미지분류기훈련및설명
_7.5결론
_7.6참고자료

8장XGBoost모델선택및디버깅
_8.1개념복습:머신러닝디버깅
_8.2더좋은XGBoost모델선택하기
_8.3XGBoost민감도분석
_8.4XGBoost잔차분석
_8.5선택한모델개선하기
_8.6결론
_8.7참고자료

9장파이토치이미지분류기디버깅
_9.1개념복습:딥러닝디버깅
_9.2파이토치이미지분류기디버깅하기
_9.3결론
_9.4참고자료

10장XGBoost를사용한편향테스트및개선
_10.1개념복습:편향관리
_10.2모델훈련
_10.3모델의편향평가
_10.4편향개선
_10.5결론
_10.6참고자료

11장레드팀XGBoost
_11.1개념복습
_11.2모델훈련
_11.3레드팀공격
_11.4결론
_11.5참고자료

[3부_결론]

12장고위험머신러닝에서성공하는방법
_12.1프로젝트참여대상
_12.2과학대공학
_12.3발표된결과와주장에대한평가
_12.4외부표준적용하기
_12.5상식적인위험완화
_12.6결론
_12.7참고자료

부록
찾아보기

책임감있고지속가능한ML시스템을배포하는방법,
AI모범사례와위험관리프로세스제대로알고활용하기

모든기술이그렇듯이ML도의도하지않은오용이나의도적인남용때문에실패할수있습니다.조직과대중이이흥미로운기술의진정한이점을활용하려면그러한위험요인을완화해야합니다.이책이준수하려는초기표준이최근조금씩구체화되기시작했지만,머신러닝실무에서는아직널리인정받는전문자격증이나모범사례가부족합니다.따라서머신러닝기술이세상에배포될때해당기술의결과에대한책임을실무자가떠안아야하는실정입니다.

이책은실무자가AI모델위험관리프로세스를제대로이해하고,일반적인파이썬도구를사용해설명가능한모델을학습하며안전성,편향관리,보안,프라이버시문제를관리하는새로운방법을제공합니다.ML의리스크를제거하는미묘한접근방식을취함으로써,책임감있고지속가능한방식으로ML시스템을성공적으로배포할수있는귀중한리소스를독자들에게제공합니다.

주요내용
*책임있는AI를위한기술적접근방식이해하기
*성공적이고영향력있는AI위험관리사례를만드는방법알아보기
*AI기술채택을위한기존표준,법률및평가관련기본가이드확인하기
*새로운NISTAI위험관리프레임워크살펴보기
*깃허브및코랩의대화형리소스활용하기

AI규제법안시대,고위험애플리케이션에서ML기술을책임감있게활용하는방법

유럽연합의회는인공지능기술을안전하고윤리적으로사용할수있도록하는규제법안인인공지능법(AIAct)을최근승인했습니다.이법안은인공지능시스템의개발,배포,사용에대한엄격한규제를마련해인공지능기술의잠재적위험성을관리하고,사람중심의인공지능기술발전을촉진할목적으로제정되었습니다.이법안은인공지능기술을‘허용할수없는’기술부터고위험,중위험,저위험으로분류하며‘허용할수없는’기술은금지합니다.

이책은저자들이경험한실제사례와연구결과를통해머신러닝기술을고위험애플리케이션에성공적으로적용하는방법을보여줍니다.또한,유럽연합의인공지능규제법안의주요내용과미국위험관리프레임워크관련성을분석하고법안준수를위한구체적인방안을제시합니다.주로다루는내용은다음과같습니다.

*편향및윤리문제:모델개발과정에서발생할수있는편향과윤리문제해결및완화방법
*모델설명및책임감:고위험애플리케이션에서머신러닝모델의설명가능성과책임감확보방법
*모델평가및검증:고위험애플리케이션에서머신러닝모델의성능과신뢰성평가및검증방법
*모델배포및관리:고위험애플리케이션에서머신러닝모델을안전하고효율적으로배포및관리하는방법