안전한 인공지능 시스템을 위한 심층 신경망 강화 (적대적 공격에 속지 않는 심층 신경망 만들기)

케이티워

KatyWarr
컴퓨터성능과데이터가부족해딥러닝이론을구현하지못하고있던시절에에든버러대학교에서인공지능과컴퓨터공학학위를받았다.오랫동안엔터프라이즈소프트웨어를개발했으며,최근에는인공지능전문가로활동하고있다.일상생활에깊숙이스며든인공지능과함께삶의즐거움을누린다.

CHAPTER1소개
1.1딥러닝소개
1.2딥러닝역사
1.3인공지능의‘착시현상'
1.4‘적대적입력’이란무엇인가
1.5‘적대적머신러닝’의광범위한분야
1.6적대적입력의의미

CHAPTER2공격동기
2.1웹필터우회
2.2온라인평판과브랜드관리
2.3감시위장
2.4개인정보온라인
2.5자율주행차의혼동
2.6음성제어장치

CHAPTER3심층신경망
3.1머신러닝
3.2딥러닝개념
3.3수학함수로서의심층신경망모델
3.4간단한이미지분류기만들기

CHAPTER4이미지,오디오,영상을처리하는심층신경망
4.1이미지
4.2오디오
4.3영상
4.4적대적고려사항
4.5ResNet50을사용한이미지분류

CHAPTER5적대적입력의원리
5.1입력공간
5.2DNN의사고를가능하게하는원리
5.3섭동공격:변화의최소화,영향의최대화
5.4적대적패치:산만의최대화
5.5탐지가능성측정
5.6요약

CHAPTER6적대적섭동을생성하는방법
6.1화이트박스
6.2제한된블랙박스방법
6.3점수기반블랙박스방법
6.4요약

CHAPTER7시스템에사용하는공격패턴
7.1공격패턴
7.2재사용할수있는섭동과패치
7.3통합:하이브리드접근법과절충안

CHAPTER8물리적공격
8.1적대적물체
8.2적대적음향
8.3실생활속에서적대적사례의타당성

CHAPTER9모델견고성평가
9.1적대적목표,역량,제약,정보
9.2모델평가
9.3요약

CHAPTER10방어
10.1모델개선
10.2데이터전처리
10.3대상감추기
10.4적대적입력에대항하는강력한방어구축

CHAPTER11미래동향:속지않는견고한인공지능
11.1윤곽을인식해견고성향상하기
11.2다중감각입력
11.3객체구성과계층
11.4마치며

이책은인공지능이이미지,오디오,비디오데이터를처리하기위해우리일상생활에서악용되는실제상황을고려해그곳에서야기되는적대적입력의동기,실현가능성,위험성을알아본다.이주제를알기쉽게직관적으로설명하는동시에수학적으로조리있게설명하고,인공지능시스템을적대적입력에맞서어떻게더견고하게만들수있는지살펴본다.

인공지능을속이는방법을이해하면종종베일에싸인듯불투명해보이던심층신경망알고리즘,그리고이러한알고리즘과인간의뇌가감각입력을처리하는방법상의차이를명확하게알게된다.이책은이러한차이와어떻게하면이둘간의격차를좁혀미래에인공학습이생물학적학습에더가까이다가갈수있는지그방법을탐색한다.

1부인공지능을속이는기술:적대적입력과공격동기를소개하고이미지와오디오데이터처리를위한딥러닝의기본개념을설명한다.
● 1장:적대적인공지능과딥러닝이라는광범위한주제를소개한다.
● 2장:적대적이미지,오디오,비디오의생성뒤에숨겨진잠재적동기를살펴본다.
● 3장:딥러닝개념을설명한다.
● 4장:이미지,오디오,비디오처리에사용하는심층신경망을수준높게개괄하여이후내용을이해할수있는기반을마련한다.

2부적대적입력생성하기:적대적입력과적대적입력을생성하는방법을구체적으로설명한다.
● 5장:적대적입력을뒷받침하는개념을설명한다.
● 6장:적대적입력을생성하는계산법을추가해더자세히설명한다.

3부실제위협이해하기:2부에서설명한방법을기반으로공격자가실제세계에서사용하는공격방법과이때마주하는어려움을알아본다.
● 7장:2부에서정의한방법을기반으로실제시스템에사용할때실제공격과적대적공격이직면하는과제를설명한다.
● 8장:물리적세계에서개발되고만들어진적대적물체나적대적소리의구체적인위협을탐구한다.

4부방어:3부의내용을기반으로적대적입력을방어하는방법을알아본다.
● 9장:신경망의견고성을평가하는두가지방법,즉경험적평가와이론적평가를설명한다.
● 10장:적대적입력에대비해심층신경망알고리즘을강화하는방법중가장최근에알려진자료를살펴본다.그다음종합적관점에서신경망기술에도입할수있는방어조치를고려한다.
● 11장:미래동향과심층신경망이향후에어떻게진화할지내다본다.