딥러닝 개념과 활용 (양장본 Hardcover)

김의중

카네기멜론대학교에서최적화분야병렬컴퓨팅알고리즘으로컴퓨터공학박사학위를받았다.미국국립과학재단그랜드챌린지과제인‘Quake’프로젝트에서핵심연구원으로참여하면서미국캘리포니아부근에서발생한지진을슈퍼컴퓨터를이용한분석모델로가장정확하게예측한공로로고든벨어워드GordonBellAwards를수상하였다.
듀크대학교에서리서치펠로우와한국IT기업에서수석연구원및CTO로근무하다가최근실리콘밸리의인공지능업체와공동으로설립한아이덴티파이(aidentify)대표를맡고있다.

저서:알고리즘으로배우는인공지능,머신러닝,딥러닝입문

01장인공지능과머신러닝
1.1인공지능
-----1.1.1지능
-----1.1.2인공지능
-----1.1.3‘인공지능’이란용어의등장
-----1.1.4인공지능분야
1.2머신러닝
-----1.2.1인공지능을떠받치는머신러닝
-----1.2.2머신러닝의정의
-----1.2.3머신러닝에서자주사용되는핵심용어정리
-----1.2.4머신러닝의분류
1.3지도학습
-----1.3.1지도학습:예측,회귀
-----1.3.2지도학습:분류
1.4비지도학습
-----1.4.1비지도학습:군집
-----1.4.2비지도학습:차원축소
-----1.4.3비지도학습:생성모델
1.5강화학습

02장인공지능의중심딥러닝
2.1딥러닝개요
-----2.1.1인공신경망
-----2.1.2헵스법칙:신경망의학습
-----2.1.3최초의딥러닝모델:퍼셉트론
2.2단층퍼셉트론
2.3다층퍼셉트론
-----2.3.1단층퍼셉트론의한계
-----2.3.2다층퍼셉트론
2.4에러의역전파
-----2.4.1에러의역전파이론의배경
-----2.4.2에러의역전파동작개념
2.5딥러닝
-----2.5.1왜딥러닝이머신러닝의핵심인가?
-----2.5.2다양한딥러닝모델
2.6딥러닝프레임워크
-----2.6.1다양한딥러닝프레임워크
-----2.6.2파이토치프레임워크를이용한딥러닝모델구현방법
-----2.6.3텐서플로우프레임워크를이용한딥러닝모델구현방법

03장다양한최적화기법
3.1경사하강법개요
-----3.1.1경사하강법이해하기
-----3.1.2경사하강법적용예제
-----3.1.3딥러닝프레임워크를이용한최적화
3.2경사하강법적용시학습데이터크기결정
-----3.2.1배치경사하강법
-----3.2.2확률적경사하강법
-----3.2.3미니배치경사하강법
3.3기본경사하강법
3.4관성을이용한경사하강법
-----3.4.1모멘텀경사하강법
-----3.4.2NAG
3.5적응형경사하강법
-----3.5.1AdaGrad
-----3.5.2RMSprop
-----3.5.3AdaDelta
3.6혼합형경사하강법
-----3.6.1ADAM
-----3.6.2NADAM
3.7배치정규화
3.8파라메터초기화

04장오버피팅해결방안-규제화
4.1언더피팅,노멀피팅,오버피팅
4.2L2규제화
4.3L1규제화
4.4드롭아웃과드롭커넥트
-----4.4.1드롭아웃
-----4.4.2드롭커넥트
4.5조기종료

05장벡터형데이터학습모델-MLP
5.1벡터형데이터개요
-----5.1.1학습데이터종류
-----5.1.2벡터형학습데이터정제하기
5.2MLP를이용한벡터형데이터학습
-----5.2.1MLP모델
-----5.2.2MLP모델에서행렬및텐서연산
-----5.2.3스코어와분류기
-----5.2.4MLP모델을이용한MNIST분류
5.3활성화함수
-----5.3.1활성화함수의필요성
-----5.3.2활성화함수의종류
-----5.3.2좋은활성화함수란

06장이미지데이터학습모델-CNN
6.1이미지데이터분석
-----6.1.1이미지데이터처리
-----6.1.2컨볼루션신경망의시작
-----6.1.3컨볼루션
-----6.1.4풀링
-----6.1.5평탄화
-----6.1.6목적함수와학습
6.2CNN모델의발전
-----6.2.1LeNet-5,AlexNet,VGGNet
-----6.2.2GoogLeNet(Inception-V1)
-----6.2.3ResNet
-----6.2.4Xception
-----6.2.5CNN모델비교
6.3이미지분류
-----6.3.1이미지분류를위한데이터셋
-----6.3.2분류기와목적함수
-----6.3.2MNIST필기체숫자분류예제
6.4이미지객체추출
-----6.4.1SIFT
-----6.4.2HOG
-----6.4.3SURF
-----6.4.4CNN기반의이미지객체추출
-----6.4.5R-CNN,FastR-CNN,FasterR-CNN,MaskR-CNN알고리즘
-----6.4.6YOLO알고리즘
-----6.4.7SSD알고리즘
6.5이미지분할
-----6.5.1이미지분할을위한학습방법
-----6.5.2FCN알고리즘
-----6.5.3U-Net알고리즘
-----6.5.4DeepLabV1,V2,V3,V3+알고리즘
6.6학습데이터보완
-----6.6.1학습데이터증강
-----6.6.2가중치를이용한데이터빈도수조정

07장순차적데이터학습모델-RNN
7.1순차적인데이터
-----7.1.1스냅샷데이터와시퀀셜데이터
-----7.1.2순환신경망활용사례
7.2순환신경망
-----7.2.1순환신경망의구조
-----7.2.2기본순환신경망에서의연산
7.3LSTM과GRU
-----7.3.1LSTM
-----7.3.2GRU
7.4학습목적에따른신경망구조
-----7.4.1many-to-one모델
-----7.4.2one-to-many모델
-----7.4.3many-to-many모델
-----7.4.4many-to-many모델:seq2seq
7.5순환신경망에서의역전파
-----7.5.1BPTT:BackPropagationThroughTime
-----7.5.2TBPTT:TruncatedBackPropagationThroughTime
-----7.5.3양방향순환신경망
-----7.5.4GRU를이용한독일예나지역기후예측예제
7.6언어모델
7.7Sequence-to-Sequence모델
7.8Seq2SeqwithAttention모델
7.9트랜스포머
-----7.9.1PositionalEncoding
-----7.9.2셀프어텐션
-----7.9.3멀티헤드어텐션
7.10GPT모델과BERT모델
-----7.10.1GPT모델
-----7.10.2BERT모델

08장신경망기반강화학습-DRL
8.1강화학습
-----8.1.1강화학습모델구성요소
-----8.1.2강화학습문제정의:MDP
8.2가치기반강화학습
-----8.2.1동적계획법
-----8.2.2몬테카를로방법
-----8.2.3시간차방법
8.3정책기반강화학습
-----8.3.1REINFORCE알고리즘
-----8.3.2신뢰구간정책최적화(TRPO)
-----8.3.3근접정책최적화(PPO)
-----8.3.4액터-크리틱방법Actor-CriticMethod:QAC,TD-AC,A2C,A3C,GAE
-----8.3.5신경망기반결정적정책기울기(DDPG)
8.4모델기반강화학습
-----8.4.1정해진전이모델기반명시적계획법
-----8.4.2학습된전이모델기반명시적계획법
-----8.4.3전과정계획및전이모델동시학습법

09장감성을지닌컴퓨터-생성모델
9.1창작을하는인공지능
-----9.1.1크리스티경매에서팔린인공지능이그린초상화
-----9.1.2생성모델은주관식
-----9.1.3잠재변수
-----9.1.4오토인코더
9.2생성모델
-----9.2.1제한된볼츠만머신
-----9.2.2PixelRNN/PixelCNN
-----9.2.3변분법을이용한오토인코더(VAE)
-----9.2.4생성적대립네트워크(GAN)
-----9.2.5가짜와의전쟁:DeepFake

10장AGI로가는길
10.1특이점
-----10.1.1선형대지수
-----10.1.2일반인공지능:AGI
10.2AGI를향한도전
-----10.2.1메타학습
-----10.2.2전이학습
-----10.2.3도메인적응
-----10.2.4NAS
-----10.2.5AutoML
-----10.2.6신경망기반추론모델
-----10.2.7자기지도학습
-----10.2.8셀프플레이
10.3AGI로가는길

딥러닝을이해하는데꼭필요한핵심적인구성요소를책한권에모두담았다!
저자는2016년에출판된〈알고리즘으로배우는인공지능,머신러닝,딥러닝입문〉이라는책을통해인공지능이라는기술적인주제를쉽게풀어내어다양한독자들에게전달해준적이있다.
이번에출간된〈딥러닝개념과활용〉은저자가국내외연구소,정부기관그리고기업을대상으로수행한다양한인공지능프로젝트를통해축적된경험을바탕으로딥러닝공부에꼭필요한이론들을정리한것이다.
이책에서는딥러닝기술을인공지능의핵심이라고정의하면서지금까지발표된거의모든분야의딥러닝모델과여기에적용된개념들을자세히설명하고있다.이론적으로설명된딥러닝모델이실제로구현되는과정을확인해볼수있게텐서플로우와파이토치를사용한예제코드를첨부하였다.
이책에서다루는주요내용은다음과같다.
① 인공지능,머신러닝딥러닝의정의
② 머신러닝/딥러닝에서꼭알아야할핵심적인용어와개념정리
③ 머신러닝과딥러닝의차이:왜딥러닝인가?
④ 데이터의형태와목표과업에따른딥러닝모델설명:다층퍼셉트론,컨볼루션신경망,순환신경망,신경망기반강화학습,생성모델등
⑤ 딥러닝모델개발의필요조건인프레임워크소개와텐서플로우/파이토치프레임워크를이용한딥러닝모델구현예제
⑥ 생성모델개념과모델구현방법:잠재변수의개념,오토인코더,RBM,PixelRNN/PixelCNN,VAE,GAN,DeepFake등
⑦ 강화학습의체계적인이해
---강화학습문제정의:에이전트와환경그리고보상함수
----On-policy와Off-policy방법의차이
---가치기반과정책기반방법의차이
---모델기반과모델프리방법의차이
⑧ 최근딥러닝분야에서떠오르는주제인메타학습,전이학습,도메인적응,VQA,NAS,AutoML등에사용된기술들을소개