김기현의 딥러닝 부트캠프 with 파이토치 (기초부터 수식, 실습까지 담은 올인원 딥러닝 입문 교과서)

김기현

미국스토니브룩대학교에서컴퓨터공학학사및석사학위를받았다.이후2011년부터한국전자통신연구원에서자연어처리연구개발을시작했고,현재는SK텔레콤에서초거대언어모델GPT3를활용한개인화챗봇과지식대화모델링을연구개발및상용화하고있다.또한2018년부터패스트캠퍼스에서자연어처리및파이토치강의를하고있다.저서로『소문난명강의:김기현의자연어처리딥러닝캠프』(한빛미디어,2019)가있다.

1장개발환경구축하기
1.1아나콘다설치하기
1.2VSCode설치및환경설정
1.3마치며

2장딥러닝소개
2.1딥러닝이란?
2.2좋은인공지능이란?
2.3머신러닝프로젝트워크플로
2.4수학용어설명
2.5마치며

3장파이토치튜토리얼
3.1왜파이토치인가?
3.2(실습)파이토치설치
3.3텐서란?
3.4(실습)기본연산
3.5(실습)텐서형태변환
3.6(실습)텐서자르기&붙이기
3.7(실습)유용한함수들

4장선형계층
4.1행렬곱
4.2(실습)행렬곱
4.3선형계층
4.4(실습)선형계층
4.5(실습)GPU사용하기
4.6마치며

5장손실함수
5.1평균제곱오차
5.2(실습)MSELoss
5.3마치며

6장경사하강법
6.1미분이란?
6.2편미분
6.3경사하강법
6.4학습률에따른성질
6.5(실습)경사하강법구현
6.6(실습)파이토치오토그래드소개
6.7마치며

7장선형회귀
7.1선형회귀란?
7.2선형회귀의수식
7.3(실습)선형회귀
7.4마치며

8장로지스틱회귀
8.1활성함수
8.2로지스틱회귀란?
8.3로지스틱회귀의손실함수
8.4로지스틱회귀의수식
8.5(실습)로지스틱회귀
8.6마치며

9장심층신경망I
9.1심층신경망
9.2심층신경망의학습
9.3역전파알고리즘의수식
9.4그래디언트소실문제
9.5렐루
9.6(실습)DeepRegression
9.7마치며

10장확률적경사하강법
10.1확률적경사하강법이란?
10.2SGD의직관적이해
10.3미니배치크기에따른SGD
10.4(실습)SGD적용하기
10.5마치며

11장최적화
11.1하이퍼파라미터란?
11.2팁:효율적인연구/개발진행방법
11.3적응형학습률
11.4적응형학습률의수식
11.5(실습)아담옵티마이저적용하기
11.6마치며

12장오버피팅을방지하는방법
12.1모델평가하기
12.2오버피팅이란?
12.3테스트셋구성하기
12.4(실습)데이터나누기
12.5마치며

13장심층신경망II
13.1이진분류
13.2평가지표
13.3(실습)DeepBinaryClassification
13.4심층신경망을활용한분류
13.5소프트맥스함수와교차엔트로피손실함수
13.6다중클래스분류결과분석하기
13.7(실습)DeepClassification
13.8마치며

14장정규화
14.1정규화의개요
14.2가중치감쇠
14.3데이터증강
14.4드롭아웃
14.5배치정규화
14.6(실습)정규화
14.7마치며

15장실무환경에서의프로젝트연습
15.1실무를진행하듯실습하기
15.2워크플로리뷰
15.3실습소개
15.4(실습)분류기모델구현하기
15.5(실습)데이터로딩구현하기
15.6(실습)트레이너클래스구현하기
15.7(실습)train.py구현하기
15.8(실습)predict.ipynb구현하기
15.9마치며

16장표현학습
16.1특징(feature)이란?
16.2원핫인코딩
16.3차원축소
16.4오토인코더
16.5마치며

17장확률론적관점
17.1들어가며
17.2기본확률통계
17.3MLE(MaximumLikelihoodEstimation)
17.4신경망과MLE
17.5수식:MLE
17.6MSE손실함수와MLE

18장CNN(합성곱신경망)
18.1전통적인방식
18.2합성곱연산
18.3패턴추출의원리
18.4맥스풀링과스트라이드기법
18.5합성곱신경망설계예제
18.6(실습)CNN으로MNIST분류구현하기
18.7마치며

19장RNN(순환신경망)
19.1순환신경망소개
19.2RNN한걸음씩들여다보기
19.3순환신경망활용사례
19.4LSTM
19.5그래디언트클리핑
19.6(실습)LSTM으로MNIST분류구현하기
19.7마치며

어떻게딥러닝학습을시작해야할지모르는딥린이를위한입문교과서
이책은개념,수식,실습으로이어지는최적의딥러닝학습커리큘럼을통해딥러닝에대한기본기를탄탄하게키워줍니다.

★이책에서배우는내용
→개발환경
→딥러닝의개념
→파이토치튜토리얼
→선형계층
→손실함수
→경사하강법
→선형회귀
→로지스틱회귀
→심층신경망
→확률적경사하강법
→최적화
→오버피팅방지
→심층신경망으로분류문제해결
→정규화
→표현학습
→확률론적관점
→CNN(합성곱신경망)
→RNN(순환신경망)

★이책의구성
딥러닝개념및이론설명
딥러닝의기초개념을최대한쉽게이해할수있도록수학적표현을최소화하고그림또는시각화를활용하여설명합니다.기초부터심화단계까지차근차근접근할수있도록구성했으며딥러닝의여러진행방식에대해원리와구조를조금더쉽게체득할수있습니다.

수식정리
딥러닝을제대로공부하기위해서수학적배경지식은반드시필요합니다.딥러닝의기초개념및이론을수식을통해다시한번정리합니다.

실습코드
앞에서배운이론과수식을파이토치로어떻게구현하는지에대해익힐수있습니다.이책의실습은GPU없이실행이가능합니다.GPU가있다면훨씬더빠르게실행할수있지만,GPU없이도최대몇십분이내로실행이완료되도록구성되어있습니다.

실무환경에서의실전같은프로젝트연습
단순히주피터노트북으로하는실습이아닌실제머신러닝프로젝트를진행하듯이파일을구성하고CLI환경에서의실습을진행합니다.단순히MNIST분류기를만들고끝내는것이아니라실전처럼MNIST분류기성능을끌어올리는방법과이를위한실험환경구축방법에대해알아봅니다.

★대상독자
이책은딥러닝을처음접하는독자또는딥러닝을어느정도알고있지만기초가부족한독자를대상으로합니다.

★예제소스
https://github.com/kh-kim/deep_learning_book_exercise