밑바닥부터 시작하는 딥러닝 3 : 파이썬으로 직접 구현하며 배우는 딥러닝 프레임워크

사이토고키

저자:사이토고키
1984년나가사키현쓰시마태생.도쿄공업대학교공학부를졸업하고도쿄대학대학원학제정보학부석사과정을수료했다.현재는기업에서인공지능관련연구개발에매진하고있다.오라일리재팬에서『밑바닥부터시작하는딥러닝』시리즈를집필했으며『파이썬인프랙티스』,『밑바닥부터만드는컴퓨팅시스템』등을일본어로옮겼다.

역자:개앞맵시(이복연)
고려대학교컴퓨터학과를졸업하고삼성전자에서자바가상머신,바다플랫폼,챗온메신저서비스등을개발했다.주업무외에분산빌드,지속적통합,수명주기관리도구,애자일도입등동료개발자들에게실질적인도움을주는일에적극적이었다.그후창업전선에뛰어들어좌충
우돌하다가,개발자커뮤니티에기여하는더나은방법을찾아출판시장에뛰어들었다.
한빛미디어에서『밑바닥부터시작하는딥러닝』시리즈,『리팩터링2판』,『EffectiveUnitTesting』을번역했고,인사이트에서『이펙티브자바3판』과『JUnit인액션2판』을번역했다.
개발자들과의소통창구로소소하게facebook.com/dev.loadmap페이지를운영중이다.

제1고지미분자동계산
__1단계상자로서의변수
__2단계변수를낳는함수
__3단계함수연결
__4단계수치미분
__5단계역전파이론
__6단계수동역전파
__7단계역전파자동화
__8단계재귀에서반복문으로
__9단계함수를더편리하게
__10단계테스트

제2고지자연스러운코드로
__11단계가변길이인수(순전파편)
__12단계가변길이인수(개선편)
__13단계가변길이인수(역전파편)
__14단계같은변수반복사용
__15단계복잡한계산그래프(이론편)
__16단계복잡한계산그래프(구현편)
__17단계메모리관리와순환참조
__18단계메모리절약모드
__19단계변수사용성개선
__20단계연산자오버로드(1)
__21단계연산자오버로드(2)
__22단계연산자오버로드(3)
__23단계패키지로정리
__24단계복잡한함수의미분

제3고지고차미분계산
__25단계계산그래프시각화(1)
__26단계계산그래프시각화(2)
__27단계테일러급수미분
__28단계함수최적화
__29단계뉴턴방법으로푸는최적화(수동계산)
__30단계고차미분(준비편)
__31단계고차미분(이론편)
__32단계고차미분(구현편)
__33단계뉴턴방법으로푸는최적화(자동계산)
__34단계sin함수고차미분
__35단계고차미분계산그래프
__36단계고차미분이외의용도

제4고지신경망만들기
__37단계텐서를다루다
__38단계형상변환함수
__39단계합계함수
__40단계브로드캐스트함수
__41단계행렬의곱
__42단계선형회귀
__43단계신경망
__44단계매개변수를모아두는계층
__45단계계층을모아두는계층
__46단계Optimizer로수행하는매개변수갱신
__47단계소프트맥스함수와교차엔트로피오차
__48단계다중클래스분류
__49단계Dataset클래스와전처리
__50단계미니배치를뽑아주는DataLoader
__51단계MNIST학습

제5고지DeZero의도전
__52단계GPU지원
__53단계모델저장및읽어오기
__54단계드롭아웃과테스트모드
__55단계CNN메커니즘(1)
__56단계CNN메커니즘(2)
__57단계conv2d함수와pooling함수
__58단계대표적인CNN(VGG16)
__59단계RNN을활용한시계열데이터처리
__60단계LSTM과데이터로더

부록A인플레이스연산(14단계보충)
부록Bget_item함수구현(47단계보충)
부록C구글콜랩에서실행

★파이썬을활용해밑바닥부터직접구현하는딥러닝프레임워크
딥러닝프레임워크안은놀라운기술과재미있는장치로가득합니다.어떤구조를갖추고어떤원리로움직일까요?어떤기술이사용되고어떤사상이밑바닥에흐르고있을까요?3편의목표는그것들을밖으로꺼내보고제대로이해하는것입니다.그과정에서여러분이기술적인재미도느낄수있도록‘밑바닥부터만든다’는방침을세웠습니다.다른누군가가만들어놓은도구를사용하기만해서는도달하기어려운깊은깨달음을얻기를바랍니다.

● 제1고지_프레임워크개발을위한기반을마련합니다.
● 제2고지_프레임워크를사용하는코드가더자연스럽게보이도록합니다.
● 제3고지_2차미분을구할수있도록프레임워크를확장합니다.‘역전파의역전파’구조를배우고이해하면프레임워크의새로운가능성에눈을뜨게됩니다.
● 제4고지_프레임워크를신경망용으로정비하고이를사용해손쉽게신경망을구축합니다.
● 제5고지_CPU대응,모델저장과복원등실전딥러닝에꼭필요한기능을추가합니다.CNN,RNN등발전된모델도다룹니다.딥러닝응용을다루는이주제들을프레임워크로구현한다면간단한코드만으로해결할수있습니다.