파이토치 트랜스포머를 활용한 자연어 처리와 컴퓨터비전 심층학습 - 데이터 사이언스 시리즈 91

파이토치 트랜스포머를 활용한 자연어 처리와 컴퓨터비전 심층학습 - 데이터 사이언스 시리즈 91

$50.32
Description
트랜스포머는 딥러닝 분야에서 성능이 우수한 모델로 현대 인공지능 분야의 핵심 기술입니다. 트랜스포머와 비전 트랜스포머 기술을 습득하면 차별화된 역량을 갖출 수 있고 복잡한 문제를 해결할 수 있습니다.
이 책에서는 자연어 처리와 컴퓨터비전 분야의 기초 실습부터 배포까지 딥러닝 프로젝트(서비스)를 구축하기 위한 다양한 정보를 다룹니다. 또한, 트랜스포머 및 비전 트랜스포머 이론을 비롯해 모델을 이해하고 실습을 진행합니다.
이 책은 최신 자연어 처리와 컴퓨터비전 분야의 동향과 심층학습에 대한 포괄적인 내용을 담고 있으며, 실전 예제를 통해 강력한 모델을 구축하고자 하는 분들에게 추천합니다.

★ 이 책에서 다루는 내용 ★

◎ 머신러닝·딥러닝 이해 및 파이토치를 활용한 심화 실습
◎ 텍스트 데이터의 토큰화 이해와 텍스트 임베딩 실습
◎ 셀프 어텐션을 활용한 트랜스포머 모델의 이해와 트랜스포머 기반 언어 모델 실습
◎ 이미지 분류 모델 이해와 내부 동작 원리 검증 및 시각화
◎ 경계 상자 탐지, 의미론적 분할, 객체 분할 등의 객체 탐지 모델 이해
◎ 특징 피라미드 네트워크 및 관심 영역 정렬 알고리즘을 이해
◎ 트랜스포머 구조를 컴퓨터비전 분야에 적용한 비전 트랜스포머 모델 이해 및 실습
◎ 웹 프레임워크와 도커를 활용한 API 온라인 서빙
◎ 웹 애플리케이션을 통한 딥러닝 데모 애플리케이션 구축
◎ 경량화, 파이토치 라이트닝, 허깅 페이스, 파이토치 컴파일러 등 다양한 관리 도구 및 기법 실습

저자

윤대희,김동화,송종민,진현두

저자:윤대희
어반베이스의머신러닝팀리더로근무하면서컴퓨터비전과딥러닝을활용해2D도면을3D로변환하는프로젝트를진행했다.현재는카카오스타일의Vision&NLP팀리더로데이터리터러시,데이터패브릭,MLOps등관련프로젝트를진행하고있다.머신러닝·딥러닝을비롯해데이터품질관리,데이터통합,비즈니스인텔리전스등데이터통합에관심이있으며,기술공유및확장플러그인배포등으로개인이나조직이기술을보다쉽게이용하고활용할수있도록도움을주고있다.저서로《C#과파이썬을활용한OpenCV4프로그래밍》(위키북스,2021)이있다.

저자:김동화
고려대학교에서산업경영공학박사학위를취득했다.데이터기반으로제조,IT,금융분야에서발생하는다양한기술적문제를해결했으며,머신러닝·딥러닝분야에총6편의SCI논문을게재했다.현재는카카오스타일의Vision&NLP팀에서컴퓨터비전과딥러닝을담당하며패션속성추출,유사이미지추천및코디추천을위한다양한이커머스플랫폼과제를진행하고있다.컴퓨터비전,자연어처리,멀티모달학습을연구하고활용하는데관심이있다.

저자:송종민
동국대학교에서전자전기공학석사학위를취득했다.아크릴회사에서선임연구원으로근무하면서빅데이터포렌식및AI모델소형화프로젝트를진행했다.현재는카카오스타일의Vision&NLP팀에서컴퓨터비전과딥러닝을담당하며이미지데이터분석,유사이미지추천,모델서빙및배포자동화관련프로젝트를진행하고있다.인공지능기술을활용한생산성향상과비용최적화에관심이있다.

저자:진현두
학부생시절머신러닝한번공부해보지않겠냐는선배의권유로데이터사이언티스트의길로들어섰다.대학원시절특허를비롯한텍스트데이터를이용한경험을바탕으로주식회사공팔리터의AILab에서커머스리뷰데이터를이용한여러모델을구축했다.현재는공팔리터에서의경험을이용해카카오스타일의Vision&NLP팀에서사용자리뷰,상품정보등텍스트데이터를활용한딥러닝프로젝트를진행하고있다.AI콜로키엄,AWSCommunityDay등에서발표하며경험을나누는것의즐거움을배웠다.지능형검색시스템과VirtualTry-On등에관심이있다.

목차

[1부]파이토치시작하기

01장:인공지능과방법론
인공지능이란?
__인공지능역사
__인공지능활용분야
머신러닝시스템
__지도학습
__비지도학습
__준지도학습
__강화학습
머신러닝아키텍처
__데이터준비
__모델링
__모델평가
__모델배포
MLOps

02장:파이토치설치
파이토치란?
파이토치특징
파이토치설치
__파이토치CPU설치
__파이토치GPU설치
__GoogleColaboratory

03장:파이토치기초
텐서
__텐서생성
__텐서속성
__차원변환
__자료형설정
__장치설정
__장치변환
__넘파이배열의텐서변환
__텐서의넘파이배열변환
가설
__머신러닝에서의가설
__통계적가설검정사례
손실함수
__제곱오차
__오차제곱합
__평균제곱오차
__교차엔트로피
최적화
__경사하강법
__학습률
__최적화문제
__단순선형회귀:넘파이
__단순선형회귀:파이토치
데이터세트와데이터로더
__데이터세트
__데이터로더
__다중선형회귀
모델/데이터세트분리
__모듈클래스
__비선형회귀
__모델평가
__데이터세트분리
모델저장및불러오기
__모델전체저장/불러오기
__모델상태저장/불러오기
__체크포인트저장/불러오기
활성화함수
__이진분류
__시그모이드함수
__이진교차엔트로피
__이진분류:파이토치
__비선형활성화함수
순전파와역전파
__순전파계산
__오차계산
__역전파계산
__갱신결과비교
퍼셉트론
__단층퍼셉트론
__다층퍼셉트론
__퍼셉트론모델실습

04장:파이토치심화
과대적합과과소적합
__과대적합과과소적합문제해결
배치정규화
__정규화종류
__배치정규화풀이
가중치초기화
__상수초기화
__무작위초기화
__제이비어&글로럿초기화
__카이밍&허초기화
__직교초기화
__가중치초기화실습
정칙화
__L1정칙화
__L2정칙화
__가중치감쇠
__모멘텀
__엘라스틱넷
__드롭아웃
__그레이디언트클리핑
데이터증강및변환
__텍스트데이터
__이미지데이터
사전학습된모델
__백본
__전이학습
__특징추출및미세조정

[2부]자연어처리

05장:토큰화
단어및글자토큰화
__단어토큰화
__글자토큰화
형태소토큰화
__형태소어휘사전
__KoNLPy
__NLTK
__spaCy
하위단어토큰화
__바이트페어인코딩
__워드피스

06장:임베딩
언어모델
__자기회귀언어모델
__통계적언어모델
N-gram
TF-IDF
__단어빈도
__문서빈도
__역문서빈도
__TF-IDF
Word2Vec
__단어벡터화
__CBoW
__Skip-gram
__계층적소프트맥스
__네거티브샘플링
__모델실습:Skip-gram
__모델실습:Gensim
fastText
__모델실습
순환신경망
__순환신경망
__장단기메모리
__모델실습
합성곱신경망
__합성곱계층
__활성화맵
__풀링
__완전연결계층
__모델실습

07장:트랜스포머
Transformer
__입력임베딩과위치인코딩
__특수토큰
__트랜스포머인코더
__트랜스포머디코더
__모델실습
GPT
__GPT-1
__GPT-2
__GPT-3
__GPT3.5
__GPT-4
__모델실습
BERT
__사전학습방법
__모델실습
BART
__사전학습방법
__미세조정방법
__모델실습
ELECTRA
__사전학습방법
__모델실습
T5
__모델실습

[3부]컴퓨터비전

08장:이미지분류
AlexNet
__LeNet-5와AlexNet
__모델학습
__모델추론
VGG
__AlexNet과VGG-16
__모델구조및데이터시각화
__미세조정및모델학습
ResNet
__ResNet의특징
__모델구현
Grad-CAM
__클래스활성화맵
__Grad-CAM

09장:객체탐지
FasterR-CNN
__R-CNN
__FastR-CNN
__FasterR-CNN
__모델학습과정
__모델실습
SSD
__멀티스케일특징맵
__기본박스
__모델학습과정
__모델실습
FCN
__업샘플링
__모델구조
__모델실습
MaskR-CNN
__특징피라미드네트워크
__관심영역정렬
__마스크분류기
__모델실습
YOLO
__YOLOv1
__YOLOv2
__YOLOv3
__YOLOv4/YOLOv5
__YOLOv6/YOLOv7
__모델실습:YOLOv8

10장:비전트랜스포머
ViT
__합성곱모델과ViT모델비교
__ViT의귀납적편향
__ViT모델
__패치임베딩
__인코더계층
__모델실습
SwinTransformer
__ViT와스윈트랜스포머차이
__스윈트랜스포머모델구조
__모델실습
CvT
__합성곱토큰임베딩
__어텐션에대한합성곱임베딩
__모델실습

[4부]서비스모델링

11장:모델배포
모델경량화
__양자화
__지식증류
__텐서분해
__ONNX
모델서빙
__모델서빙웹프레임워크
__포스트맨
도커배포
__도커란?
__빌드및배포
데모애플리케이션
__스트림릿
__애플리케이션배포
__파이토치모델연동

부록A:파이토치라이트닝
__모델학습
__트레이너클래스

부록B:허깅페이스
__PreTrainedConfig클래스
__PreTrainedModel클래스
__PreTrainedTokenizer클래스
__PreTrainedFeatureExtractor클래스
__PreTrainedImageProcessor클래스
__Auto클래스
__트레이너클래스

부록C:파이토치이미지모델
__모델생성
__사전학습된모델
__미세조정

부록D:파이토치컴파일러

부록E:메모리부족

출판사 서평

이책에서다루는내용

머신러닝·딥러닝이해및파이토치를활용한심화실습
텍스트데이터의토큰화이해와텍스트임베딩실습
셀프어텐션을활용한트랜스포머모델의이해와트랜스포머기반언어모델실습
이미지분류모델이해와내부동작원리검증및시각화
경계상자탐지,의미론적분할,객체분할등의객체탐지모델이해
특징피라미드네트워크및관심영역정렬알고리즘을이해
트랜스포머구조를컴퓨터비전분야에적용한비전트랜스포머모델이해및실습
웹프레임워크와도커를활용한API온라인서빙
웹애플리케이션을통한딥러닝데모애플리케이션구축
경량화,파이토치라이트닝,허깅페이스,파이토치컴파일러등다양한관리도구및기법실습