그래프 신경망 입문

즈위안리우

ZhiyuanLiu
칭화대학교컴퓨터공학과부교수다.칭화대학교컴퓨터공학과에서2006년에학사,2011년에박사학위를받았다.관심연구분야는자연어처리와소셜컴퓨팅이다.IJCAI,AAAI,ACL,EMNLP를포함해학회와저널에60편이상의논문을발표했다.

1장.서론
1.1동기
1.1.1합성곱신경망
1.1.2네트워크임베딩
1.2관련연구

2장.수학및그래프기초
2.1선형대수학
2.1.1기본개념
2.1.2고유분해
2.1.3특잇값분해
2.2확률
2.2.1기본개념과공식
2.2.2확률분포
2.3그래프이론
2.3.1기본개념
2.3.2그래프의대수적표현

3장.신경망기초
3.1뉴런
3.2역전파
3.3신경망

4장.기본그래프신경망
4.1서론
4.2모델
4.3한계

5장.그래프합성곱네트워크
5.1스펙트럼방법
5.1.1스펙트럼네트워크
5.1.2ChebNet
5.1.3GCN
5.1.4AGCN
5.2공간방법
5.2.1뉴럴FPS
5.2.2PATCHY-SAN
5.2.3DCNN
5.2.4DGCN
5.2.5LGCN
5.2.6MoNet
5.2.7GraphSAGE

6장.그래프순환네트워크
6.1게이트그래프신경망
6.2Tree-LSTM
6.3그래프LSTM
6.4S-LSTM

7장.그래프어텐션네트워크
7.1GAT
7.2GaAN

8장.그래프잔차네트워크
8.1하이웨이GCN
8.2지식점프네트워크
8.3DeepGCNs

9장.다양한그래프종류
9.1유향그래프
9.2이종그래프
9.3에지정보가있는그래프
9.4동적그래프
9.5다차원그래프

10장.고급학습방법
10.1샘플링
10.2계층적풀링
10.3데이터증강
10.4비지도학습

11장.일반적인프레임워크
11.1메시지전달신경망
11.2비지역신경망
11.3그래프네트워크


12장.응용:구조시나리오
12.1물리
12.2화학과생물
12.2.1분자핑거프린트
12.2.2화학반응예측
12.2.3약물추천
12.2.4단백질과분자상호작용예측
12.3지식그래프
12.3.1지식그래프채우기
12.3.2귀납지식그래프임베딩
12.3.3지식그래프정렬
12.4추천시스템
12.4.1행렬채우기
12.4.2소셜추천

13장.응용:비구조시나리오
13.1이미지
13.1.1이미지분류
13.1.2시각적추론
13.1.3의미구분
13.2문자
13.2.1문자분류
13.2.2시퀀스레이블링
13.2.3신경기계번역
13.2.4관계추출
13.2.5사건추출
13.2.6사실확인
13.2.7그밖의응용

14장.응용:기타시나리오
14.1생성모델
14.2조합적최적화

15장.오픈소스
15.1데이터셋
15.2구현

16장.결론

◈이책에서다루는내용◈

그래프는물리적시스템모델링,분자구조핑거프린트학습,트래픽네트워크제어,소셜네트워크의친구추천처럼복잡하게얽혀있는실생활문제들을표현하기에적합한데이터구조다.이런문제들을해결하기위해서는엄청난수의관계정보를갖고있는비유클리드그래프데이터를다뤄야하는데,전통적인딥러닝모델인합성곱신경망이나순환신경망으로해결하기에는한계가있다.일반적으로그래프의노드는네트워크임베딩방법같은비지도표현학습에서는잘다룰수없는유용한특성정보를담고있다.그래프신경망은특성전파와결합으로노드의특성정보와그래프의구조를결합해그래프를잘표현하게끔만들어졌다.확실한성능과높은해석가능성덕분에그래프신경망이최근다양한그래프분석에적용되고있다.
이책은그래프신경망의기본개념,모델,응용을포괄적으로다룬다.가장기본이되는그래프신경망과그변형인그래프합성곱네트워크(graphconvolutionalnetwork),그래프순환네트워크(graphrecurrentnetwork),그래프어텐션네트워크(graphattentionnetwork),그래프잔차네트워크(graphresidualnetwork)를설명한다.다양한그래프타입에맞는변형모델과심화된학습모델도제공된다.그래프신경망이적용되는분야를구조적,비구조적,기타시나리오로분류한다음각각을해결하는방법을알려준다.마지막장에서는관련된오픈소스와앞으로의전망을다룬다.

◈이책의구성◈

1장에서개요를살펴본후2장에서는수학과그래프이론에대한기초지식을소개한다.3장에서신경망의기초를살펴보고,4장에서GNN의기본형태를알아본다.5장,6장,7장,8장에서네종류의모델을소개한다.9장과10장에서다른그래프종류의변형과고급학습방법을설명한다.그리고11장에서일반적인GNN프레임워크를설명한다.12장,13장,14장에서구조적시나리오,비구조적시나리오,그외시나리오에대한GNN의응용을알아본다.15장에서는몇가지오픈소스를제공한다.