DIFFUSION MODEL을 다양한 분야에 적용하는 방법을 포괄적으로 소개하며, AIGC(AI Generated Content: 인공지능 생성 콘텐츠)와 관련 기술, 확산 모델의 기초, 확산 모델의 효율적인 샘플링, 확산 모델의 가능성 극대화, 특수 구조를 가진 데이터에 확산 모델 적용, 확산 모델과 다른 생성 모델과의 상관관계, 확산 모델의 응용, 확산 모델의 미래 등을 다루며, 확산 모델의 주요 연구 분야를 파악하는 데 도움이 될것이다.
Contents
1장. AIGC 및 관련 기술
1.1 AIGC 소개 2
1.2 확산 모델링 소개 4
2장. 확산 모델링의 기초
2.1 노이즈 제거 확산 확률 모델 10
2.2 스코어 기반 생성 모델 22
2.3 확률 미분 방정식 25
3장. 확산 모델링을 위한 효율적인 샘플링
3.1 미분 방정식 50
3.2 결정론적 샘플링 52
3.2.1 확률 미분 방정식 솔버 52
3.2.2 상미분 방정식 솔버 60
3.3 학습 기반 샘플링 66
3.3.1 개별 모드 66
3.3.2 절단 확산 68
3.3.3 지식 증류 75
4장. 확산 모델에 대한 우도 극대화
4.1 우도 함수 최대화하기 82
4.2 노이즈 추가 전략의 최적화 84
4.3 역 분산 학습 88
4.4 정확한 로그 우도 추정 100
5장. 특수한 구조의 데이터에 확산 모델링 적용하기
5.1 불연속형 데이터 106
5.2 불변 구조의 데이터 110
5.3 스트리밍 구조의 데이터 118
5.3.1 알고 있는 흐름 패턴 118
5.3.2 알 수 없는 흐름 패턴 119
6장. 다른 생성 모델과 관련된 확산 모델
6.1 다양한 자동 인코더 및 확산 모델 126
6.2 적대 신경망 및 확산 모델 생성하기 128
6.3 정규화된 흐름 및 확산 모델 135
6.4 자동 회귀 및 확산 모델 139
6.5 에너지 기반 모델 및 확산 모델 140
7장. 확산 모델링 적용
7.1 무조건 확산 모델과 조건부 확산 모델 비교 144
7.2 컴퓨터 비전 145
7.2.1 이미지 초해상도, 이미지 복원 및 이미지 번역 145
7.2.2 의미적 분할 151
7.2.3 비디오 생성 154
7.2.4 포인트 클라우드 완성 및 포인트 클라우드 생성 157
7.2.5 이상 탐지 160
7.3 자연어 처리 162
7.4 시간적 데이터 모델링 168
7.4.1 시계열 보간 168
7.4.2 시계열 예측 170
7.5 멀티모달 학습 172
7.5.1 텍스트-대-이미지 생성 172
7.5.2 텍스트-음성 변환 생성 180
7.5.3 장면 그래프에서 이미지 생성까지 182
7.5.4 텍스트-3D 콘텐츠 생성 184
7.5.5 텍스트-바디 모션 생성 185
7.5.6 텍스트-비디오 생성 185
7.6 강건 학습 187
7.7 융합 애플리케이션 188
7.7.1 인공지능 신약 개발 188
7.7.2 의료 영상 195
8장. 확산 모델링의 미래 - GPT와 대형 모델
8.1 사전 학습 기법 소개 201
8.1.1 생성적 사전 학습 및 대조적 사전 학습 202
8.1.2 병렬 학습 기법 206
8.1.3 미세 조정 기술 209
8.2 GPT 및 대형 모델 210
8.2.1 GPT-1 211
8.2.2 GPT-2 214
8.2.3 GPT-3 및 대형 모델 217
8.2.4 InstructGPT 및 ChatGPT 225
8.2.5 비주얼 채팅GPT 229
8.3 GPT 및 대형 모델 기반 확산 모델링 232
8.3.1 알고리즘 연구 232
8.3.2 패러다임 적용하기 233
찾아보기 235
Author
양링,장지롱,장웬타오,빈쿠이,신민정,안가영,류태선
북경대학교에서 박사 학위를 받았으며, 연구 분야는 머신러닝과 생성 AI입니다. ICML, CVPR 등 유명 AI 학회 및 저널에 단독 저자로 여러 편의 논문을 발표했습니다. TPAMI, ICML, NeurIPS, CVPR, KDD, AAAI 등 여러 학회와 저널의 프로그램 위원 및 심사위원으로 장기간 활동했으며, 현재 OpenAI, 스탠포드 대학교 및 기타 AI 연구 기관과 장기적인 협력을 진행하고 있습니다.
북경대학교에서 박사 학위를 받았으며, 연구 분야는 머신러닝과 생성 AI입니다. ICML, CVPR 등 유명 AI 학회 및 저널에 단독 저자로 여러 편의 논문을 발표했습니다. TPAMI, ICML, NeurIPS, CVPR, KDD, AAAI 등 여러 학회와 저널의 프로그램 위원 및 심사위원으로 장기간 활동했으며, 현재 OpenAI, 스탠포드 대학교 및 기타 AI 연구 기관과 장기적인 협력을 진행하고 있습니다.