딥러닝 초보자를 위한 엔비디아 가이드북

엔비디아 현업 아키텍트가 저술한 검증된 딥러닝 입문서

매그너스 에크만 , 이판호

에이콘출판사

$72.45

SKU

9791161757247

[Free shipping over $100]

Standard Shipping estimated by Fri 12/6 - Thu 12/12 (주문일로부 10-14 영업일)

Express Shipping estimated by Tue 12/3 - Thu 12/5 (주문일로부 7-9 영업일)

* 안내되는 배송 완료 예상일은 유통사/배송사의 상황에 따라 예고 없이 변동될 수 있습니다.

Publication Date	2023/02/28
Pages/Weight/Size	18823536mm
ISBN	9791161757247
Categories	IT 모바일 > 컴퓨터 공학

Skip to the end of the images gallery

Skip to the beginning of the images gallery

Description

복잡하지 않게 한 권으로 딥러닝을 배우고 싶은 사람을 위한 딥러닝 입문서다. 엔비디아 딥러닝 연구소(NVIDIA Deep Learning Institute)의 딥러닝 가이드 북을 번역한 이 책은 수식의 사용을 최대한 줄이면서, 딥러닝의 핵심 개념을 자세하게 설명하고 있어 딥러닝 입문자에게 적합하다. 또한 풍부하고 잘 짜인 파이썬 예제 코드는 학습의 폭을 넓히는 데 큰 도움이 될 것이다.

Contents

1장. 로젠블랫 퍼셉트론

2입력 퍼셉트론 예제
퍼셉트론 학습 알고리듬
퍼셉트론의 한계
여러 퍼셉트론 조합하기
선형대수로 퍼셉트론 구현하기
__벡터 표기법
__내적
__벡터를 2차원 행렬로 확장하기
__행렬-벡터 곱
__행렬-행렬 곱
__퍼셉트론을 위해 사용한 벡터와 행렬 연산의 요약
__행렬곱으로서의 내적
__다차원 텐서로 확장하기
퍼셉트론의 기하학적 해석
편향 항 이해하기
퍼셉트론 맺음말

2장. 기울기 기반 학습

퍼셉트론 학습 알고리듬의 직관적인 설명
미분 그리고 최적화 문제
경사 하강으로 학습 문제 풀기
__다차원 함수를 위한 경사 하강
네트워크에서의 상수와 변수
퍼셉트론 학습 알고리듬의 분석적인 설명
퍼셉트론 학습 알고리듬의 기하학적 설명
각기 다른 형태의 퍼셉트론 도표 다시 보기
패턴 식별에 퍼셉트론 사용하기
기울기 기반 학습의 맺음말

3장. 시그모이드 뉴런과 역전파

다수준 네트워크에서 경사 하강이 가능하도록 수정된 뉴런
어떠한 활성 함수를 사용해야 하는가
함수 합성과 연쇄법칙
역전파를 사용해 기울기 계산하기
__포워드 패스
__백워드 패스
__가중치 조정
층마다 복수의 뉴런이 있는 역전파
프로그래밍 예제: XOR 함수 학습하기
네트워크 아키텍처
역전파의 맺음말

4장. 다중클래스 분류에 적용된 완전 연결 네트워크

네트워크를 훈련시킬 때 쓰이는 데이터셋 소개
__데이터셋 살펴보기
__데이터에서 인간의 편향
__훈련 집합, 테스트 집합, 그리고 일반화
__초매개변수 튜닝과 테스트 집합 정보 유출
훈련과 추론
네트워크와 학습 알고리듬을 확장해 다중클래스 분류하기
숫자 분류를 위한 네트워크
다중클래스 분류를 위한 오차 함수
프로그래밍 예제: 손글씨 숫자 분류하기
미니배치 경사 하강
다중클래스 분류의 맺음말

5장. DL을 향해: 프레임워크 및 네트워크 미조정

프로그래밍 예제: DL 프레임워크로 이동하기
포화 뉴런과 기울기 소실 문제
포화 뉴런을 피하기 위한 초기화 및 정규화 기법
__가중치 초기화
__입력 표준화
__배치 정규화
포화 출력 뉴런의 영향을 완화하는 교차 엔트로피 손실 함수
__교차 엔트로피 손실 함수의 컴퓨터 구현
은닉 층에서 기울기 소실을 피하는 다른 활성 함수
학습을 개선하기 위한 경사 하강의 변형
실험: 네트워크 및 학습 매개변수 미조정
초매개변수 튜닝과 교차 검증
__검증 집합을 사용해 과적합 피하기
__훈련 데이터 사용을 개선하는 교차 검증
딥러닝을 향한 경로에 대한 맺음말

6장. 회귀에 적용된 완전 연결 네트워크

출력 유닛
__이진 분류를 위한 로지스틱 유닛
__다중클래스 분류를 위한 소프트맥스 유닛
__회귀를 위한 선형 유닛
보스턴 주택 데이터셋
프로그래밍 예제: DNN으로 주택 가격 예측하기
정칙화로 일반화 개선하기
실험: 주택 가격 예측을 위한 더 깊은 그리고 정칙화된 모델
출력 유닛과 회귀 문제의 맺음말

7장. 이미지 분류에 적용된 합성곱 신경망

CIFAR-10 데이터셋
합성곱 층의 특징과 기본 토대
특성 맵을 합성곱 층에 조합하기
합성곱 및 완전 연결 층을 네트워크로 조합하기
희소 연결과 가중치 공유의 효과
프로그래밍 예제: 합성곱 네트워크로 이미지 분류하기
합성곱 네트워크의 맺음말

8장. 더 깊은 CNN 및 사전 훈련된 모델

VGGNet
GoogLeNet
ResNet
프로그래밍 예제: 사전 훈련된 ResNet 구현 사용하기
전이 학습
CNN을 위한 역전파 및 풀링
정칙화 기법으로서의 데이터 증대
CNN이 저지르는 실수
깊이별 분리 가능 합성곱으로 매개변수 줄이기
EfficientNet으로 올바른 네트워크 디자인 균형 맞추기
더 깊은 CNN의 맺음말

9장. 순환신경망으로 시간 시퀀스 예측하기

피드포워드 네트워크의 한계
순환신경망
순환 층의 수학적 표현
층을 RNN에 조합하기
RNN을 보는 다른 시각 및 시간 전개
시간에 따른 역전파
프로그래밍 예제: 서적 매출 전망하기
__데이터 표준화 및 훈련 예제 만들기
__단순한 RNN 만들기
__순환이 없는 네트워크와 비교
__예제를 다중 입력 변수로 확장하기
RNN에서 데이터셋 고려사항
RNN의 맺음말

10장. 장단기 메모리

기울기를 건강하게 유지하기
LSTM 소개
__LSTM 활성 함수
__LSTM 셀의 네트워크 만들기
LSTM을 보는 다른 시각
관련 주제: 하이웨이 네트워크와 스킵 연결
LSTM의 맺음말

11장. LSTM과 빔 검색으로 하는 텍스트 자동완성

텍스트 인코딩
장기 예측과 자기회귀 모델
빔 검색
프로그래밍 예제: 텍스트 자동완성을 위해 LSTM 사용하기
양방향 RNN
입력 및 출력 시퀀스의 다른 조합
LSTM으로 하는 텍스트 자동완성의 맺음말

12장. 신경 언어 모델과 단어 임베딩

언어 모델 소개 및 사용 사례
다른 언어 모델의 예시
__n그램 모델
__스킵 그램 모델
__신경 언어 모델
단어 임베딩의 이점 및 동작 방식에 대한 인사이트
신경 언어 모델이 만든 단어 임베딩
프로그래밍 예제: 신경 언어 모델과 결과 임베딩
King - Man + Woman! = Queen
King - Man + Woman ! = Queen
언어 모델, 단어 임베딩, 인간 편향
관련 주제: 텍스트의 감정 분석
__단어주머니와 n그램 주머니
__유사도 지표
__BoW와 DL 조합하기
언어 모델과 단어 임베딩의 맺음말

13장. word2vec과 GloVe로부터의 단어 임베딩

언어 모델 없이 word2vec을 사용해 단어 임베딩 만들기
__언어 모델과 비교해 연산 복잡도 줄이기
__연속 단어주머니 모델
__연속 스킵 그램 모델
__계산 복잡도를 더욱 낮추기 위한 최적 연속 스킵 그램 모델
word2vec에 대한 추가적인 생각들
행렬 형식에서의 word2vec
word2vec 일단락
프로그래밍 예제: GloVe 임베딩의 속성 살펴보기
word2vec과 GloVe의 맺음말

14장. 시퀀스 투 시퀀스 네트워크와 자연어 번역

시퀀스 투 시퀀스 학습을 위한 인코더-디코더 모델
케라스 펑셔널 API 소개
프로그래밍 예제: 신경 머신 번역
실험 결과
중간 표현의 속성
언어 번역의 맺음말

15장. 어텐션과 트랜스포머

어텐션 배후의 근거
시퀀스 투 시퀀스 네트워크에서의 어텐션
__정렬 벡터 계산하기
__정렬 벡터의 수학적 표기 및 변형
__더 깊은 네트워크에서의 어텐션
__추가적인 고려사항
순환 네트워크의 대안
셀프 어텐션
멀티헤드 어텐션
트랜스포머
트랜스포머의 맺음말

16장. 이미지 캡셔닝을 위한 일대다 네트워크

이미지 캡셔닝 네트워크를 어텐션으로 확장하기
프로그래밍 예제: 어텐션 기반 이미지 캡셔닝
이미지 캡셔닝의 맺음말

17장. 추가적인 주제 메들리

오토인코더
__오토인코더의 사용 사례
__오토인코더의 다른 면들
__프로그래밍 예제: 이상치 탐지를 위한 오토인코더
멀티모달 학습
__멀티모달 학습의 분류 체계
__프로그래밍 예제: 멀티모달 입력 데이터로 분류하기
멀티태스크 학습
__멀티태스크 학습을 구현하는 이유
__멀티태스크 학습을 구현하는 방법
__다른 측면 그리고 기본적인 구현의 변형
__프로그래밍 예제: 단일 네트워크로 하는 멀티클래스 분류 및 질문 답변
네트워크 튜닝 과정
__더 많은 훈련 데이터를 모아야 하는 시기
신경 아키텍처 검색
__신경 아키텍처 검색의 주요 구성요소
__프로그래밍 예제: CIFAR-10 분류를 위한 아키텍처 검색
__신경 아키텍처 검색의 의의
맺음말

18장. 정리 및 다음 단계

여러분이 이제 알아야 할 것들
윤리적 AI 그리고 데이터 윤리
__찾아볼 문제
__질문 체크리스트
여러분이 아직 모르는 것들
__강화 학습
__변형 오토인코더 및 생성적 적대 네트워크
__뉴럴 스타일 트랜스퍼
__추천 시스템
__구어를 위한 모델
다음 단계

부록
부록 A. 선형 회귀와 선형 분류기
부록 B. 물체 탐지와 세분화
부록 C. word2vec과 GloVe 너머의 단어 임베딩
부록 D. GPT, BERT, RoBERTa
부록 E. 뉴턴-랩슨 대 경사 하강
부록 F. 숫자 분류 네트워크의 행렬 구현
부록 G. 합성곱 층을 수학적 합성곱과 연관시키기
부록 H. 게이트 순환 유닛
부록 I. 개발 환경 설정
부록 J. 치트 시트

Author

매그너스 에크만,이판호

NVIDIA의 아키텍처 디렉터다. 컴퓨터 엔지니어링 학위를 가졌으며 다수의 특허를 보유하고 있다. 1990년대 후반에 모국인 스웨덴에서 인공 신경망으로 처음 알려졌다. 그 뒤 몇몇 혁명적인 연산 분야에 손을 댄 뒤, 컴퓨터 아키텍처에 집중하며 아내 제니퍼, 아이들 세바스찬과 소피아, 애견 바벳과 함께 살고 있는 실리콘밸리로 이주했다. 이전에는 썬 마이크로시스템즈와 삼성 리서치 아메리카의 프로세서 디자인 및 R&D에서 일했으며, 두 회사를 시작하는 데 관여했고 그중 하나인 스카우트(Skout)는 더밋그룹(The Meet Group,Inc)이 인수했다. 현재는 NVIDIA에서 자율주행차부터 인공지능을 위한 데이터 센터에 이르기까지의 시장을 겨냥하는 칩의 CPU 성능과 전력 효율성을 연구하는 엔지니어링 팀을 이끌고 있다.

NVIDIA의 GPU 기술과 CUDA에 힘입어 과거 수년간 딥러닝 분야가 폭발적으로 커짐에 따라, 그는 컴퓨터 그래픽스를 넘어 확장하면서 DL 파워하우스가 되고 있는 회사의 가운데에 있는 자신을 발견했다. 이러한 여정의 일부로, 이 분야에서 가장 최근의 발전을 통해 자신을 최신의 상태로 유지하고자 노력했다. 에크먼은 스스로를 교육자라고 생각하고 있으며, 이 책을 집필하면서 AI에 대한 실제적인 훈련, 가속화된 연산 및 가속화된 데이터 과학을 제공하는 NVIDIA 딥러닝 연구소(DLI, Deep Learning Institute)와 협력했다. 또한 이 책을 자기 진도 온라인 과정의 기존 포트폴리오인 라이브 강사 주도 워크숍, 교육자 프로그램, 교습 도구에 추가하고자 하는 DLI의 계획에 매우 기뻐하고 있다.