교육/혁펜하임의 AI DEEP DIVE
Chapter7 깊은 인공신경망의 고질적 문제와 해결방안
zzangyeah
2023. 2. 7. 09:20
728x90
chapter7-1 직관적으로 이해하는 vanishing gradient
chapter7-2 Vanishing Gradient의 해결방안 ReLU
chapter7-3 Vanishing gradient 실습 (layer별 gradient 크기 관찰)
chapter7-4 BN 직관적으로 이해하기 (왜 BN이 대박인가)
chapter7-5 Batch Normalization 실습 ("들"값의 histogram)
chapter7-6 Loss landscape 문제와 skip-connection (왜 Resnet이 아직까지도 사랑받는 모델일까?)
chapter7-7 Loss Landscape 실습
chapter7-8 Overfitting 개념과 Data augmentation
overfitting : training땐 잘했는데 test땐 못하는 것
overfitting 방지법
1. 모델 경량화 - 모델을 단순하게 다시 만들기
2. data augmentation
3. dropout
chapter7-9 Overfitting 방지 방안 - Dropout개념 및 실험
chapter7-10 Regularization의 개념 및 실험
본 게시글은 패스트캠퍼스 [혁펜하임의 AI DEEP DIVE] 체험단 활동을 위해 작성되었습니다.