신경망 모델은 기본적으로 손실 함수의 값을 최소화 하는 가중치를 찾는 방향으로 학습해 나간다. (전역 최소값)
대표적으로 경사하강법(Gradient Descent)의 경우, 기울기를 통해 가중치를 갱신하는데, 그 이유는 기울기가 경사 하강법에서 손실 함수 값을 줄일 수 있는 방향을 제시해주는 지표이기 때문,
'부록' 카테고리의 다른 글
| 기울기 소실 (0) | 2024.04.23 |
|---|---|
| Resnet 논문 리뷰 (0) | 2024.04.22 |
| Style GAN & Style GAN2 (1) | 2024.04.07 |
| LSTM (0) | 2023.08.02 |
| [Modeling] XGB Classifier + 그리드서치 / 베이지안 옵티마이저 (0) | 2023.03.18 |