5. Adagrad


6. Adadelta


7. RMSprop

8. Adam

9. AdaMax

10, Nadam
Adam과 네스테로프 가속 경사를 합친 방법

'Mathematics > 최적화' 카테고리의 다른 글
6. 옵티마이저(1) (0) | 2021.07.11 |
---|---|
5. 머신러닝에서 최적화 문제 (0) | 2021.07.11 |
4. 라그랑주 듀얼 함수 (0) | 2021.07.11 |
3. 라그랑주 프리멀 함수 (0) | 2021.07.11 |
2. 컨벡스 함수 (0) | 2021.07.11 |