Mathematics/최적화

6. 옵티마이저(1)

jwjwvison 2021. 7. 11. 18:37

1. 그래디언트 디센트 옵티마이저

 

2. 확률적 그래디언트 디센트

 

3. 모멘텀

 

4. 네스테로프 가속 경사(Nesterov Accelerated Gradient)