Ottimizzatore Adam
/ˈædəm/
Un algoritmo di ottimizzazione con learning rate adattivo che combina momentum e RMSprop.
In English: Adam OptimizerAdam (Adaptive Moment Estimation) calcola learning rate adattivi per ogni parametro usando stime del primo e secondo momento. È l'ottimizzatore di default per molte applicazioni deep learning per la sua robustezza.
Esempi
- Training transformer
- Reti neurali profonde
- Ottimizzatore di default in molti framework