Gradiente

Direzione e magnitudine dell'aumento più ripido nella funzione loss rispetto ai parametri.

I gradienti indicano come aggiustare i pesi per ridurre la loss. Calcolati via backpropagation. Si muove in direzione opposta (gradient descent).