Batch Gradient Descent

/bætʃ ˈɡreɪdiənt dɪˈsɛnt/

Batch Gradient Descent: Una variante di gradient descent che calcola i gradienti usando l'intero dataset di training in ogni iterazione. Il Batch GD fornisce stime di gradiente stabili e accurate ma è computazionalmente costoso per dataset grandi. Garantisce convergenza al minimo globale per problemi convessi.

In English: Batch Gradient DescentLegge III · Come una rete impara dai dati

Il Batch GD fornisce stime di gradiente stabili e accurate ma è computazionalmente costoso per dataset grandi. Garantisce convergenza al minimo globale per problemi convessi.

Esempi

  • Training full batch su dataset piccoli
  • Analisi teorica
  • Ottimizzazione deterministica