Integrated Gradients
Integrated Gradients: Metodo che attribuisce la predizione alle feature integrando i gradienti lungo un percorso da un baseline. Calcola il contributo tra un input di riferimento e quello reale, soddisfacendo proprietà di completezza. La scelta del baseline è parte dell’interpretazione.
In English: Integrated gradientsLegge III · Come una rete impara dai datiCalcola il contributo tra un input di riferimento e quello reale, soddisfacendo proprietà di completezza. La scelta del baseline è parte dell’interpretazione.
Formula
IGᵢ(x) = (xᵢ−x′ᵢ) ∫₀¹ ∂F(x′+α(x−x′))/∂xᵢ dα
Esempi
- Baseline nera per immagini
- Token di riferimento per testo
- Attribuzione nei modelli differenziabili