Termine di Bias

/ˈbaɪəs tɜːrm/

Un parametro apprendibile addizionale nelle reti neurali che permette di shiftare la funzione di attivazione.

In English: Bias Term

I termini di bias permettono ai neuroni di attivarsi anche quando tutti gli input sono zero. Ogni neurone ha tipicamente un bias. Aumentano la flessibilità del modello e sono cruciali per fittare dati non centrati sullo zero.

Esempi

  • Trasformazione lineare: y = Wx + b
  • Bias in ogni layer
  • Parametro offset