Parametro

Valori apprendibili in un modello che sono ottimizzati durante il training (pesi e bias).

In English: Parameter

I parametri definiscono il modello. Numero di parametri indica capacità modello. Modelli grandi hanno miliardi di parametri.

Esempi

  • GPT-3: 175B parametri
  • Parametri peso e bias
  • Dimensione modello