Perplexity

Misurazione di quanto bene un modello probabilistico predice un campione, per valutare language model.

In English: Perplexity

Perplexity = exp(cross_entropy). Perplexity più bassa indica predizione migliore. Comunemente usata per valutazione LM.

Esempi

  • Valutazione language model
  • Metrica performance GPT
  • Qualità generazione testo