Top-K Sampling

Tecnica generazione testo campionando solo dai K token successivi più probabili.

In English: Top-K Sampling

Restringe sampling ai top K token per probabilità. Riduce token improbabili mantenendo diversità. Comune: K=40-50.

Esempi

  • K=50 per generazione bilanciata
  • Generazione testo diversa
  • Evitare token rari