Michele LaurelliBlog

Context Window

Context Window: Quantità massima di token che un modello può considerare contemporaneamente tra istruzioni, contesto e output. Una finestra più ampia permette documenti e conversazioni più lunghi, ma aumenta memoria e calcolo e non garantisce che ogni dettaglio venga usato.

In English: Context windowLegge III · Come una rete impara dai dati

Una finestra più ampia permette documenti e conversazioni più lunghi, ma aumenta memoria e calcolo e non garantisce che ogni dettaglio venga usato. Riassunto, retrieval e ordinamento del contesto restano importanti.

Esempi

  • Prompt con documenti e risposta nella stessa finestra
  • Riassunto di messaggi precedenti
  • Selezione dei chunk più rilevanti