In breve
Un context window è la quantità massima di testo che un modello di IA può considerare in una volta, misurata in token. Include tutto ciò che è in gioco: il System Prompt, i file o dati che incolli, la conversazione fino a quel punto e la risposta che il modello sta scrivendo. Consideralo la memoria di lavoro del modello: tutto ciò che è nella finestra può influenzare la risposta, e appena la finestra è piena, il contenuto più vecchio esce di fatto dal campo. Conoscere la dimensione del context window e pilotare cosa vi metti è centrale per risultati buoni e sostenibili.
Perché il context window conta
Il context window pone un limite netto a ciò che il modello può considerare in una volta. Se le tue istruzioni, il tuo codice e la cronologia lo superano, qualcosa deve essere tagliato o riassunto, e il modello può perdere dettagli che avevi dato prima. È per questo che le lunghe chat che si dilungano perdono il filo, e perché una conversazione fresca e mirata batte spesso l'impilare su una vecchia.
- Tutto conta: System Prompt, file incollati, cronologia e output si dividono la finestra.
- Quando si riempie, il contenuto più vecchio viene tagliato o compattato e può essere dimenticato.
- Più grande non è sempre meglio: una finestra stipata può comunque seppellire il dettaglio decisivo.
Dimensioni e il problema del "lost in the middle"
I context window sono cresciuti, con modelli di punta nel 2026 che offrono centinaia di migliaia di token, e alcuni che raggiungono il milione, abbastanza per contenere un'intera codebase. Ma più spazio non è gratis: i modelli possono prestare meno attenzione all'informazione sepolta nel mezzo di un lungo contesto, un effetto spesso chiamato "lost in the middle". Mettere il contesto più importante vicino all'inizio o alla fine e tenerlo pertinente batte quindi ancora il riversare tutto.
Pilotare il context window
Gli Agent Harness ci mettono molto impegno: compattano i passi vecchi in riepiloghi, tagliano il contenuto non pertinente e deportano il lavoro laterale rumoroso verso i subagent, così la finestra principale resti pulita. La regola pratica per te è la stessa dei costi: invia meno testo, ma più pertinente. Una buona gestione del contesto è una disciplina a sé, a volte chiamata Context Engineering, e una delle competenze a maggior leva per costruire con gli agenti.