--- title: "Come funzionano davvero gli LLM: token, contesto e il performance cliff" description: "Una guida in parole semplici sul funzionamento dei grandi modelli di linguaggio: cosa sono i token, come il context window li limita e perché i lunghi prompt peggiorano invece di migliorare." type: "article" locale: "it" category: "Grundlagen" canonical: "https://agenticschool.dev/it/sapere/how-llms-work" datePublished: "2026-06-12" dateModified: "2026-06-12" --- # Come funzionano davvero gli LLM: token, contesto e il performance cliff - Category: Grundlagen - Reading time: 9 min - Published: 2026-06-12 - Updated: 2026-06-12 - Keywords: LLM, tokens, context window, performance cliff, prompt engineering, AI basics - Canonical URL: https://agenticschool.dev/it/sapere/how-llms-work - Locale: it > Una guida in parole semplici sul funzionamento dei grandi modelli di linguaggio: cosa sono i token, come il context window li limita e perché i lunghi prompt peggiorano invece di migliorare. Un grande modello di linguaggio fa una cosa notevolmente bene: prevede il prossimo token a partire da tutto ciò che ha visto. Appena capisci i token, il context window e il performance cliff sulle lunghe entrate, lavorare con qualsiasi modello smette di somigliare a tirare a indovinare. Questa guida spiega i tre in parole semplici, con i pochi numeri che contano davvero nel 2026, così tu piloti bene ogni modello e smetta di rimproverare allo strumento un comportamento perfettamente prevedibile. ## Token, non parole Un modello non vede mai le parole come te. Il tuo testo viene prima diviso in token - blocchi di caratteri frequenti, grosso modo quattro caratteri o tre quarti di una parola inglese. Due cose si misurano in token: il prezzo che paghi e la quantità che un modello può trattenere in una volta. È per questo che un modello economico può diventare caro sui lunghi documenti, e perché il codice o altre lingue costano più token della stessa idea in inglese semplice. Il prezzo è indicato per milione di token e ripartito tra Input e Output, con l'Output che costa di solito un multiplo dell'Input. ## Il context window Il context window è il numero massimo di token che un modello può considerare in una volta: le tue istruzioni, i file incollati, la cronologia della conversazione e la risposta che scrive, tutto sommato. Consideralo la scrivania del modello. Tutto ciò che è pertinente deve stare sulla scrivania allo stesso tempo, e quando la scrivania è piena, qualcosa cade e viene di fatto dimenticato. È per questo che una lunga chat perde il filo delle istruzioni iniziali. Nel 2026, un modello forte ha tipicamente una finestra di circa 200.000 token, alcuni vantano un milione o più. ## Il performance cliff Più contesto non è la stessa cosa di risposte migliori. Man mano che riempi un context window, la qualità cala ben prima di raggiungere il limite netto. I modelli prestano più attenzione all'inizio e alla fine di una lunga entrata e diventano sfocati nel mezzo - uno schema spesso chiamato "lost in the middle". Una finestra di un milione di token suona magnifica, ma la qualità di risposta con una finestra stipata è spesso peggiore che con un prompt conciso e ben scelto. È il performance cliff, e la lezione è netta: la pertinenza batte il volume ogni volta. ## Perché gli enormi context window deludono Vedrai modelli vantare enormi context window e supporrai che siano strettamente migliori. In pratica, spesso deludono, per la ragione qui sopra. Un modello può tecnicamente accettare un milione di token e comunque rispondere meno bene di un prompt mirato, perché la qualità cala man mano che la finestra si riempie. Tratta un'enorme finestra come un'assicurazione occasionale per un documento davvero grande, non come un permesso di smettere di curare ciò che invii. ## Come usarlo in pratica Le lezioni pratiche sono semplici. Invia meno, ma il meno giusto. Inizia conversazioni fresche invece di impilare sulle lunghe. Quando una risposta è cattiva, le tue prime due domande sono se il tuo contesto è troppo grande e se l'informazione pertinente si trova bene vicino all'inizio o alla fine. In un workflow che gira migliaia di volte, accorciare un prompt gonfio può ridurre drasticamente la tua fattura e migliorare le risposte allo stesso tempo. ## Perché conta per il tuo business I token sono denaro e la disciplina di contesto è qualità. Un team che lo capisce scrive prompt più concisi, sceglie modelli più economici per le task semplici e ottiene risultati più affidabili, quindi meno riprese. Capire il cliff è di gran lunga la cosa a maggior leva che una fondatrice non tecnica possa imparare prima di mettere l'IA su grande scala, perché cambia ogni decisione a valle su modelli, prompt e agenti. ## FAQ ### Cos'è un token in parole semplici? Un token è un blocco di caratteri frequente, grosso modo quattro caratteri o tre quarti di una parola inglese. I modelli leggono e vengono fatturati in token, non in parole, quindi le parole lunghe o insolite e il codice costano più token delle parole corte e frequenti. ### Cos'è un context window? È il numero massimo di token che un modello può considerare in una volta, compresi il tuo prompt, i file incollati, la conversazione fino a quel punto e la risposta che scrive. Quando si riempie, il modello dimentica di fatto il contenuto più vecchio. ### Perché i lunghi prompt danno risposte peggiori? A causa del performance cliff. Più il context window si riempie, più la qualità cala, soprattutto per l'informazione sepolta nel mezzo. Un prompt corto con esattamente il contesto giusto batte un enorme prompt quasi ogni volta. ### I modelli con un milione di token di contesto sono migliori? Non automaticamente. Possono accettare molto più testo, ma la qualità cala comunque man mano che la finestra si riempie, quindi un'enorme finestra stipata risponde spesso meno bene di un prompt conciso e mirato. Tratta le grandi finestre come un'assicurazione, non come un piano di lavoro.