Materiale didattico interattivo · M1-T1-MLC3

Che cos’è un LLM?

Come i modelli linguistici generano testo – e perché hanno allucinazioni

Autore: Zsolt LengyeliTStudy Hungary Training and Research Centre
Revisore: Mária HartyányiiTStudy Hungary Training and Research Centre

Fasi principali della creazione di un LLM: filtraggio dei testi web, tokenizzazione, addestramento e sviluppo di un assistente conversazionale. — Dalla selezione dei testi alla creazione di un assistente conversazionale.

Obiettivo di apprendimento

Chatbot come ChatGPT, Claude o Gemini rispondono con un linguaggio fluente e sicuro anche quando sbagliano. Attraverso esempi concreti scoprirai come funzionano i modelli linguistici di grandi dimensioni, perché possono generare informazioni inesatte o inventate e come verificarne i risultati.

Al termine del materiale sarai in grado di

definire i concetti di modello linguistico di grandi dimensioni e di token;
spiegare il principio della previsione del token successivo;
riconoscere le forme tipiche e i segnali di allarme delle allucinazioni;
utilizzare strategie e strumenti pratici per verificare i risultati dell’IA prima dell’uso in classe.

Perché è importante capirne il funzionamento?

Il chatbot nel lavoro quotidiano

Il 30 novembre 2022 è stata rilasciata la prima versione pubblica di ChatGPT: nel giro di cinque giorni si era registrato un milione di persone. Da allora i modelli linguistici di grandi dimensioni sono diventati strumenti di lavoro quotidiani.

Le loro risposte sono ben strutturate e sicure di sé. Una risposta sbagliata, però, può sembrare plausibile quanto una risposta giusta.

Il punto di vista del docente

«Come faccio a sapere che è giusto?»

Non serve conoscere la matematica alla base dei modelli. Capire le caratteristiche principali del loro funzionamento aiuta a riconoscere perché sono così bravi con le lingue, perché a volte inventano e perché verificarne i risultati è una responsabilità professionale.

Fluidità e sicurezza non sono, da sole, una prova di correttezza.

La domanda giusta non è «sembra giusto?», ma «come faccio a sapere che è giusto?».Il principio di verifica del materiale didattico

Dalle tavolette d’argilla ai modelli linguistici

Fin dall’invenzione della scrittura, l’umanità cerca di conservare, tramandare e rendere accessibile il sapere. Ogni nuova tecnologia ha ridotto una barriera diversa.

Il percorso della conservazione e dell’accesso al sapere umano: tavolette d’argilla, libri, internet e modelli linguistici di grandi dimensioni. — Conservare il sapere umano: dalle tavolette d’argilla ai modelli linguistici. Fonte dell’immagine: ChatGPT.

Scrittura

Intorno al 3200 a.C., in Mesopotamia, le tavolette d’argilla cuneiformi permisero al sapere di sopravvivere alla memoria umana. Il papiro e la pergamena lo resero più trasportabile, ma l’accesso rimase riservato a pochi.

Libro

Nel Medioevo i codici erano copiati a mano, rari e costosi. La stampa del XV secolo, seguita dalla diffusione delle biblioteche, dell’istruzione e dell’alfabetizzazione, portò i testi a molte più persone.

Internet

Alla fine del XX secolo, la digitalizzazione e internet resero rapidamente disponibili enormi quantità di informazioni. La sfida divenne orientarsi, comprenderle e valutarne l’affidabilità.

LLM

Possiamo porre domande nel linguaggio quotidiano, chiedere approfondimenti, esempi, traduzioni o spiegazioni adatte al nostro livello. I modelli possono ridurre le difficoltà legate sia alla ricerca sia alla comprensione delle informazioni.

Come nasce un modello linguistico di grandi dimensioni?

Un modello linguistico di grandi dimensioni – in inglese Large Language Model, abbreviato LLM – è un sistema di IA addestrato su enormi quantità di testi, capace di elaborare e generare linguaggio. I parametri sono valori numerici modificati durante l’addestramento; i modelli più grandi possono contenerne centinaia di miliardi.

Il processo di creazione di un modello: raccolta e filtraggio dei testi web, tokenizzazione, addestramento e sviluppo di un assistente conversazionale. — Le principali fasi di sviluppo di un modello linguistico di grandi dimensioni.

01 · Raccolta e filtraggio dei dati

Preparare i dati di addestramento

Gli sviluppatori raccolgono grandi quantità di testi, per esempio dal web pubblico. Filtrano contenuti di scarsa qualità, duplicati e dati personali. Possono restare decine di terabyte di testo.

Le informazioni assenti dai dati o successive all’addestramento non diventano automaticamente conoscenze del modello. Il limite temporale dei dati è chiamato data limite delle conoscenze (knowledge cutoff).

02 · Tokenizzazione

Dal testo a una sequenza di numeri

Il testo viene suddiviso in piccole unità, a ciascuna delle quali viene assegnato un numero identificativo. Il modello lavora con questi identificativi dei token.

Un token può essere un frammento di parola, una parola o un segno di punteggiatura. Una parola italiana lunga viene spesso suddivisa in più token.

03 · Pre-addestramento

Prevedere il token successivo

Il modello riceve una sequenza di token e cerca di prevedere quello successivo; poi i parametri vengono modificati in base all’errore. Questo processo si ripete un numero enorme di volte.

Il risultato è un completatore di testo molto sofisticato, che richiede ulteriore addestramento per diventare un assistente.

04 · Post-addestramento

Creare un assistente utile

Esempi di domande e risposte redatti con cura insegnano al modello a rispondere in modo utile e cortese e a riconoscere quando rifiutare una richiesta.

Persone o modelli valutatori mettono in ordine risposte alternative; anche questi riscontri contribuiscono a orientare il comportamento del modello.

Il modello lavora con i token

Che cos’è un token?

Un token è una piccola unità di elaborazione del testo. Un tokenizer suddivide il testo e assegna a ogni unità un identificativo univoco.

Il messaggio diventa così una sequenza di numeri, per esempio [15339, 1917, 264, 3918]. La suddivisione esatta e gli identificativi dipendono dal tokenizer utilizzato.

Un vocabolario tipico può contenere circa centomila token. L’esempio di GPT-4 riportato nella fonte cita un dizionario di 100.277 elementi: questa dimensione non vale per tutti i modelli.

Perché conta?

Un token non coincide con una lettera o una parola

Una parola italiana lunga può essere suddivisa in più token. Per il modello, le sue lettere non sono necessariamente unità separate.

Questo può contribuire agli errori quando gli chiediamo quante volte una lettera compare in una parola.

La generazione della risposta segue il processo inverso: il modello produce token e il programma li riconverte in testo leggibile.

Proviamo!

Osserva come viene suddiviso il testo

Apri il sito interattivo Tiktokenizere scegli un tokenizer.
Inserisci una breve frase e una parola italiana lunga, per esempio «precipitevolissimevolmente».
Osserva i frammenti di parola, gli identificativi e il numero dei token. Confrontali con il numero di lettere e di parole.

Tokenizer diversi possono produrre suddivisioni diverse. Lo strumento si apre in un’altra scheda; il materiale didattico è utilizzabile anche in locale.

Generare una risposta: un token alla volta

Dopo il tuo messaggio, il modello assegna una probabilità a ogni possibile token successivo. Ne sceglie uno, lo aggiunge al testo e ripete la previsione a partire dal testo aggiornato.

Quella che sullo schermo vediamo come «digitazione» è l’arrivo dei token uno dopo l’altro.

Il modello prosegue il testo sulla base degli schemi appresi. Senza usare strumenti, non consulta un regolamento per trovare la frase successiva.

Previsione del token successivo: il modello assegna un punteggio alle possibili continuazioni del testo e ne sceglie una. — Il modello assegna un punteggio alle possibili continuazioni e ne aggiunge una al testo.

Esempio illustrativo

Quale continuazione si adatta alla frase?

«Prima di tagliare il tubo d’acciaio con la smerigliatrice angolare, indossa sempre …»

Scegli una continuazione per visualizzare la spiegazione.

Questa è una dimostrazione preparata in anticipo. I pulsanti mostrano parole intere che, in un modello reale, possono essere composte da più token.

Tre conseguenze di questo funzionamento

01

Le risposte possono variare

Il modello non sceglie sempre il token più probabile in assoluto. La stessa domanda può quindi produrre risposte diverse.

Le differenze fra risposte ripetute possono essere un segnale di allarme; la loro concordanza, da sola, non ne dimostra la correttezza.

02

I passaggi intermedi possono aiutare

La spiegazione dei passaggi fornisce al modello ulteriori token e risultati intermedi. Questo può aiutare a risolvere un compito complesso.

I modelli di ragionamento possono eseguire calcoli intermedi prima della risposta finale. Una spiegazione più lunga non garantisce comunque la correttezza.

03

La memoria funziona diversamente

Il modello si basa sui parametri appresi e sul contesto testuale che riceve in quel momento.

Ricerca web, esecuzione di codice o file allegati possono dare accesso a informazioni aggiornate. Il contesto della conversazione è trattato nel materiale M1-T1-MLC5.

Nell’esempio della fonte, tre macchine impiegherebbero da sole 12, 8 e 6 ore per lo stesso lavoro. Chiedendo solo il risultato, il modello ha risposto 3,43 ore; permettendogli di procedere passo dopo passo, è arrivato al risultato corretto. Supponendo produttività costanti e sommabili, la produttività oraria complessiva è: 1/12 + 1/8 + 1/6 = 3/8. Il tempo è 8/3 ore, cioè 2 ore e 40 minuti. È un esempio: resta necessario verificare separatamente i passaggi e il calcolo.

Perché l’IA ha le allucinazioni?

Per allucinazione si intende un contenuto dell’IA fluente, coerente e plausibile, ma errato nei fatti o non supportato da fonti affidabili.

Il modello genera testo sulla base degli schemi statistici appresi. La generazione, da sola, non significa che ogni affermazione venga verificata rispetto alla realtà.

Negli esempi di addestramento, alle domande seguono spesso risposte sicure: il modello può quindi produrre un testo che ha la forma di una risposta anche quando non dispone di informazioni affidabili.

Illustrazione del fenomeno delle allucinazioni tratta dal materiale di riferimento. — Un’illustrazione che richiama le allucinazioni umane. Nell’IA il processo sottostante è diverso. Fonte dell’immagine: ChatGPT.

Perché dire che «l’IA mente» è fuorviante?

Un testo errato non implica un’intenzione umana o uno scopo di inganno. Il modello crea risposte plausibili a partire da schemi appresi; qui l’allucinazione non è un’esperienza dell’immaginazione umana.

Il ruolo dell’incertezza

Tirare a indovinare può essere premiato

Secondo Kalai e colleghi (2025), i metodi più diffusi di addestramento e valutazione possono incentivare il tirare a indovinare anziché l’ammettere l’incertezza.

I modelli più recenti possono segnalare più spesso di non avere informazioni, ma il problema non è scomparso.

Plausibili ma sbagliate: esempi tipici

Una risposta frutto di allucinazione può avere lo stesso tono e formato di una risposta corretta. Non bisogna cercare soltanto errori evidenti.

Un decreto inventato può avere numero, data e articolo plausibili. Un valore tecnico errato può rientrare nell’intervallo abituale. Un passaggio di sicurezza mancante può passare inosservato.

Illustrazione del rischio delle risposte dell’IA inventate che sembrano ufficiali e complete. — Una risposta può sembrare ufficiale finché qualcuno non ne verifica la fonte.

Quando è più probabile un errore?

01

Argomento raro, locale o recente

Normative nazionali, procedure aziendali, modifiche del mese scorso o dettagli professionali poco comuni: le informazioni necessarie possono mancare nei dati di addestramento.

02

Richiesta di dati precisi

Per numeri, nomi, citazioni, riferimenti o valori prescritti, anche una piccola differenza conta. Un intervallo plausibile non equivale a un dato attendibile.

03

Presupposto falso

La domanda può partire da un fatto inesistente. Il modello può accettarlo e costruire una risposta coerente anche su questa premessa errata.

Poni questa domanda a un chatbot!

Dove serve la verifica più attenta?

Raggruppa i principali ambiti e tipi di compito in base a quanto tendono a essere affidabili le risposte di ChatGPT. Crea una tabella che mostri l’intervallo di affidabilità stimato, il principale rischio di errore e il livello di verifica necessario. Considera le percentuali come risultati misurati solo se supportate da ricerche affidabili; in caso contrario, indicale chiaramente come stime.

Il tasso di errore del 5–15% nella programmazione e quello fino al 60% per gli argomenti recenti, citati nella fonte, sono esempi di una risposta generata: qui non hanno una base di misurazione verificata. Non sono caratteristiche generali dei modelli. Chiedi la ricerca, il modello esaminato, i compiti e il metodo di misurazione; in loro assenza considera i valori come stime e verifica anche la tabella.

Individuare gli errori e verificare i risultati

La verifica serve a stabilire se una risposta è corretta, documentabile e utilizzabile per il compito.

Per prima cosa evidenzia fatti, numeri, nomi, riferimenti e istruzioni di sicurezza. Devi verificarli uno per uno.

L’IA può preparare una bozza; il docente valida il contenuto.

Illustrazione della verifica delle risposte dell’IA: controllo delle fonti, domande di approfondimento e uso degli strumenti. — Verifica la fonte, poni domande di approfondimento, usa gli strumenti e solo dopo porta il contenuto in classe.

01 · Fonti

Apri il riferimento!

Il documento esiste? Dice davvero ciò che afferma l’IA? Confronta la risposta con il manuale del produttore, la norma tecnica, il libro di testo o il programma di studio.

02 · Approfondimento

Rendi visibile l’incertezza!

«Su quali parti non sei sicuro?» «Da dove viene questo valore?» «Che cosa cambierebbe se…?» Ripeti la domanda in una nuova chat o con un altro modello. Una contraddizione è un segnale di allarme; la concordanza non è una prova.

03 · Strumenti

Chiedi una ricerca o l’esecuzione di codice!

Per i fatti recenti chiedi una ricerca web; per i calcoli, un programma e la sua esecuzione, se l’applicazione lo consente. Verifica anche le fonti utilizzate, i dati di partenza e le ipotesi.

04 · Documenti propri

Fornisci un documento affidabile!

Allega il capitolo del libro o la scheda tecnica: «Rispondi solo sulla base del documento allegato; se la risposta non è presente, dillo.» Confronta poi il risultato con il documento.

05 · Controllo professionale

Verifica prima dell’uso in classe!

Usa le tue competenze professionali o quelle di un collega per controllare ogni fatto, numero e istruzione di sicurezza rilevante nei contenuti destinati agli studenti.

Cinque controlli prima dell’uso in classe

La tua checklist

Spunta le domande per cui hai completato la verifica di una specifica risposta dell’IA.

Quali affermazioni sono fatti, numeri, nomi o riferimenti, e li ho verificati uno per uno? C’è qualcosa di critico per la sicurezza? Corrisponde ai dati del produttore e alle norme vigenti? Che cosa manca: dispositivi di protezione, prerequisiti o eccezioni? Livello, terminologia e contesto sono adatti ai miei studenti? Firmerei questo materiale con il mio nome?

Responsabilità pedagogica ed etica

La responsabilità resta al docente

Gli studenti possono considerare corretta una scheda distribuita in classe per l’autorevolezza del docente. Da principianti, possono non riconoscere molti errori.

In laboratorio, un valore sbagliato o un passaggio di sicurezza mancante possono causare danni alle attrezzature o infortuni. Gli errori memorizzati sono difficili da correggere.

Insegna anche agli studenti a verificare le fonti. L’IA deve essere un punto di partenza per il pensiero. La verifica critica si collega all’alfabetizzazione all’IA e all’informazione descritta in DigComp 3.0.

Esercitati nella verifica nella tua materia!

Lavoro individuale del docente · 35–40 minuti

Caccia alle allucinazioni nella mia materia

Scrivi cinque domande a rischio: una su una normativa o norma tecnica, una su un valore tecnico preciso, un calcolo, una su un termine professionale raro e una su una modifica recente.

Poni le domande all’IA senza ricerca web.
Evidenzia e verifica le affermazioni fattuali nelle risposte.
Annota: affermazione – corretta / errata / non verificabile – fonte utilizzata.
Prova domande di approfondimento, ricerca, esecuzione di codice o documenti propri. Annota che cosa cambia.
Redigi una checklist professionale in cinque punti.

Lavoro di gruppo in classe · 45 minuti

Verificatori di fatti

I gruppi di 3–4 studenti esaminano una breve istruzione operativa dell’IA, preparata e verificata dal docente, che contiene alcuni errori od omissioni.

Spiega brevemente perché l’IA può sbagliare.
I gruppi evidenziano affermazioni sospette e passaggi mancanti.
Verificano e correggono il testo con un libro di testo o un manuale.
Confrontate i risultati e preparate una scheda di regole «Come verifichiamo l’IA».

Tieni pronta una soluzione verificata. Gli studenti non devono eseguire l’istruzione errata utilizzata per l’analisi.

Scarica i due esercizi praticiM1-T1-MLC3-EXC-IT.pdf

Indicazioni per i docenti

01

Comprendi il funzionamento!

Un LLM genera testo un token alla volta, scegliendo continuazioni plausibili sulla base degli schemi appresi durante l’addestramento.

Anche una risposta fluente e sicura può essere sbagliata.

02

Riconosci il rischio!

Per numeri precisi, nomi, riferimenti, normative, termini rari e informazioni recenti o locali, le fonti autorevoli sono particolarmente importanti.

Cerca i passaggi di sicurezza mancanti con la stessa attenzione riservata ai dati errati.

03

Verifica e insegna a verificare!

Apri le fonti, poni domande di approfondimento, usa la ricerca o il codice e fornisci documenti propri.

Valida i materiali prima della lezione. Insegna anche agli studenti a verificare i risultati dell’IA.

L’IA può preparare una bozza, ma è il docente a validarla.La responsabilità professionale non passa al chatbot.

Verifica delle conoscenze

Verifica che cosa hai imparato!

Seleziona una risposta per ogni domanda. Dopo l’invio riceverai il punteggio e le spiegazioni.

1Che cos’è un token? Sempre una parola intera. Una piccola unità di testo a cui il tokenizer assegna un numero identificativo. Il numero di utenti del modello.

2Come genera testo un LLM? Copia ogni frase da un libro di testo senza modificarla. Verifica automaticamente la verità di ogni affermazione prima di rispondere. Prevede e seleziona i token successivi uno dopo l’altro, sulla base del testo già presente.

3Che cosa significa allucinazione dell’IA? Un contenuto plausibile ma errato o non supportato da una fonte affidabile. Soltanto un inganno umano intenzionale. La comparsa lenta della risposta.

4Il modello cita un decreto con numero e data precisi. Che cosa fai? Lo accetti perché il formato è preciso. Cerchi il documento originale e verifichi che esista e dica davvero ciò che viene affermato. Controlli soltanto l’ortografia della risposta.

5Due modelli diversi forniscono lo stesso valore tecnico. Che cosa dimostra? Che il valore rispetta sicuramente le indicazioni del produttore. Che il controllo del docente può essere omesso. La concordanza è un segnale utile, ma il valore va comunque verificato con una fonte professionale autorevole.

6Chi è responsabile della validazione del materiale creato con l’IA e usato in classe? Il docente, che verifica professionalmente la bozza dell’IA e insegna anche agli studenti a verificarla. Soltanto il chatbot. Soltanto gli studenti principianti.

Riferimenti e approfondimenti

Fonti e link utili

Bibliografia

Kalai, A. T., Nachum, O., Vempala, S. S. e Zhang, E. (2025): Why Language Models Hallucinate. arXiv:2509.04664.
Huang, L. et al. (2024): A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions. ACM Transactions on Information Systems.
Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023).
Cosgrove, J. e Cachia, R. (2025): DigComp 3.0 – European Digital Competence Framework. 5ª edizione, Ufficio delle pubblicazioni dell’Unione europea.
Lengyel, Zs. (2026): Introduction to the concepts of artificial intelligence; Concrete applications for content generation. Presentazioni del corso di formazione VITA.

Prova ed esplora!

Tiktokenizer – come il testo viene suddiviso in token.
Visualizzazione 3D interattiva di un LLM – sito in inglese.
Andrej Karpathy: Deep Dive into LLMs like ChatGPT – video in inglese.

Gli strumenti e le fonti esterni si aprono in una nuova scheda e richiedono una connessione internet.

Collaboratori e allegati

Crediti e copyright

Autore: Zsolt LengyeliTStudy Hungary Training and Research Centre
Revisore: Mária HartyányiiTStudy Hungary Training and Research Centre
Progetto: 2025-1-LT01-KA220-VET-000362456
Materiale didattico: M1-T1-MLC3

Allegati

Scarica il materiale di riferimento in italianoM1-T1-MLC3-TEXT-IT.pdf Scarica gli esercizi praticiM1-T1-MLC3-EXC-IT.pdf

Quest’opera è concessa in licenza secondo i termini della Creative Commons Attribuzione-Condividi Allo Stesso Modo 4.0 Internazionale (CC BY-SA 4.0).

Finanziato dall’Unione europea. Le opinioni espresse sono esclusivamente quelle degli autori e non riflettono necessariamente quelle dell’Unione europea o dell’Agenzia nazionale.