Allucinazioni, perché l'AI inventa e come difendersi

In breve

Un’allucinazione è un’informazione falsa scritta con la stessa sicurezza di una vera.
Nasce dal funzionamento stesso del modello: produce il testo più plausibile, non necessariamente quello vero.
È più probabile su fatti rari, recenti, molto specifici (numeri, date, nomi, riferimenti normativi, citazioni).
Si riduce dando fonti al modello, permettendogli di dire “non lo so” e verificando sempre i dati che userai.

Un problema serio, con conseguenze reali

Nel 2023 un avvocato di New York ha depositato in tribunale un atto con sei precedenti giurisprudenziali inventati da ChatGPT, completi di nomi delle parti e citazioni. Il giudice se n’è accorto e ha sanzionato lo studio (il caso Mata v. Avianca). Da allora episodi simili si sono ripetuti in molti paesi, Italia compresa.

Non è un difetto raro di qualche modello scadente. Succede anche ai migliori, meno spesso di un tempo ma succede. La buona notizia: sapendo perché succede, è facile capire quando fidarsi.

Perché il modello inventa

Ricordi come funziona un LLM? Sceglie, un pezzo alla volta, la continuazione più probabile. Se gli chiedi “Qual è la sentenza della Cassazione che dice X?” e nei suoi dati non c’è una risposta chiara, il modello non “sente” un vuoto: vede che una risposta plausibile ha la forma Cass. civ., sez. X, n. NNNNN/AAAA e la produce, con numeri plausibili.

Ci sono poi due cause più sottili:

L’addestramento premia chi tira a indovinare. Un’analisi pubblicata da OpenAI nel 2025 ha mostrato che molti test valutano solo le risposte giuste: rispondere “non lo so” vale zero, tirare a indovinare a volte fa punti. I modelli imparano così che azzardare conviene. I laboratori stanno correggendo questo incentivo, ed è uno dei motivi per cui i modelli del 2026 dicono “non lo so” più spesso.
La compiacenza. I modelli sono addestrati anche su ciò che le persone preferiscono, e le persone preferiscono sentirsi dare ragione. Se nella domanda dai per scontato qualcosa di falso (“Visto che il forfettario permette di dedurre le spese…”), il modello tende ad assecondarti.

Mettiti alla prova

Tre affermazioni come quelle che leggi ogni giorno in una chat. Ti fideresti?

«Secondo la sentenza della Cassazione n. 18.442/2023, le spese per l'abbonamento a ChatGPT sono sempre deducibili al 100% per i forfettari.»

«Il Transformer è stato presentato nel 2017 nell'articolo "Attention Is All You Need" da ricercatori di Google.»

«Il fatturato 2025 dell'azienda (dal PDF che mi hai caricato) è di 4,82 milioni, +12% sull'anno prima.»

Quando il rischio è più alto

Situazione	Rischio	Perché
Fatti molto noti (storia, scienza di base)	Basso	Presenti migliaia di volte nei dati di addestramento
Riassunto di un testo che hai incollato	Medio-basso	Il testo è nel contesto, ma i dettagli possono essere distorti
Numeri estratti da documenti lunghi	Medio	Può confondere righe, anni, unità di misura
Notizie e fatti recenti senza ricerca web	Alto	Non sono nei dati di addestramento
Riferimenti precisi: sentenze, articoli di legge, DOI, ISBN	Alto	Formato facile da imitare, contenuto raro
Citazioni testuali di persone	Alto	Tende a “parafrasare” e attribuire
Domande che contengono una premessa falsa	Alto	Compiacenza: asseconda la premessa

Il metodo in sei passi

1. Dai le fonti invece di chiederle

Il modo più efficace per ridurre le allucinazioni è mettere le informazioni nel contesto: carica il documento, incolla la norma, attiva la ricerca web. Il modello passa dal ricordare al leggere, e leggere è molto più affidabile.

2. Autorizza il “non lo so”

Scrivilo esplicitamente. Sembra banale, ma cambia il comportamento del modello in modo misurabile.

Da aggiungere ai prompt importanti

Basati solo sulle informazioni che ti ho fornito (o che trovi con la ricerca web, citandole). Se un’informazione non c’è o non sei sicuro, scrivi “Non lo so” o “Da verificare” invece di ipotizzare. Per ogni dato numerico indica la fonte.

3. Chiedi dove l’ha preso

“In che pagina del documento?”, “Qual è il link?”. Se il modello non riesce a indicarlo, o indica una pagina che non dice quella cosa, hai trovato il problema.

4. Verifica la fonte primaria

Una citazione non è una verifica. Apri il link, cerca la sentenza sulla banca dati ufficiale, controlla l’articolo di legge su Normattiva. Per i dati sui modelli AI, vai su Artificial Analysis o Arena e guarda la data.

5. Fai la stessa domanda in modo diverso (o a un altro modello)

Se riformulando la domanda o chiedendo a un secondo assistente ottieni risposte diverse, il modello non è sicuro. Se coincidono, la probabilità di errore scende (non a zero: i modelli condividono molti dati di addestramento).

6. Non fare premesse false

Chiedi “Il forfettario permette di dedurre le spese?” invece di “Visto che il forfettario permette di dedurre le spese, quali posso dedurre?”. La prima domanda lascia al modello lo spazio di correggerti.

Una regola per i professionisti

Qualsiasi cosa finisca in un documento firmato da te (parere, dichiarazione, atto, relazione) va verificata sulla fonte originale. La legge italiana sull’AI (legge 132/2025, art. 13) lo dice chiaramente per le professioni intellettuali: l’AI può aiutare, ma il lavoro e la responsabilità restano del professionista.

Le allucinazioni diminuiranno?

Sì, e stanno già diminuendo: i modelli del 2026 usano la ricerca web più spesso quando serve, dichiarano più spesso i propri limiti e, nei compiti con documenti, citano le pagine. Ma per come funziona la tecnologia non scompariranno del tutto: un sistema che genera il testo più plausibile produrrà sempre, ogni tanto, qualcosa di plausibile e falso.

La competenza da sviluppare, quindi, non è “trovare un’AI che non sbaglia”, ma sapere quando un errore è probabile e quanto costerebbe. Per uno slogan, nessun problema. Per una scadenza fiscale, si verifica.

Fonti

Contenuto informativo aggiornato alla data indicata. Prezzi, modelli e norme cambiano spesso: verifica sempre sulle fonti ufficiali. Testo scritto con il supporto di strumenti di AI e rivisto dall'autore.