Perche' un modello linguistico, capace di scrivere codice e risolvere problemi complessi, a volte inventa con assoluta sicurezza una data, una citazione o un fatto che non esiste? La domanda perseguita chiunque usi l'IA per lavoro. A luglio 2026 due filoni di ricerca indipendenti hanno fornito risposte piu' precise di quelle disponibili finora, e insieme aiutano a capire come rendere questi sistemi piu' affidabili.
Quando il modello ha visto un fatto troppo poche volte
Il primo studio arriva dall'Allen Institute for AI (AI2), uno dei principali centri di ricerca no profit sul tema. Analizzando quando e perche' i modelli "allucinano", i ricercatori hanno individuato un pattern netto: le invenzioni sono molto piu' probabili quando la domanda riguarda fatti sottorappresentati nei dati di addestramento. Non del tutto assenti, ma visti abbastanza di rado da produrre nel modello una rappresentazione imprecisa.
La distinzione e' importante. Non e' che il modello "non sappia" e lo dichiari; e' che ha una traccia sfocata di quell'informazione e, richiesto di rispondere, la ricostruisce nel modo statisticamente piu' plausibile, che pero' puo' essere sbagliato. E' il motivo per cui gli errori piu' insidiosi non riguardano l'ignoto totale, ma i dettagli di nicchia: un nome proprio raro, una cifra specifica, un evento locale poco documentato.
La conferma pratica: perche' il RAG funziona
Questa scoperta ha una conseguenza operativa diretta. Se l'errore nasce da rappresentazioni imprecise di fatti rari, allora collegare il modello a una fonte esterna verificata, invece di affidarsi alla sua memoria interna, e' la difesa piu' efficace. E' esattamente il principio del RAG (Retrieval-Augmented Generation), l'architettura che recupera documenti pertinenti e li fornisce al modello prima di generare la risposta.
La ricerca di AI2, in sostanza, offre una spiegazione teorica del perche' il RAG riduce le allucinazioni nelle applicazioni ad alto rischio: non chiede piu' al modello di ricordare, ma di leggere e sintetizzare. Per le aziende che costruiscono assistenti su documentazione interna, contratti o normative, e' la conferma che investire nel recupero delle fonti conta piu' che scegliere il modello piu' grande.
Ragionare bene non significa ragionare a lungo
Il secondo filone, con contributi da gruppi di MIT e Stanford, guarda invece ai modelli di ragionamento, quelli che "pensano" generando una catena di passaggi prima di rispondere. La scoperta controintuitiva: cio' che distingue i modelli migliori non e' la dimensione ne' la lunghezza del ragionamento, ma la capacita' di identificare e correggere i propri errori lungo il percorso.
Detto altrimenti, un modello addestrato a rileggersi e a rimettersi in carreggiata batte un modello che semplicemente produce catene di pensiero piu' lunghe ma non corrette. Le sequenze interminabili di "ragionamento" non servono se contengono un errore iniziale che si propaga fino alla fine. Conta la qualita' dell'auto-correzione, non la quantita' di testo generato.
Cosa cambia per chi costruisce prodotti IA
Le due linee di ricerca convergono su un messaggio pratico. Primo: per i fatti che contano, non fidarsi della memoria del modello, ma ancorarlo a fonti verificabili con il RAG. Secondo: nella scelta e nell'addestramento dei modelli di ragionamento, premiare i meccanismi di auto-verifica piu' che la pura scala. Per i laboratori e' anche un invito a spostare risorse dall'addestramento "piu' grande a tutti i costi" verso tecniche di correzione degli errori piu' sofisticate.
Per gli utenti finali la lezione e' piu' semplice ma altrettanto utile: le allucinazioni non sono un guasto casuale, ma un comportamento con cause identificabili. Sapere che i modelli sbagliano soprattutto sui dettagli rari, e che vanno affiancati a fonti quando la precisione e' cruciale, e' oggi la migliore forma di alfabetizzazione all'intelligenza artificiale. AI Notizie verifica sempre dati, date e citazioni prima della pubblicazione, proprio perche' nessun modello, per quanto avanzato, e' ancora una fonte affidabile di per se'.
