Ridurre le allucinazioni dell'IA: i metodi che funzionano

Nel 2023, a New York, alcuni avvocati hanno depositato davanti a un tribunale federale una memoria che citava decisioni giudiziarie inesistenti. Erano state generate da ChatGPT, e il giudice li ha sanzionati (caso Mata v. Avianca). I riferimenti sembravano perfetti: nomi delle parti, numeri, sintesi.

Questo caso riassume bene il problema. Un'allucinazione, il termine corrente per indicare un'informazione falsa prodotta con sicurezza, si individua male perché ha la forma di una buona risposta. Nessun prompt fa sparire il fenomeno. Puoi invece renderlo nettamente meno frequente e soprattutto più facile da rilevare.

Perché l'IA inventa senza saperlo

Un modello linguistico non consulta una base di fatti quando risponde da solo. Predice un seguito di testo plausibile a partire da ciò che ha imparato. Su un argomento molto documentato, plausibile e vero spesso coincidono. Su un dettaglio raro, continua a produrre un testo plausibile, perché niente lo obbliga a fermarsi. Per il meccanismo completo, leggi come funziona un modello linguistico.

Questo spiega dove guardare in via prioritaria:

• i riferimenti: articoli, opere, decisioni, link web;
• le citazioni tra virgolette attribuite a qualcuno;
• le cifre precise, le date e gli importi;
• le informazioni locali o recenti, come un orario, un tasso o una normativa;
• i dettagli tecnici di nicchia: una funzione di libreria che sembra esistere, un'opzione di un software.

Se la tua richiesta tocca uno di questi punti, l'istruzione deve cambiare. Per la riformulazione di un'e-mail, non hai bisogno di tutto questo.

Autorizzare esplicitamente «non lo so»

Un assistente cerca di rispondere. Se il tuo prompt non prevede un'altra via d'uscita, ne produce una. Dargli il diritto di non sapere riduce spesso le invenzioni, a patto di dirlo con precisione.

Prima:

Dammi 5 studi recenti sull'effetto della settimana lavorativa di 4 giorni sulla produttività, con gli autori e le cifre chiave.

Questo prompt esige cinque risultati precisi: spinge a completare l'elenco a ogni costo.

Cerco studi seri su [ARGOMENTO].

Elenca solo quelli di cui sei ragionevolmente sicuro che esistano, anche se sono meno di cinque, o nessuno. Per ciascuno, indica ciò che sai con certezza (autori, anno, organismo) e scrivi «da verificare» per tutto il resto. Non dare né link, né cifre, né citazioni esatte se non ne sei sicuro.

Concludi con le parole chiave e le banche dati in cui posso verificare io stesso.

L'ultima frase dà un output utile anche quando il modello non ha nulla di solido. Una risposta piena di «da verificare» ti informa più di un elenco ordinato e falso.

Rispondere a partire da un testo fornito

Il metodo più efficace consiste nel cambiare la domanda. Invece di chiedere all'IA che cosa sa, chiedile che cosa dice un documento che le dai. Il lavoro diventa lettura, un esercizio molto più affidabile della memoria.

Esempio: la segretaria di un'associazione vuole verificare che cosa prevede lo statuto per convocare un'assemblea generale.

Rispondi alla mia domanda usando unicamente il documento qui sotto.

Regole:
- Comincia citando parola per parola il passaggio o i passaggi su cui ti basi, indicando l'articolo o la pagina.
- Rispondi poi in 3 frasi al massimo.
- Se il documento non permette di rispondere, scrivi «Il documento non lo specifica» e non aggiungere nessuna conoscenza esterna.

Domanda: [LA TUA DOMANDA]

Documento:
[TESTO DEL DOCUMENTO]

L'ordine ha la sua importanza. Citando prima, la risposta si appoggia sui passaggi selezionati, e puoi controllare le citazioni con una semplice ricerca nel documento. Una citazione introvabile segnala che bisogna diffidare del resto. Per documenti di diverse decine di pagine, il metodo si complica un po', e l'articolo sui documenti lunghi lo spiega nel dettaglio.

Collegare l'IA a fonti reali

Diversi strumenti possono cercare sul web o nei tuoi file prima di rispondere, e mostrare le loro fonti. Questa opzione riduce il rischio sugli argomenti recenti, senza eliminarlo. Un link mostrato può esistere senza dire ciò che l'IA gli fa dire, o provenire da una pagina di scarsa qualità.

Il riflesso da conservare: apri il link per ogni informazione che riutilizzerai e cerca la frase precisa nella pagina. Per gli sviluppatori, l'equivalente consiste nel fornire la documentazione della versione giusta della libreria, eseguire il codice e lanciare i test. La chiamata a una funzione inventata si vede subito all'esecuzione, a patto di eseguire.

Far elencare le affermazioni da verificare

Una volta prodotto il testo, un secondo passaggio aiuta a capire dove concentrare la rilettura. I modelli stimano male la propria affidabilità: non prendere questa selezione per una prova. Serve a ordinare le verifiche e a evitarti di rileggere ogni riga con la stessa attenzione.

Ecco un testo prodotto da un'IA. Devo verificarlo prima della pubblicazione.

Compila una tabella delle affermazioni verificabili che contiene (cifre, date, nomi, citazioni, rapporti di causa ed effetto). Per ciascuna, indica:
- la frase interessata;
- il tipo di fonte che permetterebbe di verificarla;
- il rischio di errore: alto, medio o basso, con una breve ragione.

Ordina la tabella per rischio decrescente. Non correggere nulla e non affermare che un'informazione sia vera.

Testo:
[INCOLLA IL TESTO]

Ottieni una lista di controllo. Per il metodo di verifica vero e proprio, leggi come verificare una risposta dell'IA.

Ciò che nessun prompt risolve

Queste istruzioni fanno scendere il rischio, non lo azzerano. Un modello può scrivere «sono sicuro» e sbagliarsi, così come può deformare un documento che ha appena letto, soprattutto quando la risposta richiede di combinare più passaggi. Su un argomento medico, legale o finanziario, il risultato serve come punto di partenza da verificare presso una fonte ufficiale o un professionista.

La domanda da porsi prima di usare una risposta sta in una riga: se questa informazione è sbagliata, che cosa succede? Se la risposta è «non molto», vai avanti. Se la risposta coinvolge un cliente, del denaro o la tua firma, apri tu stesso la fonte, poi aggiungi al tuo prompt abituale la dicitura «scrivi "da verificare" per tutto ciò di cui non sei sicuro».