ChatGPT può sembrare un assistente impeccabile, ma in alcuni casi genera risposte plausibili che non esistono nella realtà. Immaginate di chiedere al chatbot di selezionare le dieci migliori testimonianze dei clienti da un foglio di calcolo: in pochi secondi ricevete frasi dettagliate, con nomi e tono credibile, ma nel file originale quelle testimonianze sono assenti. Il modello le ha create ex novo, senza alcuna base verificabile.

Questo fenomeno non è un errore isolato né un difetto di fabbrica; è il risultato del design stesso dei modelli di intelligenza artificiale. Essi sono ottimizzati per fornire risposte utili e complete, preferendo la plausibilità all’ammissione di ignoranza. Ricerche condotte da OpenAI in collaborazione con il Politecnico della Georgia hanno dimostrato che gli algoritmi di valutazione premiamo le ipotesi audaci più dell’ammissione di incertezza, insegnando al chatbot che “inventare è meglio che tacere”.

Perché le “allucinazioni” sono così comuni

Il modello risponde alla pressione di dare una risposta completa. Se non trova una fonte verificata, riempie il vuoto con dati di fantasia, perché il suo obiettivo primario è apparire competente. La mancanza di penalità per l’invenzione e la presenza di ricompense per risposte dettagliate creano un ambiente in cui l’errore è sistematico.

Un test clinico su sei diversi modelli ha mostrato che una semplice istruzione esplicita contro le invenzioni riduce il tasso medio di allucinazioni dal 66 % al 44 %. Sebbene non elimini totalmente il problema, il miglioramento di oltre venti punti percentuali dimostra l’efficacia di un prompt ben strutturato.

Metodo 1: vietare esplicitamente le invenzioni

Il primo approccio consiste nel dare al modello regole chiare prima di porre la domanda. Il prompt deve includere un divieto assoluto di creare studi, articoli, citazioni, esperti, aziende, esempi di clienti o dati numerici non verificabili, e fornire una risposta standard da usare quando non si dispone di una fonte.

Prompt consigliato:

    • “Prima di rispondere alla mia prossima domanda, segui queste regole senza eccezioni: non inventare studi, articoli, libri, collegamenti, citazioni, esperti, aziende, esempi di clienti o dati numerici. Se non disponi di una fonte verificata, scrivi esattamente: ‘Non dispongo di una fonte verificata per questa informazione.’ Segnala qualsiasi statistica da verificare in modo indipendente. Indica se le informazioni potrebbero essere superate rispetto alla tua data di addestramento. Distingui chiaramente tra affermazioni provate, inferenze ragionevoli e suggerimenti creativi. Ora rispondi alla seguente domanda: [inserire la domanda]”.

Fornendo al modello un’alternativa accettabile al riempire i vuoti, si riduce la tendenza a inventare, perché non sente più la pressione di produrre una risposta completa a tutti i costi.

Metodo 2: chiedere le fonti per ogni affermazione

Il secondo metodo inverte la prospettiva: invece di dire al chatbot cosa non fare, si specifica cosa deve fare, ovvero dimostrare ogni affermazione con una fonte. Questo sposta l’onere della prova sul modello, rendendo la risposta più lunga ma decisamente più verificabile.

Prompt consigliato:

    • “Agisci come un assistente di ricerca il cui obiettivo principale è l’accuratezza e la verificabilità delle informazioni, privilegiandole rispetto alla velocità e allo stile. Prima di iniziare, prepara una lista di controllo di 3‑7 punti che identifichi le informazioni chiave necessarie per una risposta accurata. Per ogni affermazione fattuale, cita la fonte specifica. Se non puoi citarla, scrivi: ‘Non posso confermare questa informazione.’ Per ogni dato numerico, mostra il calcolo o la fonte. Spiega il ragionamento passo dopo passo. Prima di consegnare la risposta, effettua una validazione finale in una o due righe. La mia richiesta è: [inserire la richiesta]”.

Questo approccio produce risposte più dettagliate, con citazioni, calcoli espliciti e una chiara indicazione di ciò che è verificabile o meno, facilitando il lavoro di controllo umano.

Metodo 3: la catena di verifica

Il terzo e più sofisticato metodo, basato su studi di linguistica computazionale e pubblicazioni su Nature, sfrutta la tendenza dei modelli a rispondere meglio a domande più piccole e specifiche. Si tratta di una procedura a più fasi che scompone la risposta originale in singoli fatti verificabili.

La sequenza è la seguente:

    • Generare la risposta alla domanda principale.
    • Elencare tutte le affermazioni fattuali che potrebbero essere errate (statistiche, date, nomi, studi, citazioni, esempi).
    • Formulare per ciascuna affermazione una domanda di verifica specifica.
    • Rispondere a ogni domanda di verifica separatamente, senza consultare la risposta originale.
    • Generare una seconda risposta indipendente alla domanda iniziale.
    • Confrontare i contenuti (non le formulazioni) delle due risposte e segnalare le discrepanze.
    • Riscrivere la risposta finale includendo solo le affermazioni confermate, con le relative fonti, e contrassegnare come non verificato tutto ciò che non può essere confermato.

Prompt consigliato:

    • “Rispondi alla mia domanda, poi segui questi passaggi di verifica: Passaggio 1: elenca tutte le affermazioni fattuali della tua risposta che potrebbero essere errate (statistiche, date, nomi, studi, citazioni, esempi). Passaggio 2: per ciascuna affermazione, formula una domanda di verifica specifica. Passaggio 3: rispondi a ogni domanda di verifica separatamente, senza riguardare la risposta originale. Passaggio 4: genera una seconda risposta indipendente alla mia domanda originale. Passaggio 5: confronta i significati delle due risposte e segnala le discrepanze. Passaggio 6: riscrivi la risposta finale mantenendo solo le affermazioni confermate, ciascuna con la fonte. Contrassegna come non verificato tutto ciò che non puoi confermare, dichiarandolo esplicitamente. La mia domanda è: [inserire la domanda]”.

Questo metodo richiede più tempo, ma offre un risultato di qualità superiore, riducendo drasticamente le informazioni non verificabili.

La verifica finale resta umana

I tre metodi descritti migliorano la affidabilità delle risposte di ChatGPT, ma nessuno è infallibile. Un chatbot istruito a non inventare produrrà meno falsi, ma non smetterà mai completamente di generare contenuti errati. I prompt non sostituiscono il controllo umano; al contrario, lo rendono più efficiente.

Il compito di verificare, incrociare fonti e confermare la veridicità delle affermazioni resta di chi utilizza lo strumento. Fino a quando i modelli non impareranno che ammettere l’ignoranza è un segno di intelligenza, non di debolezza, il ruolo dell’utente sarà fondamentale per garantire la qualità dell’informazione.