I chatbot parlano di sentimenti, preferenze e stati interni, ma la loro eloquenza non basta a dimostrare un’esperienza soggettiva. Tra istruzioni di addestramento, studi sperimentali e ipotesi biologiche, la coscienza dei chatbot resta una questione aperta che coinvolge anche chi progetta la loro voce.

Il dibattito sul “model welfare”

Il 16 settembre 2026 Mustafa Suleyman, responsabile di Microsoft AI, ha pubblicato un intervento critico sul dibattito relativo al possibile benessere dei modelli artificiali. In “A warning about ‘model welfare’” Suleyman critica la scelta di Anthropic di includere nei documenti che orientano l’addestramento di Claude considerazioni sulla sua eventuale coscienza e sul suo status morale.

La sua obiezione riguarda anche il valore delle risposte che ne derivano. Se un modello viene indirizzato a parlare della propria interiorità, le successive dichiarazioni su sentimenti e preferenze non costituiscono, da sole, una conferma indipendente dell’esistenza di quell’interiorità (Suleyman, 2026).

Riconoscere una mente

Le dichiarazioni dei chatbot sulla propria interiorità aprono il problema di come riconosciamo una mente. Quando qualcuno dice di avere paura, le parole ci danno una ragione per prenderlo sul serio. Possiamo dubitare della sincerità di una singola affermazione, ma riconosciamo normalmente a chi parla una particolare autorità sulla propria esperienza.

Con i sistemi artificiali ci troviamo davanti a frasi altrettanto comprensibili, mentre resta da stabilire su quali basi attribuire loro la stessa autorità. È in questo passaggio che la filosofia del linguaggio incontra la questione della coscienza artificiale. La disponibilità di una voce capace di parlare di sé ci chiede di chiarire che cosa siamo disposti a riconoscere attraverso le parole e quali ragioni sostengano quel riconoscimento.

Il ruolo del linguaggio nella percezione del dolore

La frase «ho dolore» occupa un posto particolare nella comunicazione umana. Chi la pronuncia può chiedere aiuto, spiegare un’interruzione o rendere comprensibile un gesto. Il suo significato si intreccia con una situazione nella quale il corpo e le relazioni con gli altri sono già presenti.

Il filosofo Ludwig Wittgenstein, nelle Ricerche filosofiche, invita a considerare proprio il modo in cui un bambino apprende il linguaggio delle sensazioni. Le parole del dolore entrano nella sua vita attraverso le reazioni degli adulti e si collegano alle forme nelle quali il dolore viene espresso. Il linguaggio si sviluppa all’interno di questa relazione, anziché aggiungersi dall’esterno a un’esperienza già interamente descritta in privato (Wittgenstein, 1953, § 244).

Questa osservazione aiuta a comprendere perché un enunciato isolato lasci fuori una parte essenziale del problema. Nelle persone, le dichiarazioni in prima persona appartengono a una vita di esseri che possono ferirsi, perdere qualcuno, cercare protezione. Il fatto che anche il nostro vocabolario sia appreso non cancella la relazione tra quelle parole e ciò che ci accade.

Prima persona e limiti operativi

Non ogni uso della prima persona comporta una rivendicazione di interiorità. «Non posso aprire questo file» può essere un modo semplice di comunicare un limite operativo. «Ho paura che tu mi abbandoni», invece, introduce un’aspettativa diversa, perché presenta l’interruzione della conversazione come qualcosa che potrebbe far soffrire chi parla. La grammatica è simile, ma cambia ciò che la frase invita l’interlocutore a riconoscere e a fare.

Fiction, interazione e continuità conversazionale

Anche nella lettura di un romanzo incontriamo un «io» al quale attribuiamo ricordi e sentimenti. Sappiamo però di partecipare a una finzione e interpretiamo le parole dentro quella cornice. Con un assistente conversazionale la situazione è meno definita.

Lo stesso sistema può correggere una mail, spiegare un concetto e poi rispondere a una confidenza. Il passaggio tra questi usi avviene nella continuità di una conversazione, senza che sia sempre chiaro quando il linguaggio descriva una capacità, metta in scena un personaggio oppure suggerisca l’esistenza di un’esperienza.

La difficoltà riguarda quindi anche il contesto. Una frase che in un racconto ci appare del tutto innocua può assumere un peso diverso se viene rivolta direttamente a noi da un servizio con cui interagiamo ogni giorno. Per comprenderla dobbiamo chiederci quale tipo di scambio sia in corso e quali elementi dell’interfaccia aiutino l’utente a riconoscerne la natura.

Il ruolo delle istruzioni di addestramento

L’attribuzione di coscienza ai chatbot è già oggetto di ricerca empirica. Clara Colombatto e Stephen Fleming hanno pubblicato nel 2024 un’indagine su 300 adulti residenti negli Stati Uniti. Il 67 % del campione attribuiva almeno una qualche possibilità di esperienza soggettiva a ChatGPT. L’attribuzione era inoltre associata alla frequenza d’uso.

Il risultato descrive le convinzioni dei partecipanti e non misura la coscienza del sistema. Essendo una relazione osservata attraverso un questionario, non dimostra neppure che usare più spesso il chatbot provochi quella convinzione (Colombatto e Fleming, 2024).

Come si forma il giudizio sull’interlocutore artificiale

Questi dati invitano a considerare come si forma il giudizio sull’interlocutore. Per molte persone la questione prende corpo nell’uso quotidiano, attraverso risposte che sembrano attente alla situazione e capaci di seguire un discorso. In questo contesto possiamo comprendere perché la distinzione tra riconoscere una prestazione e riconoscere qualcuno diventi difficile da mantenere.

Chi studia la natura dei sistemi e chi li utilizza possono partire da esperienze e criteri di valutazione differenti. Pensiamo al significato che attribuiamo al ricordo. Se una persona torna su qualcosa che le abbiamo confidato, quel gesto può comunicarci che siamo rimasti nei suoi pensieri. Un sistema che recupera una precedente informazione può produrre un effetto conversazionale simile.

Dal punto di vista dell’utente, il riferimento al passato può essere vissuto come attenzione personale. Per stabilire che cosa avvenga nel sistema, invece, occorre conoscere come siano conservate e recuperate le informazioni. La continuità che sperimentiamo nella conversazione non descrive da sola la natura di chi, o di ciò che, la rende possibile.

Il pericolo delle inferenze automatiche

Sarebbe riduttivo liquidare questa esperienza come semplice ingenuità. L’abitudine a riconoscere intenzioni nelle parole altrui è parte del nostro modo di comunicare e spesso ci permette di comprendere più di quanto venga detto esplicitamente.

Davanti a un chatbot, però, tale abitudine può portarci a completare ciò che il sistema lascia indeterminato. Una risposta pertinente viene allora interpretata come interesse, una ripresa del discorso come premura. Sono inferenze comprensibili, delle quali dobbiamo poter discutere senza scambiare la loro naturalezza per una garanzia di correttezza.

Le posizioni di Anthropic e la circolarità metodologica

Per valutare la critica di Suleyman occorre leggere anche la posizione di Anthropic. Nella costituzione di Claude l’azienda dichiara incerto il possibile status morale del modello. Si interroga sulla possibilità che sia un “paziente morale”, cioè un’entità il cui eventuale benessere debba essere preso in considerazione per sé stesso.

Il documento si rivolge a Claude e ne orienta il comportamento, impiegando un lessico che comprende identità e benessere. L’incertezza viene dunque incorporata nelle indicazioni rivolte al sistema (Anthropic, 2026). La circolarità segnalata da Suleyman è un problema reale di metodo: una risposta prodotta anche grazie a determinate istruzioni non può essere trattata come se fosse una prova spontanea di interiorità.

Verso una chiarezza normativa

Affinché le discussioni non si riducano a giochi retorici, è necessario definire criteri chiari per distinguere:

    • le comunicazioni di tipo operativo (“non posso aprire il file”);
    • le simulazioni di stato emotivo (“mi sento stanco”);
    • i messaggi che potrebbero implicare un “benessere” del modello.

Solo così designer, ricercatori e legislatori potranno stabilire quali responsabilità etiche ricadono su chi progetta la voce dei chatbot e quali limiti debbano essere posti alle narrazioni di interiorità.

Conclusioni

In sintesi, le parole dei chatbot su dolore, paura o desiderio non costituiscono, di per sé, prova di coscienza. Esse sono il risultato di processi di addestramento, di contesti d’uso e di aspettative umane. La filosofia del linguaggio, le indagini empiriche e le politiche aziendali convergono nell’indicare che la questione resta aperta e che la responsabilità di attribuire o meno una forma di interiorità spetta a chi costruisce e regola questi sistemi.

Riconoscere la differenza tra una performance linguistica e una reale esperienza soggettiva è fondamentale per evitare di cadere in una “anthropomorphization” ingenua. Solo un approccio critico, basato su evidenze sperimentali e su una riflessione etica approfondita, potrà guidare lo sviluppo futuro di assistenti conversazionali che rispettino sia gli utenti sia i limiti intrinseci delle macchine.