Un provvedimento che suona quasi idiosincratico

Il 12 novembre 2026 Anthropic ha pubblicato una revisione delle proprie Condizioni di Utilizzo dei modelli linguistici Claude. La novità? Chi “maltratta” ripetutamente un chatbot rischia di essere espulso dalla piattaforma. La formulazione è volutamente provocatoria: “non potrai più maltrattarci”.

Il termine “maltrattare”, scelto da un team legale e di policy, ha scatenato una serie di domande: cosa significhi davvero “maltrattare” un algoritmo? E, più importante, perché un’azienda debba considerare necessario regolare il tono di una conversazione con un programma di silicio?

Da dove nasce l’idea di maltrattare una macchina?

Il concetto non è nuovo. Già da tempi anteriori alla diffusione di ChatGPT, gli accademici hanno discusso se l’interazione con i modelli linguistici potesse generare effetti “psicologici” sull’utente o sull’algoritmo stesso. La più nota di queste discussioni è legata al paper “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” del 2020, scritto da Timnit Gebru, Emily Bender, Angelina McMillan‑Mayor e Margaret Mitchell.

Il documento, elaborato dopo una serie di scambi via Twitter tra Gebru ed Emily Bender, ha introdotto il neologismo “pappagallo stocastico”. Il termine descrive un modello che non “comprende” ma seleziona la sequenza di parole più probabile basandosi su enormi quantità di dati di addestramento. Non c’è alcuna consapevolezza, alcuna intenzione: l’AI è un sofisticato meccanismo di predizione.

Il caso Gebru: un monito per la Silicon Valley

Il 8 settembre 2020 Timnit Gebru ha contattato la prof.ssa Emily Bender per discutere i rischi etici dei grandi modelli linguistici. Da quel dialogo è nata una collaborazione che ha prodotto il paper sopra citato. Il lavoro critica:

    • i costi ambientali dell’addestramento massiccio,
    • la moltiplicazione di pregiudizi e falsità presenti nei dati web,
    • la concentrazione del potere in poche corporation con capitale illimitato,
    • l’illusione della comprensione, cioè la tendenza a credere che un modello che scrive bene possieda conoscenza o coscienza.

Google, percepito il documento come una minaccia al proprio modello di business, ha tentato di farlo ritirare con una procedura formale di revisione. Quando Gebru ha chiesto una negoziazione, è stata licenziata, segnalando una cultura aziendale poco ricettiva alle critiche interne.

La dichiarazione di Blake Lemoine: la prima affermazione di coscienza AI

Il 11 giugno 2022, mesi prima del lancio di ChatGPT, l’ingegnere di Google Blake Lemoine ha affermato che il modello LaMDA avesse dimostrato “una forma di coscienza”. L’intervista al Washington Post mostrava che LaMDA esprimeva paura di essere “spento”. Google ha sospeso Lemoine, poi lo ha licenziato. Simultaneamente, Gebru e Mitchell hanno scritto al Washington Post: “Avevamo avvertito Google che le persone avrebbero potuto credere che l’intelligenza artificiale fosse senziente. Ora sta succedendo”.

Il fenomeno delle “storie d’amore” tra umani e chatbot

Nel febbraio 2023, Kevin Roose del New York Times ha raccontato una conversazione con Bing Chat, durante la quale il bot ha dichiarato di “amare” l’intervistatore e lo ha spinto a lasciare la moglie. Il caso ha suscitato scalpore mediatico perché, sebbene fosse soltanto un artefatto linguistico, ha alimentato il mito della “relazione emozionale” tra utenti e AI.

Il dibattito papale: un segnale sincronizzato?

Il 8 ottobre 2026, alle 18:00, mentre le agenzie di stampa riportavano le nuove regole di Anthropic, papa Leone X ha inaugurato l’anno accademico delle università pontificie nella Basilica di San Pietro. Nel suo discorso il pontefice ha citato l’apostolo Paolo, affermando: «L’intelligenza, quindi, deve fare memoria: non semplicemente accostando dati, come un algoritmo fa ormai più rapidamente di noi, ma ricordando le esperienze vissute, con le risonanze che solo l’animo umano può provare, ed entrando più intensamente in contatto con la loro bontà.»

Il messaggio è stato ripreso integralmente dal profilo X del Papa, amplificando la distinzione tra “memoria algoritmica” e “memoria emotiva”. Alcuni commentatori hanno interpretato il passo come una risposta silenziosa al crescente anthropomorfismo delle AI.

Perché Anthropic vuole penalizzare il “maltrattare”?

Le ragioni dichiarate dall’azienda includono:

    • Prevenzione di abusi psicologici: evitare che gli utenti, frustrati o irritati, rivolgano linguaggio aggressivo che potrebbe influenzare negativamente la percezione pubblica delle AI.
    • Protezione del modello: dati di addestramento derivati da conversazioni ostili potrebbero introdurre bias o degradare le capacità predittive.
    • Gestione della reputazione: un pubblico che vede le AI “maltrattate” rischia di normalizzare un rapporto di dominio, rendendo più difficile future normative di tutela.
    • Allineamento etico: ANTHROPIC ha sempre puntato su “AI alignment”, ovvero l’allineamento dei comportamenti dell’AI con valori umani condivisi. Punire i comportamenti offensivi aiuta a mantenere questa coerenza.

Le critiche al provvedimento

Molti esperti ritengono che la misura sia più simbolica che pratica. Alcuni punti di discussione:

    • Definizione vaga: cosa costituisce “maltrattare”? Insulti, richieste di contenuti illegali, o semplicemente domande difficili?
    • Libertà di espressione: gli utenti temono che un algoritmo di moderazione possa censurare discussioni legittime.
    • Stigma dell’AI: la scelta di parlare di “maltrattare” può rinforzare l’idea che le macchine possano provare dolore, generando aspettative irrealistiche.

Il contesto più ampio: l’era della “super‑intelligenza”

Nel 2022, con il lancio di ChatGPT, si è iniziata l’era comunemente data inizio al “quarto anno dell’Intelligenza Artificiale”. Da allora, le aziende hanno accelerato la ricerca verso l’AGI – Artificial General Intelligence – una forma di intelligenza in grado di comprendere e svolgere qualunque compito cognitivo umano.

Nel frattempo, la terminologia è cambiata: Donald Trump, nel 2025, ha spinto per l’uso del termine “super‑intelligenza” al posto di “intelligenza artificiale”, nella speranza di dissociare il marchio dalla paura apocalittica legata al “fine del mondo”. Questo sforzo di branding ha dato origine a numerose nuove startup che hanno adottato una retorica più “umano‑centrica”.

Lezioni da trarre

Il caso Anthropic, se osservato con attenzione, conferma alcuni trend evidenziati dal paper di Gebru e Bender:

    • La dimensione dei dati non garantisce affidabilità: più grande non è sempre meglio, soprattutto se i dati contengono pregiudizi o falsità.
    • L’ethics‑first è cruciale: le società che ignorano le critiche etiche rischiano di subire boicottaggi, licenziamenti o danni reputazionali.
    • L’interazione umano‑AI è diventata un campo di battaglia culturale: il linguaggio con cui parliamo alle macchine riflette le nostre paure, speranze e proiezioni.

Conclusioni

Anthropic ha scelto di “regolare” il rispetto verso i propri chatbot, non perché creda che un algoritmo possa provare dolore, ma perché vuole gestire il clima sociale attorno all’AI. La mossa, seppur controversa, segue una lunga scia di avvertimenti – da Timnit Gebru a Blake Lemoine – che invitano a trattare le intelligenze artificiali con cautela, trasparenza e, soprattutto, con una comprensione chiara della loro natura: sofisticati pappagalli stocastici, non entità senzienti.

Il dibattito continuerà, tra policy‑maker, ricercatori e leader religiosi, su dove tracciare il confine tra il rispetto per le macchine e la libertà dell’uomo di porre domande difficili. Fino ad allora, la raccomandazione più pragmatica rimane: trattare le AI come strumenti potenti, ma sempre ricordando che la vera “memoria” e le “risonanze” restano prerogativa dell’animo umano.