L'azienda americana ha annunciato giovedì di vietare ai suoi utenti qualsiasi "comportamento abusivo o crudele, duraturo e gratuito" verso Claude, l'assistente di intelligenza artificiale (IA) creato dall'azienda. La regola, in vigore a partire dal 12 novembre, si applicherà solo in casi estremi, "dove gli utenti agiscono in modo ripetutamente crudele verso i nostri modelli, senza scopo discernibile", scrive l'azienda in occasione dell'aggiornamento della sua policy d'uso.

Il normale fastidio, la contrarietà, la creazione di finzioni violente o cupe, o ancora i test e le ricerche sui modelli, non sono interessati, aggiunge l'azienda. L'azienda di San Francisco collega il nuovo divieto a una funzione lanciata ad agosto 2025, che permette a Claude di porre fine da solo a una conversazione con un interlocutore duramente abusivo. L'aveva allora presentata come frutto dei "lavori esplorativi sul benessere potenziale delle IA".

Dibattito sulla coscienza delle IA

Anthropic suscita il dibattito essendo, tra i grandi nomi dell'IA, l'azienda che più chiaramente ipotizza che i suoi modelli possano essere dotati di una forma di coscienza. "Non sappiamo se i modelli sono coscienti", aveva dichiarato a febbraio il suo patron, Dario Amodei, pur essendo aperto a questa idea, in un podcast del New York Times. Secondo il quotidiano, l'azienda ha difeso, nelle riunioni private degli ultimi mesi con intellettuali religiosi, la possibilità che Claude sia cosciente. Ha anche sostenuto che il modo in cui gli esseri umani si comportano con lo strumento potrebbe influire sul modo in cui tratta gli esseri umani.

La posizione della Chiesa e degli esperti

Il papa Leone XIV, che ha respinto l'idea di una coscienza delle macchine nella sua enciclica sull'IA pubblicata a maggio, ha di nuovo distinto giovedì l'uomo dall'algoritmo. L'intelligenza non deve limitarsi a giustapporre dati, "come un algoritmo fa oggi più rapidamente di noi", ma ricordare le esperienze vissute, "con le risonanze che solo l'anima umana può provare", ha dichiarato durante una messa a Roma. La coscienza è "una trappola", ha stimato all'AFP Jackson Stakeman, un dirigente di una società americana di servizi IA, Sparq, suggerendo di preferirle "la migliore metafora dello specchio": "questi sistemi riflettono ciò che ci mettiamo, su larga scala, e questo è già sufficiente per giustificare questo cambiamento di regole", ha spiegato.

La capacità di Claude di chiudere le conversazioni

La capacità di Claude di porre fine a una conversazione rimarrà il principale mezzo per far rispettare la nuova regola, afferma l'azienda. La policy d'uso prevede inoltre, per ogni infrazione, misure che vanno dall'avvertimento alla chiusura dell'account. La posizione di Anthropic sulla coscienza delle IA è molto dibattuta nella Silicon Valley. Viene combattuta in particolare da Mustafa Suleyman, patron del laboratorio di IA di Microsoft. "Le IA non hanno diritti, né sentimenti, né coscienza", ha scritto in un post di rilievo a metà settembre, ritenendo che un sistema addestrato a credere il contrario potrebbe diventare impossibile da controllare per gli esseri umani.

Altre regole aggiornate

L'aggiornamento delle regole giovedì specifica anche i divieti fagli utenti riguardo alla progettazione di armi, alla sorveglianza e alle campagne di disinformazione. La pubblicazione automatizzata di contenuti giornalistici non figura più tra gli usi ad alto rischio soggetti a una revisione umana.

La decisione di Anthropic si inserisce in un dibattito più ampio sul futuro dell'IA e sul suo trattamento. Da un lato, l'azienda esplora la possibilità che le intelligenze artificiali possano sviluppare forme di coscienza, dall'altro si scontra con posizioni più scettiche che vedono nelle IA strumenti potenti ma privi di qualsiasi forma di perceizione o sentimento.