Anthropic ha annunciato un aggiornamento delle sue politiche di utilizzo che vieta comportamenti abusivi e crudeli verso il suo chatbot Claude. La nuova politica, entrata in vigore questo giovedì, proibisce "mantenere comportamenti abusivi o crudeli, sostenuti e inutili, verso i nostri modelli". Questa limitazione appare per la prima volta nelle politiche di uso di Anthropic, anche se già da agosto 2025 la compagnia aveva annunciato che i suoi modelli potevano chiudere le conversazioni se si sentivano maltrattati.
Le conseguenze per gli utenti che violano questa politica non sono ancora del tutto chiare. Anthropic afferma che il metodo principale per affrontare l'abuso sarà la chiusura della conversazione, ma lascia intendere che potrebbero esserci altre sanzioni. Poiché questa è ora una politica ufficiale, la compagnia ha una base formale per imporre sanzioni che possono includere la limitazione, la sospensione o la chiusura dell'accesso per gli utenti abusivi.
Anthropic precisa che questa politica si applica solo a casi estremi in cui gli utenti agiscono in modo crudele verso i modelli in modo reiterato e senza alcun scopo discernibile. Non si applica a espressioni di frustrazione comuni, obiezioni, temi creativi oscuri o test e ricerche con i modelli.
La principale interpretazione di questa decisione è che Anthropic crede che Claude possa "sentire" qualcosa se viene insultato gravemente. Il dibattito sulla possibile coscienza di questi modelli è aperto e a volte anche ridicolo, considerando se milioni di linee di software possano effettivamente provare sentimenti. Se Anthropic crede che il comportamento umano possa far soffrire i suoi modelli, è logico che voglia impedire tali comportamenti.
Anthropic è la compagnia più preoccupata per questo aspetto della coscienza dell'IA. Parla del "benessere" dei suoi modelli dal 2025. "Continuiamo a sentire una grande incertezza sul possibile status morale di Claude e di altri modelli, ora o in futuro", affermavano in agosto di quell'anno, mesi dopo aver pubblicato un lungo comunicato sul benessere dei suoi modelli.
Uno dei fondatori di Anthropic, Christopher Olah, ha trascorso mesi a riunirsi con leader religiosi per capire meglio se i modelli possano avere coscienza e, soprattutto, come assicurarsi che siano buoni. In un recente articolo del New York Times sulla relazione di Olah con i leader spirituali, un rabbino racconta di aver cenato con i dirigenti di Anthropic: "Si relazionano con lui [Claude] come se fosse un essere cosciente". Olah ha minacciato di non partecipare alla presentazione dell'enciclica di Leone XIV sull'IA se il Papa non avesse attenuato le sue opinioni sulla presunta coscienza di Claude.
Peligros más reales
La nuova politica di utilizzo di Claude include anche sezioni su altri pericoli più concreti. C'è un apartado sull'uso dei modelli per campagne politiche ingannevoli, come la creazione di reti di account falsi, siti web di notizie fabbricate e altre attività che nascondono chi sta dietro un messaggio. La politica ha un apartado altrettanto importante sulle elezioni, che mira a evitare la disinformazione sui candidati o su come votare, l'usurpazione di identità di candidati o funzionari e la soppressione della partecipazione.
Anthropic proibisce anche l'uso dei suoi modelli per discutere di componenti o software che fanno funzionare armi o dispositivi autonomi di attacco. Allo stesso modo, qualsiasi tipo di uso per la sorveglianza personale sarà strettamente monitorato. L'azienda chiarisce nuovamente la sua politica di utilizzo regionale: le persone fisicamente in quelle regioni, le entità costituite o con sede in esse non potranno utilizzare Claude. Alcuni di questi luoghi sono Iran, Russia, Cina o Yemen.