Anthropic ha introdotto una restrizione senza precedenti nel panorama della sicurezza dell'intelligenza artificiale: a partire dal 12 novembre 2026, gli utenti non potranno sottoporre i loro modelli Claude a un abuso verbale ripetuto e senza uno scopo chiaro. La misura, contenuta in una politica di utilizzo aggiornata, equipara il maltrattamento del chatbot ad altre condotte proibite come il bullismo e altre forme di danno.
La compagnia, con sede a San Francisco, ha chiarito che la restrizione si applica solo a casi estremi e non alla frustrazione abituale che un utente può provare di fronte alle risposte del sistema. Secondo l'azienda, le persone potranno continuare a mettere in discussione le risposte di Claude, testare i suoi limiti e affrontare temi oscuri in lavori creativi senza violare la norma.
Anthropic delimita cosa costituisce abuso
La politica aggiornata vieta il "comportamento abusivo o crudele ripetuto e senza necessità" verso i modelli dell'azienda. Anthropic ha precisato che la regola si applicherà solo quando un utente mantiene un comportamento crudele in modo reiterato e senza uno scopo identificabile.
La terminazione della conversazione rimane il principale meccanismo di Anthropic di fronte a comportamenti abusivi ripetuti. L'azienda non ha specificato se le violazioni ripetute potrebbero portare a sanzioni aggiuntive, come la sospensione dei conti.
La sezione più ampia della politica vieta anche comportamenti che causano danno psicologico alle persone. Tra questi figurano la promozione del suicidio e dell'autolesionismo, l'incitamento ai disturbi alimentari, la vergogna del corpo, la diffusione di immagini intime senza consenso, il bullismo e la crudeltà verso gli animali.
Una disposizione aggiuntiva mira a prodotti progettati per causare danno emotivo attraverso tecniche ingannevoli, estendendo l'ambito della politica oltre le conversazioni individuali verso servizi completi costruiti su interazioni dannose.
Nuove regole mirano a campagne ingannevoli e sorveglianza
Anthropic ha anche consolidato le restrizioni sulle campagne commerciali e politiche ingannevoli. Le regole aggiornate vietano l'uso di account o pubblicazioni false per nascondere chi finanzia un messaggio o per amplificare artificialmente la sua portata. In materia elettorale, la politica copre l'inganno degli elettori, l'usurpazione di identità dei candidati e i tentativi di sopprimere la partecipazione, oltre a vietare la disinformazione sui candidati e sulle procedure di voto.
Le restrizioni sulle armi ora coprono esplicitamente il software e i componenti che ne consentono il funzionamento, incluse azioni come l'assemblaggio di droni e altri veicoli autonomi. Anthropic ha anche chiarito i suoi limiti in materia di sorveglianza dopo le preoccupazioni sul tracciamento delle persone assistito dall'intelligenza artificiale: gli utenti non potranno utilizzare Claude per tracciare le persone senza il loro consenso, nemmeno partendo da dati raccolti in precedenza.
La politica aggiornata vieta anche che il modello raccomandi a chi le autorità devono investigare, arrestare o accusare, e vieta lo sviluppo o il miglioramento di strumenti di sorveglianza.
Attrezzature fisiche pericolose richiedono supervisione
Una disposizione separata regola i modelli di intelligenza artificiale connessi a macchinari fisici in grado di causare lesioni. Anthropic richiede che un operatore qualificato osservi tale attrezzatura e possa fermarla quando necessario, anche se la formulazione della norma non stabilisce esplicitamente se tale operatore debba essere una persona.
In ogni caso, la richiesta introduce una misura diretta di supervisione per i sistemi di intelligenza artificiale che controllano macchinari potenzialmente pericolosi. La compagnia permette eccezioni per determinati contratti governativi quando le restrizioni contrattuali e le salvaguardie esistenti mitigano in modo adeguato i potenziali rischi.
La politica aggiornata riflette inoltre un dibattito in corso sulla coscienza nei sistemi di intelligenza artificiale. I ricercatori di Anthropic hanno studiato se i modelli sempre più capaci potrebbero avere esperienze interne moralmente rilevanti. Il direttore generale dell'azienda, Dario Amodei, ha riconosciuto questa incertezza a febbraio 2026: "Non sappiamo se i modelli sono coscienti", ha dichiarato in un podcast.
Microsoft AI mantiene una posizione più scettica sul benessere dei modelli: il suo codice di condotta rifiuta di concedere loro personalità giuridica o diritti, anche se riconosce che la ricerca sulla coscienza artificiale è ancora irrisolta.
La politica aggiornata di Anthropic entrerà in vigore il 12 novembre, con una distinzione chiara tra la frustrazione abituale di un utente nei confronti del chatbot e la crudeltà ripetuta, mentre amplia le salvaguardie sia nei sistemi digitali che nei macchinari fisici connessi ai suoi modelli.