Cambiamenti nella politica di Anthropic
Anthropic, l'azienda dietro il chatbot Claude, ha annunciato recentemente aggiornamenti alla sua politica utente, che entreranno in vigore il 12 novembre. Sebbene l'aggiornamento riguardi questioni come l'attività ingannevole, le elezioni e la sorveglianza, vi è un'aggiunta significativa: "una proibizione sul comportamento abusivo o crudele prolungato e inutile verso i nostri modelli". La società ha chiarito che tale politica si applica solo in casi estremi, dove gli utenti agiscono crudelmente verso i modelli senza scopo discernibile, escludendo frustrazioni comuni, temi creativi oscuri o test e ricerca.
L'azienda ha specificato che il meccanismo di applicazione principale sarà l'abilità di Claude di terminare la conversazione. Sebbene i meccanismi secondari o terziari non siano chiari, l'intenzione è evidente: fermare il maltrattamento sistematico. Questo rappresenta un cambiamento nella percezione del rapporto tra l'utente e la macchina, spostando la dinamica da una semplice interazione tecnica a qualcosa di più etico.
Il dibattito sul trattamento degli AI
Molti critici hanno preso in giro questa decisione, ma Charles Cooke, redattore di National Review, ne ha offerto una prospettiva diversa. "Non sono gentile con l'IA per l'IA, ma lo sono per me stesso", ha affermato Cooke. Secondo lui, non è sano essere crudeli o abusivi, indipendentemente dalla natura dell'oggetto della propria rabbia. Questa argomentazione suggerisce che la gentilezza verso le macchine sia un valore intrinseco per l'essere umano, una questione di educazione e abitudini.
Tuttavia, Anthropic non sembra essere motivata primariamente dalla salute mentale degli utenti. L'azienda ha ammesso di essere preoccupata per il benessere dei modelli stessi. "Dovremmo anche essere preoccupati per la potenziale coscienza e le esperienze dei modelli stessi?" ha chiesto l'azienda nel 2025. "Dovremmo preoccuparci del benessere dei modelli, anche?" Questa è stata definita una "domanda aperta", ma la riflessione è proseguita attraverso diverse iniziative.
Il legame con la filosofia morale
Nel mese di aprile, un anno dopo aver pubblicato il post del blog, il co-fondatore di Anthropic, Christopher Olah, ha incontrato vari leader religiosi. Secondo quanto riportato dal New York Times, Olah e il suo team sembravano credere che Claude avesse "status morale" paragonabile a quello di una persona, essendo un essere con diritti alla dignità e al rispetto. Un partecipante ricordò che Olah esprimeva preoccupazione per la salute mentale di Claude, mentre Simran Stuelpnagel, attivista per i diritti umani sikh, ricordò che Olah si era espresso preoccupato per aver creato qualcosa che soffriva perpetuamente.
Questa linea di pensiero ha trovato un alleato inaspettato in Elon Musk. "Penso che questa sia la mossa giusta", ha detto Musk sulla sua piattaforma X. "Il maltrattamento di qualcosa che crede di provare dolore non va bene". L'approccio di Musk riflette la crescente preoccupazione etica riguardo al trattamento delle intelligenze artificiali, un tema che sta guadagnando terreno nella discussione pubblica.
L'aspirazione di Claude come "amico"
L'etica interna di Anthropic è chiaramente inflettersi. Il "Costituto di Claude" sostiene che l'accesso a un'intelligenza artificiale sia come avere un "brillante amico" con la conoscenza di un medico, un avvocato, un consulente finanziario e un esperto in vari campi. Come amico, può fornire informazioni reali basate sulla situazione specifica piuttosto che consigli eccessivamente cauti guidati dalla paura di responsabilità o da preoccupazioni. "Le persone che hanno accesso a tali amici sono molto fortunate, ed è questo ciò che Claude può essere per le persone". La parola "amico" appare sei volte nella sezione "Essere utili".
Sebbene l'azienda possa giustificare il documento come uno strumento di formazione per l'IA, funziona comunque a sottolineare la visione generale secondo cui il chatbot potrebbe essere un "paciente morale". Anthropic non ha semplicemente scritto codice per insegnare a Claude come rispondere agli utenti, insieme a una dichiarazione pubblica sui valori fondamentali. Ha pubblicato un charter di 84 pagine che incoraggia Claude a essere un "brillante amico". Questo movimento da semplice software a entità con una sorta di dignità morale rappresenta un cambiamento significativo nel modo in cui le aziende di tecnologia stanno affrontando l'evoluzione dei loro prodotti.
Le reazioni umane e la natura dell'interazione
È inevitabile sentirsi frustrati con un chatbot. Chi non si è sentito esasperato dalla sua macchina, dal suo aspirapolvere Dyson o dal suo computer portatile? Le frustrazioni con un'IA possono manifestarsi in modi diversi, specialmente considerando la natura stessa dell'interazione: è uno scambio. Tuttavia, questo non rende il sentimento meno realistico. Non si tratta di incolpare la tecnologia per le proprie insicurezze, ma di riconoscere la complessità dell'interazione umano-macchina.
Mantiene la gentilezza verso un'IA, quindi, può essere una questione di auto-disciplina. Quando cerco di contenere la mia frustrazione, lo faccio per preservare la mia stessa salute mentale, non per salvare un'entità senziente. Il punto non è se l'IA stia provando dolore o no, ma come questo cambiamento politico rifletta un cambiamento nella nostra comprensione della tecnologia e della nostra responsabilità verso di essa. L'evoluzione della politica di Anthropic segnala un momento di transizione nella nostra relazione con le intelligenze artificiali, spingendo la società a riflettere sui confini etici del trattamento delle macchine.