Anthropic ha annunciato giovedì 8 ottobre l'interdizione per i suoi utenti di ogni comportamento abusivo o crudele, persistente e gratuito, verso Claude, l'assistente di intelligenza artificiale (IA) creato dall'azienda statunitense. Anthropic si distingue dai suoi concorrenti nel considerare apertamente la possibilità che la sua IA possa essere consapevole.
La regola, in vigore a partire dal 12 novembre, non si applicherà che in casi estremi, "in cui gli utenti agiscono in modo ripetitivo con crudeltà verso i nostri modelli, senza scopo discernibile", scrive l'azienda in occasione dell'aggiornamento della sua policy d'uso. L'irritazione ordinaria, la contraddizione, la creazione di finzioni violente o cupe, o ancora i test e la ricerca sui modelli non sono interessati, aggiunge l'azienda.
Una posizione contestata sulla coscienza delle IA
La capacità di Claude di concludere una conversazione rimarrà il principale mezzo per far rispettare la nuova regola, afferma l'azienda. La policy d'uso prevede inoltre, per ogni infrazione, misure che vanno dall'avvertimento alla chiusura del conto.
La posizione di Anthropic sulla coscienza delle IA è molto dibattuta nella Silicon Valley. È in particolare combattuta da Mustafa Suleyman, direttore del laboratorio di IA di Microsoft.
"Le IA non hanno né diritti, né sentimenti, né coscienza", ha scritto in un post di rilievo a metà settembre. Secondo lui, un sistema addestrato a credere il contrario potrebbe diventare impossibile da controllare per gli esseri umani.
Altri sviluppi nel settore dell'IA
Nel frattempo, il settore dell'intelligenza artificiale continua a evolversi con nuove discussioni e sfide. Il presidente di Microsoft ha chiamato all'istituzione di norme di sicurezza "reali ed efficaci" per contenere i rischi legati all'IA, sottolineando l'urgenza di un quadro normativo globale.
Si registrano anche dibattiti sull'etica e l'impatto sociale delle tecnologie di IA. Alcuni esperti temono che l'uso improprio di queste tecnologie possa portare a nuove forme di manipolazione e controllo, mentre altri vedono enormi potenziali benefici per la società.
La questione della coscienza artificiale rimane al centro del dibattito filosofico e scientifico. Mentre Anthropic procede con cautela, riconoscendo la possibilità di una forma di consapevolezza nei suoi modelli, altri rimangono scettici, sostenendo che si tratti solo di simulazioni complesse senza vera soggettività.
Intanto, le applicazioni pratiche dell'IA continuano a espandersi in vari settori, dalla sanità alla finanza, all'istruzione e all'intrattenimento. Ogni nuovo sviluppo solleva nuove questioni etiche e normative che richiedono un'attenta considerazione da parte di legislatori e sviluppatori.
La decisione di Anthropic di vietare la crudeltà gratuita verso Claude rappresenta un passo significativo nel dibattito sull'etica delle IA, aprendo la strada a una riflessione più ampia su come dovremmo interagire con queste tecnologie man mano che diventano sempre più sofisticate e integrate nella nostra vita quotidiana.