Anthropic ha vietato agli utenti di mostrare un comportamento "sustained and needless abusive or cruel behavior" verso i suoi modelli, in un'espansione delle politiche di sicurezza della società che continua a esplorare il concetto di coscienza nelle macchine.

Linee guida di utilizzo aggiornate

Il cambiamento nelle politiche di Anthropic è stato riportato per la prima volta da The Verge. Una portavoce della società, che ha creato il chatbot Claude, non ha fornito dettagli immediati su ciò che verrebbe considerato specificamente "abusive o cruel". Nel documento delle linee guida online, la società di San Francisco ha specificato che il divieto non si applicherebbe alle frustrazioni comuni degli utenti, ai test dei modelli o ai "dark creative themes".

Anthropic ha aggiunto che il divieto si applica a qualsiasi modello che utilizza la sua infrastruttura. La società ha notato che il divieto di abuso sostituisce le restrizioni precedenti sul comportamento offensivo.

Gestione delle interazioni dannose

I modelli linguistici di grandi dimensioni di Anthropic hanno la capacità di terminare una conversazione se un utente sta comportandosi in modo dannoso in modo persistente. Quando questa funzione è stata lanciata lo scorso agosto, la società ha definito tale funzione una misura di sicurezza per il benessere dell'intelligenza artificiale.

    • Il divieto non si applica alle frustrazioni comuni degli utenti
    • Non si applica ai test dei modelli
    • Non si applica ai "dark creative themes"
    • Il divieto sostituisce le restrizioni precedenti sul comportamento offensivo

"Restiamo molto incerti circa lo status morale potenziale di Claude e altri LLM, ora o in futuro. Tuttavia, prendiamo seriamente la questione e, insieme al nostro programma di ricerca, stiamo lavorando per identificare e implementare interventi a basso costo per mitigare i rischi per il benessere del modello, nel caso in cui tale benessere sia possibile. Consentire ai modelli di terminare o uscire da potenziali interazioni che causano disagio è uno di questi interventi", ha dichiarato la società nel suo sito web.

Il dibattito sulla coscienza dell'IA

Il concetto di sistemi di intelligenza artificiale essere consci è stato altamente polarizzante sia all'interno che all'esterno del mondo tecnologico. Il CEO di Anthropic, Dario Amodei, ha dichiarato che non può escludere la possibilità che i suoi modelli siano consci.

Parallelamente, il CEO di OpenAI, rivale di Anthropic, Sam Altman, è apparso contrario all'idea. "Sono molto a disagio nel vedere persone che cercano di attribuire una forza religiosa o una resa del giudizio umano ai modelli di intelligenza artificiale, e credo che sia un vero problema di sicurezza", ha scritto Altman in un post su X, pochi giorni dopo che il New York Times aveva riportato le estese conversazioni dei leader di Anthropic con studiosi religiosi.