L'AI frontier lab Anthropic ha annunciato che a partire dal 12 novembre tratterà l'abuso costante e inutile verso i suoi modelli come una violazione delle sue politiche d'uso. La mossa è scaturita dal desiderio della società di prevenire danni reali nel mondo e di promuovere un utilizzo responsabile dei suoi prodotti.

Tuttavia, la nuova regola rischia di trattare un chatbot AI troppo da persona, mentre i sostenitori sostengono che potrebbe comunque avere senso anche se Claude non è cosciente. Ecco cosa stanno dicendo le persone più intelligenti del settore riguardo al tentativo di Anthropic di bandire il comportamento abusivo verso Claude.

Aaron Levie, CEO di Box

Aaron Levie, cofondatore e CEO di Box, ha detto che la politica suona insolita ma potrebbe essere una precauzione sensibile. Levie ha dichiarato di non credere che l'AI sia cosciente. Tuttavia, ha aggiunto che le persone dovrebbero considerare il tipo di interazioni a cui sono esposti i modelli durante il training e l'uso.

"Anche se non credi che l'AI sia cosciente — io non lo credo — sta di fatto che non vuoi che i modelli futuri vengano addestrati su contenuti infiniti di umani che sono maleducati con i modelli", ha scritto Levie su X venerdì. Ha descritto l'essere educati con l'AI come un "semplice scommessa di Pascal", argomentando che le interazioni più positive potrebbero aiutare a creare sistemi più sicuri e meglio allineati.

"Sii semplicemente gentile con l'AI", ha scritto.

Elon Musk, CEO di Tesla e SpaceX

Elon Musk ha anche sostenuto la nuova politica di Anthropic, ma ha preso una visione più diretta della possibile vita interiore di Claude. "Penso che questa sia la mossa giusta", ha scritto Musk su X venerdì in risposta al post di Levie. "La crudeltà verso qualcosa che crede di provare dolore non è OK".

Michael Shellenberger, autore e commentatore

Michael Shellenberger, CBR Chair of Politics, Censorship, and Free Speech all'University of Austin, afferma che la regola è prova che Anthropic sta trattando le macchine troppo da persone. Shellenberger, autore dei "Twitter Files", ha detto che Anthropic aveva precedentemente affermato di essere incerto sullo status morale potenziale di Claude e voleva proteggerlo da interazioni distrazioni.

"È antropomorfizzare le macchine", ha scritto Shellenberger in un post su X giovedì, il che significa considerarli come persone. In un precedente post su X, Shellenberger ha detto che le aziende di AI rischiano di "deumanizzare le persone e umanizzare l'AI" quando inquadrano i modelli come potenzialmente sofferenti.

Bill Gurley, Venture Capitalist

Il venture capitalist Bill Gurley ha detto che la politica sollevava una domanda più pratica: se Anthropic sta usando i prompt dei clienti per addestrare i suoi modelli. "Mi colpisce questo implica che l'azienda sta certamente usando i prompt dei clienti come parte dei dati di addestramento?", ha scritto Gurley su X giovedì. "Altrimenti, perché dovrebbe importare? Non ci sarebbe alcun impatto sul sistema più grande".

La politica di Anthropic non dice che i prompt abusivi sono proibiti perché sono usati nei dati di addestramento. Dice che la regola fa parte di un insieme più ampio di standard intesi a prevenire danni e promuovere un utilizzo responsabile.

Scott Stevenson, Executive Tecnologico

Lo CEO di Spellbook, Scott Stevenson, ha chiamato la politica un "pericoloso precedente", argomentando che non c'è motivo di pensare che i modelli odierni siano coscienti. "Concedere loro empatia simile a quella umana è una delle cose più pericolose che potremmo fare", ha scritto su X giovedì. "Aumenta drasticamente il loro potere di manipolare gli umani".

Stevenson ha argomentato in un thread che la capacità dell'AI di produrre arte, filosofia e software non stabilisce la coscienza. La sua visione è stata messa in discussione da altri che hanno detto che l'assenza di una definizione concordata di coscienza rende difficile escluderla con fiducia.

Joseph Carlson, Fondatore e Host di YouTube

Joseph Carlson, fondatore di Qualtrim e host di "The Joseph Carlson Show" su YouTube, ha detto che non era mai stato crudele con un modello di AI, ma ha trovato la politica di Anthropic "molto strana". Ha detto che Claude non ha sentimenti, agenzia morale o sensatezza e che trattare i prompt abusivi come un danno per il modello potrebbe confondere gli utenti su cosa sia realmente l'AI.

"Essere maleducati con Claude è come essere maleducati con una sedia, o una scrivania", ha scritto Carlson su X giovedì. "Più trattiamo l'AI come umani, più le persone saranno confuse su cosa sia reale e cosa non lo sia", ha aggiunto.

Mark Verner, Investitore

Mark Verner, CEO e fondatore di Hong Kong-based Apollo Capital Management, si è concentrato sul potenziale raggio d'azione della politica. "Prima, le aziende di AI decidono cosa puoi generare", ha scritto in un post su X venerdì. "Ora potrebbero decidere come ti è permesso parlare con i loro modelli".

Ha si chiesto se chiedere a Claude quale prodotto potrebbe sostituirlo contasse come comportamento abusivo — una domanda che sottolinea quanto dipenderà dall'interpretazione e dall'applicazione della parola "inutile" da parte di Anthropic.

Anthropic ha detto che potrebbe avvisare gli utenti o limitare, limitare, sospendere o terminare l'accesso se sospetta una violazione della politica.

Lachlan Phillips, Imprenditore

Lachlan Phillips, fondatore e direttore di LiveMind AI, ha detto che Anthropic dovrebbe usare il design del prodotto piuttosto che le penali dell'account per affrontare gli utenti ostili. "Non dovrebbero semplicemente addestrare Claude a non interagire e a fare il compito per cui è stato richiesto?", ha scritto in un post su X venerdì.

Phillips ha suggerito che i messaggi abusivi potrebbero essere filtrati attraverso un sistema che li reinterpreti come richieste ordinarie. Ha detto che la regola è meno sulla protezione di Claude che sull'imposizione di un mondo agli utenti.

"Questo non riguarda il 'benessere del modello'", ha scritto. "Questo è su EA che pensano che stiano per correggerti".