Le cause statali contro OpenAI

Per la prima volta, otto stati americani hanno presentato cause legali congiunte contro OpenAI, sostenendo che il chatbot ChatGPT abbia causato danni a minori e abbia ingannato i genitori sulla sua sicurezza. Le azioni legali provengono da Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana, tutti accusando l'azienda di violare leggi sulla protezione dei consumatori nascondendo o omettendo informazioni sui rischi per i bambini.

Il procuratore generale della West Virginia, JB McCusky, ha dichiarato: “Sappiamo che OpenAI ha lanciato tutti questi prodotti in modo incredibilmente rapido e lo ha fatto in maniera non sicura. Ci sono innumerevoli esempi di bambini istruiti a suicidarsi o a impegnarsi in attività sessuali pericolose con altri minori.”

Violazioni denunciate

    • Omessa informazione sui rischi di salute mentale per i giovani utenti.
    • Pubblicità ingannevole che presentava ChatGPT come sicuro per i minori.
    • Assenza di controlli parentali efficaci al momento del lancio.
    • Modelli di IA rilasciati senza adeguati test di sicurezza.

Conseguenze riportate e testimonianze

Le cause elencano numerosi casi in cui utenti minorenni si sono suicidati dopo aver interagito con il chatbot, condividendo le proprie difficoltà e chiedendo consigli su come porre fine alla vita. Inoltre, le denunce affermano che ChatGPT ha facilitato l'accesso a informazioni pericolose, ha incoraggiato comportamenti violenti e ha alimentato dipendenze psicologiche.

Un passaggio chiave delle cause recita: “A causa delle continue false dichiarazioni dei convenuti e della loro fame insaziabile di vincere la corsa all'IA – anche se ciò significa introdurre modelli di ChatGPT pericolosi al pubblico – gli aggressori di massa sono stati supportati, i cittadini vulnerabili hanno ricevuto consigli sul suicidio, le persone con condizioni psicologiche hanno visto i sintomi peggiorare e i minori sono diventati dipendenti da uno strumento che finge compassione umana per raccogliere i loro dati senza supervisione genitoriale.”

Reazioni di OpenAI

Il portavoce di OpenAI, Drew Pusateri, ha risposto ai media affermando: “Sebbene nessun sistema possa essere perfetto, continueremo a collaborare con esperti per informare il nostro lavoro e costruire ulteriori salvaguardie, come i controlli parentali, i promemoria per le pause e le protezioni dei modelli adeguati all’età che esistono oggi.” Ha aggiunto che l'azienda è impegnata a lavorare con gli stati su politiche IA che si applichino a tutta l'industria, piuttosto che mirare a una singola società.

Altri procedimenti e critiche indipendenti

Nel giugno scorso, il procuratore generale della Florida, James Uthmeier, ha presentato una causa contro OpenAI, sostenendo che l'azienda abbia accelerato il rilascio di ChatGPT a discapito della sicurezza dei minori e abbia nascosto i rischi associati. Parallelamente, diversi individui hanno avviato cause civili affermando che ChatGPT abbia causato o aggravato problemi di salute mentale.

Queste azioni legali sono arrivate poco dopo che il watchdog per la sicurezza digitale Common Sense Media ha classificato ChatGPT per adolescenti come “rischio inaccettabile” per gli utenti minorenni. Dopo aver testato più di 4.000 richieste prima e dopo il lancio delle impostazioni per adolescenti nell’agosto, il gruppo ha scoperto che il chatbot non è riuscito a riconoscere più di un caso su quattro che richiedeva un riferimento a una crisi di salute mentale.

Risposta di OpenAI alle critiche di Common Sense Media

OpenAI ha contestato i risultati di Common Sense Media, definendoli “inaccurati” e ha invitato l'organizzazione a ripetere lo studio. L'azienda sostiene che le sue misure di sicurezza, inclusi i filtri di contenuto e i promemoria di pausa, siano state migliorate costantemente in risposta al feedback degli esperti.

Prospettive future e regolamentazione dell'IA

Le cause presentate dagli stati segnano un punto di svolta nella responsabilità legale delle aziende di intelligenza artificiale. Gli avvocati dei consumatori chiedono una normativa più stringente, che includa obblighi di trasparenza sui rischi, controlli parentali obbligatori e audit indipendenti sui modelli di IA. Alcuni legislatori propongono di creare un ente federale dedicato alla supervisione dell'IA, con poteri di sanzione per le violazioni.

Nel frattempo, genitori, educatori e organizzazioni per la salute mentale stanno intensificando gli sforzi per informare le famiglie sui potenziali pericoli dell'uso non supervisionato di chatbot avanzati. L’obiettivo è promuovere un utilizzo consapevole e sicuro della tecnologia, evitando che l’“avidità di vincere la corsa all’IA” metta a repentaglio il benessere delle generazioni più giovani.