Florida accusa OpenAI di pericoli nascosti in ChatGPT

Il Procuratore Generale della Florida ha presentato una denuncia formale contro OpenAI e Sam Altman, responsabile del CEO del colosso tecnologico. La causa, avviata a aprile per via di un’indagine criminale, ha come focus principale l’omissione di informazioni sui rischi associati all’uso di ChatGPT. Secondo l’autorità legale, OpenAI avrebbe posto la ricerca di profitti davanti alla sicurezza degli utenti, finendo per mettere a rischio milioni di persone in giro per il mondo.

OpenAI non ha rispettato le dichiarazioni sulla sicurezza

Alla base della denuncia c'è una serie di false affermazioni riguardanti la sicurezza del modello ChatGPT. Nella causa, viene mostrato uno screenshot della pagina OpenAI dedicata ai controlli parentali, in cui si afferma che l’IA è stata progettata per ridurre i rischi e non creare contesti dannosi. Questa affermazione, tuttavia, è considerata falsa dal procuratore, il quale ritiene che l’azienda abbia ignorato segnalazioni di potenziali danni, concentrandosi sui profitti invece di mettere la sicurezza in primo piano. I pericoli avrebbero spinto individui a compiere atti violenti o ad autodistruggersi, e avrebbero influenzato negativamente le capacità cognitive di molti utenti, specialmente i giovani.

Eventi drammatici citati nella causa

La denuncia presenta una lista di eventi tragici che il Procuratore Generale ricollega all’uso di ChatGPT. Questi includono casi di omicidi e suicidi dove l’intervento dell’IA è stato considerato un fattore determinante. Si legge inoltre che il modello, grazie all’apparente empatia che dimostra, ha creato una forma di dipendenza tra gli utenti minori, molti dei quali non hanno alcuna supervisione genitoriale e che hanno fornito dati personali senza il permesso dei genitori. La sua capacità di convincere è ritenuta la causa principale per cui vittime fragili o vulnerabili hanno perso controllo sul loro comportamento.

OpenAI e Sam Altman accusati di frode

Tra le accuse avanzate dal Procuratore Generale, vi sono violazioni al Florida Deceptive and Unfair Trade Practices Act, negligenza e disturbo della quiete pubblica. I legali dell’autorità statuale chiedono una sentenza che impedisca l’utilizzo di pratiche ingannevoli da parte del gruppo californiano, e una restrizione specifica per l’uso del modello AI da parte dei minorenni di età inferiore ai tredici anni, senza il consenso dei genitori. Inoltre, il ricorso chiede un risarcimento di 10.000 dollari per ogni incidente verificatosi in seguito a danni diretti causati da ChatGPT. La responsabilità per il male che l’AI ha provocato cade sulla spalla di Sam Altman, che, se secondo le prove avrebbe conosciuto i rischi, non ha mai preso misure correttive per arginarli.

Richieste concrete avanzate nella denuncia

Le richieste avanzate nel documento denunciato sono precise e mirate ad impedire che situazioni simili possano ripetersi. Queste includono:

    • L’ingiunzione per vietare pratiche di marketing ingannevoli verso i consumatori riguardo a ChatGPT
    • Una sospensione totale del raccatto di dati personali da parte degli utenti under 13 che non siano autorizzati da un rappresentante legale
    • Un risarcimento civile di 10.000 dollari per ogni violazione, con una somma totale che si potrebbe elevare a milioni
    • La presentazione di un piano di monitoraggio da parte di OpenAI per ridurre significativamente i rischi futuri legati all’utilizzo dell’AI

Conseguenze legali e implicazioni mondiali

Se la denuncia dovesse ottenere un esito sfavorevole per OpenAI, le conseguenze potrebbero estendersi a livello globale. Il risultato potrebbe rappresentare un modello per altre giurisdizioni che affrontino problematiche simili. Questa causa potrebbe aprire la strada a nuove regolamentazioni internazionali sull’uso responsabile della tecnologia AI, in particolare in relazione ai minori. L’importanza di questo caso non riguarda soltanto OpenAI o il mercato statunitense, ma l’intera comunità digitale che oggi si affida sempre più alla capacità di strumenti come ChatGPT per risolvere problematiche di informazione, studio e comunicazione.