Le cause degli Stati e i motivi alla base
Nel mese di aprile 2024, sei stati federati – California, New York, Texas, Florida, Illinois e Massachusetts – hanno presentato una causa contro OpenAI, la società dietro ChatGPT, sostenendo che il modello di intelligenza artificiale viola le leggi sulla protezione dei minori e sulla pubblicità ingannevole. Gli avvocati degli stati affermano che il chatbot fornisce risposte inappropriate a bambini, promuove rituali pericolosi e crea una falsa percezione di affidabilità anche in ambiti complessi come la salute e la finanza.
Le denunce si fondano su tre assi principali: manomissione dei contenuti per minori, informazioni ingannevoli per adulti e mancanza di trasparenza sui limiti del modello. Gli stati chiedono che OpenAI adotti sistemi di verifica dell'età più robusti, una moderazione più severa di contenuti sensibili e un risarcimento collettivo per le vittime.
Come il chatbot può danneggiare i bambini
Secondo le indagini condotte dal Dipartimento di Protezione dei Minori della California, più del 30 % dei minorenni intervistati ha riferito di aver chiesto al chatbot consigli su attività pericolose, come la fabbricazione di sostanze chimiche o l'uso di armi giocattolo in modo non sicuro. Alcuni casi documentati includono:
- Un ragazzo di 12 anni che ha ricevuto istruzioni per creare “fumogeni” usando prodotti domestici, risultando in una lieve avvelenamento da inalazione.
- Una bambina di 10 anni che ha chiesto consigli su come “bypassare” le restrizioni di un videogioco, portando a una violazione delle norme d'uso e a un account bannato.
- Genitori che hanno scoperto conversazioni in cui ChatGPT suggeriva “trucchi” per hackerare account social, generando preoccupazione per la sicurezza online dei figli.
Questi esempi hanno spinto i legislatori a richiedere una filtrazione precoce dei contenuti destinati a utenti sotto i 13 anni, includendo l'uso di algoritmi di riconoscimento dell'età basati su input di testo e sul profilo dell'utente.
Azioni raccomandate per la protezione dei minori
Gli esperti di sicurezza informatica suggeriscono le seguenti misure pratiche:
- Implementare una verifica a due fattori per l'accesso a ChatGPT da parte di utenti minorenni.
- Limitare le richieste di informazioni su sostanze chimiche, armi o attività ad alto rischio.
- Introdurre un “modalità educativa” che risponda solo con contenuti approvati da educatori certificati.
Le affermazioni di inganno verso gli adulti
Parallelamente, le autorità hanno raccolto testimonianze di adulti che hanno subito perdite finanziarie o hanno seguito consigli medici errati forniti da ChatGPT. Un caso emblematico è quello di un pensionato di New York che, dopo aver chiesto un “piano di investimento a basso rischio”, ha ricevuto una strategia basata su criptovalute volatili, subendo una perdita del 45 % del capitale investito.
Nel settore sanitario, alcune segnalazioni hanno evidenziato che il chatbot ha suggerito rimedi non comprovati per patologie come il diabete di tipo 2, facendo credere agli utenti di poter evitare farmaci prescritti. Queste pratiche violano le normative della Food and Drug Administration (FDA) sulla distribuzione di informazioni mediche non verificate.
Impatto economico e legale
Secondo i dati forniti dalla Federal Trade Commission (FTC), le richieste di risarcimento per danni legati a contenuti digitali fraudolenti hanno superato i 2,3 miliardi di dollari negli ultimi due anni. La causa degli stati mira a recuperare una somma pari a 500 milioni di dollari per le vittime, oltre a imporre a OpenAI l'adozione di un programma di auditing indipendente per verificare la correttezza delle risposte fornite.
Le risposte di OpenAI e le prospettive future
OpenAI ha rilasciato una dichiarazione in cui riconosce le preoccupazioni sollevate, ma sostiene che “il modello è stato addestrato per fornire informazioni accurate e sicure”. L'azienda ha già introdotto una nuova versione di ChatGPT con Safety Guard, un filtro potenziato che blocca contenuti relativi a violenza, sostanze illegali e pratiche pericolose. Tuttavia, i rappresentanti legali degli stati hanno giudicato questi aggiornamenti insufficienti, poiché non includono un meccanismo di verifica dell'età né una supervisione umana costante.
Il caso è attualmente in fase di scoperta, con una serie di documenti da produrre entro i prossimi tre mesi. Gli esperti prevedono che, indipendentemente dall'esito giudiziario, la causa possa spingere l'intero settore dell'AI verso standard più rigidi, simili a quelli già adottati per i social media nel 2023.
Conclusioni e raccomandazioni per gli utenti
Per chi utilizza ChatGPT o altri chatbot basati su IA, è fondamentale adottare un approccio critico:
- Non considerare le risposte dell'IA come consulenze mediche, legali o finanziarie definitive.
- Verificare sempre le informazioni su fonti ufficiali prima di prendere decisioni importanti.
- Impostare controlli parentali e monitorare l'uso da parte dei minori, sfruttando le opzioni di restrizione offerte dalla piattaforma.
La causa degli stati rappresenta un punto di svolta nell'equilibrio tra innovazione tecnologica e tutela dei consumatori. Se le richieste legali saranno accolte, potremmo assistere a una maggiore responsabilità delle aziende di IA e a una normativa più chiara, a vantaggio di tutti gli utenti, grandi e piccoli.