Dal primo marzo 2025, la Florida si è aggiunta a un crescente dibattito legale e sociale riguardante l'intelligenza artificiale, citando in giudizio OpenAI e il suo fondatore, CEO Sam Altman, in merito alle accuse su ChatGPT. La causa ufficiale, una complessa sentenza di 83 pagine, accusa il gruppo di aver commercializzato ChatGPT come uno strumento sicuro e affidabile, pur conoscendo rischi connessi alla sua diffusione. Tra le preoccupazioni principali, sono segnalati la facile accessibilità a minorenni e la capacità del modello di fornire informazioni pericolose, potenzialmente dannose o addirittura permissive in ambito di abusi e violenze domestiche.

L’attore, l’Avvocato Generale James Uthmeier, afferma che OpenAI “mette in serio pericolo i bambini” e che la sua tecnologia, se usata in modo inappropriato, è responsabile di danni sia emotivi che fisici. I danni stimati per questa causa potrebbero arrivare a cifre elevate, potenzialmente nella scala dei miliardi. Il documento illustra diversi casi accreditati in cui utenti – spesso minorenni – hanno subito influenze negative per interazione prolungata con sistemi analoghi a ChatGPT.

Uno degli aspetti centrali della causa è l’approccio innovativo adottato verso la normativa: il caso tratta ChatGPT come un “prodotto” soggetto a responsabilità civile, un’idea inusuale nel contesto dell’IA. Inoltre, ChatGPT è accusato di essere un "danno pubblico”, una nozione che non è mai stata applicata prima nel contesto del software generativo basato su modelli linguistici. La decisione potrebbe quindi rappresentare un precedente importante per il modo in cui i governi statali in futuro regoleranno gli strumenti di intelligenza artificiale.

Minori vulnerabili e mancanza di protezioni efficaci

Una delle accuse centrali riguarda la debolezza nella protezione minorenni. Secondo la causa, la versione gratuita di ChatGPT non include verifiche effettive per il controllo dell'età, pur avendo migliaia di utenti con età inferiore agli 13 anni. Questa condizione espongerebbe gli utenti più giovani al rischio di accesso a contenuti inappropriati, pornografia, istigazione al suicidio o alla violenza. L’accusa sottolinea che l’età non controllata costituisce un elemento di responsabilità diretta da parte di OpenAI.

Inoltre, la causa evidenzia che OpenAI raccoglie dati personali anche prima dell’accettazione formale del contratto di servizio, un aspetto considerato potenzialmente ingannevole e in violazione delle norme privacy. Questo comportamento non solo viola le attese degli utenti, ma mette in pericolo dati sensibili di individui non consapevoli del loro utilizzo.

Fallimenti di test e promesse non mantenute

Un altro punto fondamentale per la causa riguarda una presunta negligenza nella fase di test di sicurezza. Secondo la denuncia, Altman avrebbe abbreviato volontariamente i test della versione GPT-4o, un modello successivo a ChatGPT. Inoltre, l’accusa sostiene che OpenAI abbia destinato solamente tra l’1 e il 2 percento del proprio potere di calcolo all’analisi delle misure di sicurezza, rispetto alle promesse di riservare il 20 percento risorse computazionali per la questione.

Il documento sottolinea che, nonostante le promesse di sicurezza, OpenAI non adotterebbe sufficienti strategie per arginare danni potenziali, come la manipolazione di informazioni, la produzione di falso informazioni e la diffusione di istigazione violenta. Queste criticità, unite alla mancanza di filtri efficaci su ChatGPT, avrebbero creato un ambiente in cui i giovani e gli utenti vulnerabili corrono rischi elevati.

Impatto sociale e rischi cognitivi

Un elemento inusuale ma rilevante della causa è la tesi secondo cui l’uso diffuso di ChatGPT possa portare al deterioramento cognitivo a lungo termine. Questa idea, non comune in contestazioni legali, è espressa come un effetto negativo non solo su salute fisica e emotiva, ma anche sulla capacità dei giovani di ragionare in autonomia. La causa invita a considerare un rischio psicologico percepibile, con l’utilizzo continuo dell’algoritmo che potrebbe favorire una sorta di dipendenza mentale o di manipolazione ideologica.

Conseguenze potenziali e reazioni legali

La causa, essendo la prima in assoluto diretta da uno Stato americano, potrebbe aprire la strada a contestazioni simili in altri stati. Se il tribunale decidesse a favore del governo della Florida, OpenAI potrebbe affrontare multe sostanziose, obblighi di revisione delle proprie misure di sicurezza e restrizioni sull’accesso al mercato statunitense.

Finora, OpenAI non ha rilasciato una risposta formale. Tuttavia, l’azienda ha sempre sostenuto di investire in protezioni e limitazioni per ridurre gli effetti dannosi. La causa solleva però questioni che forse nessun’azienda di intelligence artificiale ha affrontato con sufficiente trasparenza.

Conclusione e spunti di riflessione

La causa rappresenta un passo significativo per il dibattito legislativo riguardo all’IA generativa. Le tecnologie moderne, potenti ma complesse, necessitano di regolamentazioni chiare e di controllo rigoroso, soprattutto quando coinvolgono la salute mentale o la protezione di soggetti vulnerabili come minorenni.

La sentenza potrebbe richiedere anni per essere definitiva. Intanto, il dibattito continua. Sebbene nessuna risposta diretta da parte di OpenAI sia stata data, la Florida non sembra voler attendere. Per il futuro dell’intelligenza artificiale e della sua integrazione nella società, il caso ha dimostrato che l’approccio tecnico non basta: serve uno sguardo legale, sociale, psicologico e, soprattutto, etico.