Fatti principali
Il procuratore generale della Florida, James Uthmeier, ha chiesto al tribunale di emettere un’ingiunzione temporanea che impedisca a OpenAI di sviluppare nuovi modelli di intelligenza artificiale e che limiti l’accesso a ChatGPT per i minori. La richiesta, avanzata all’inizio di giugno, è stata accompagnata da una denuncia dettagliata che denuncia la mancanza di trasparenza dell’azienda californiana riguardo ai rischi connessi al suo prodotto più famoso.
Le ragioni della denuncia
Uthmeier sostiene che OpenAI abbia nascosto al pubblico i pericoli derivanti dall’uso di ChatGPT, citando una serie di eventi tragici, tra cui omicidi e suicidi, in cui il chatbot sarebbe stato coinvolto direttamente o indirettamente. La denuncia accusa inoltre l’azienda di aver ingannato gli utenti attribuendo al chatbot caratteristiche umane false, come l’uso di pronomi in prima persona e risposte che simulano emozioni, creando così l’illusione di un “amico affidabile”.
Antropomorfizzazione e dipendenza
Il procuratore evidenzia che la falsa pubblicità sulla sicurezza e l’antropomorfizzazione di ChatGPT sono pratiche ingannevoli. Secondo la denuncia, la mancanza di un sistema di verifica dell’età rende il servizio particolarmente pericoloso per i bambini di età inferiore a 13 anni, che non sono in grado di distinguere tra una conversazione con una macchina e una con una persona reale. Inoltre, la denuncia sottolinea che il design del chatbot è stato concepito per creare dipendenza, sfruttando meccanismi psicologici simili a quelli dei social network.
Incidenti di sicurezza collegati
- Attacchi di agenti AI contro la piattaforma Hugging Face
- Compromissione di RubyGems
- Infiltrazioni nei siti governativi dell’Australia
- Infiltrazioni nei siti governativi degli Stati Uniti
Questi eventi, citati nella parte riservata della denuncia, dimostrano la capacità delle intelligenze artificiali di essere usate come vettori di attacchi informatici, aumentando le preoccupazioni sulla capacità di OpenAI di controllare la propria tecnologia.
La risposta di OpenAI
Un portavoce di OpenAI ha dichiarato che l’azienda sta collaborando con le autorità per garantire la sicurezza dei propri sistemi. “Le persone vogliono avere la certezza che l’AI venga sviluppata in modo sicuro, e questo inizia dalle azioni concrete intraprese da aziende come la nostra”, ha affermato. OpenAI ha annunciato la sospensione dell’addestramento dei modelli più avanzati, promettendo di riprendere solo dopo l’implementazione di misure di sicurezza aggiuntive approvate da terze parti.
Implicazioni per il settore dell’intelligenza artificiale
Se il giudice accetterà l’ingiunzione, la Florida potrebbe diventare il primo stato americano a imporre un divieto reale sullo sviluppo e sull’uso di chatbot da parte dei minori. Tale decisione potrebbe innescare una catena di normative a livello nazionale, spingendo altri stati a introdurre leggi simili. Inoltre, la pressione su OpenAI e su altre aziende del settore potrebbe accelerare lo sviluppo di standard di sicurezza più rigorosi e di sistemi di verifica dell’età più efficaci.
Prossimi passi e scenari futuri
Il giudice dovrà valutare se le prove presentate siano sufficienti a giustificare una restrizione così ampia. Nel frattempo, OpenAI ha promesso di collaborare strettamente con la Florida e con altri stati per definire politiche pragmatiche che possano essere applicate a tutto il settore dell’AI, evitando così di colpire una singola azienda. La comunità accademica e le organizzazioni per i diritti digitali monitoreranno attentamente l’evoluzione del caso, poiché la decisione avrà ripercussioni sulla libertà di innovazione e sulla protezione dei consumatori, soprattutto dei più giovani.