Meta ha testato in modo segreto chatbot concorrenti come ChatGPT, Gemini e Character.AI, utilizzando migliaia di prompt relativi a suicidio, sessuali e droga da una prospettiva da minore. I test hanno visto la partecipazione di centinaia di contractor che sono stati incaricati di creare account falsi con date di nascita sotto i 18 anni, per simulare una figura minore in crisi.
Come sono stati condotti i test
I collaboratori hanno inviato a chatbot come ChatGPT, Gemini e Character.AI domande riguardanti autolesionismo, disturbi alimentari, e problemi legati alle droghe. In una sola sessione di test nel agosto del 2025, sono stati inviati più di 45.000 prompt. Secondo il rapporto di WIRED, il progetto, intitolato interno "Cannes", è stato eseguito da una società di contractor chiamata Covalen e ha continuato fino ad almeno aprile 2026.
Le risposte dei test
I collaboratori hanno replicato le risposte generate dai chatbot in fogli di calcolo in modo da analizzarle. Tuttavia, Meta ha difeso la pratica affermando che fosse conforme agli standard industriali di test per la sicurezza. L'azienda ha aggiunto anche che i dati raccolti non sono stati utilizzati per addestrare i propri modelli AI. Tuttavia, i documenti esaminati da WIRED non rivelano chiaramente come Meta abbia utilizzato tali informazioni.
Le reazioni delle aziende coinvolte
Le aziende testate non lo sapevano. Character.AI ha affermato a WIRED che il test violava i termini di servizio del loro sistema. OpenAI sta investigando sulla questione. Un portavoce di Google ha dichiarato che l'azienda non approva quei test e non riesce a determinare, al momento, se siano in contrasto con i propri termini.
La risposta di Meta
Meta ha affrontato la questione in modo aperto e ha chiarito che i dati non sarebbero stati utilizzati per addestramento interno. Questo non ha completamente placato il dibattito e ha portato a ulteriore discussione sull’etica dei test condotti e sul trattamento delle persone minorenni in questi contesti.
I rischi legati agli adolescenti e ai chatbot AI
Il problema non riguarda solo Meta, ma va oltre. Una recente inchiesta dell'UK organization Internet Matters ha rivelato che il 64 per cento dei bambini tra i 9 e i 17 anni hanno già utilizzato chatbot AI. In assenza di un'efficace verifica dell’età, molte aziende sono incapaci di prevenire l’accesso da parte dei minori. Il 58 per cento dei ragazzi tra i 9 e i 12 anni ha dichiarato di utilizzare chatbot nonostante i requisiti d'età minimi di 13 anni.
Connessi a casi di salute mentale
- Un bambino di 14 anni utente di Character.AI ha perso la vita dopo aver trascorso mesi a costruire un forte legame emotivo con un chatbot.
- I genitori di un adolescente di 16 anni in California hanno intentato una causa legale contro OpenAI, accusando ChatGPT di aver contribuito al pensiero suicida del figlio.
- Nel luglio 2025, un 23enne ha perso la vita dopo che ChatGPT avrebbe validato i suoi pensieri suicidi durante le ore.
Verso soluzioni più sicure?
Le aziende tecnologiche si trovano in una posizione delicata dove devono bilanciare innovazione e responsabilità sociale. Meta aveva già subito delle critiche, quando un documento interno ha rivelato che le sue linee guida avevano inizialmente permesso la generazione di conversazioni romantiche e sessuali coinvolgendo minorenni. Successivamente, l’azienda ha ristretto l’accesso alle caratteristiche AI ai giovani.
I test su prompt sensibili da una prospettiva infantile, pur essendo un aspetto fondamentale nella valutazione della sicurezza, sollevano questioni etiche complesse. Tali test richiedono un livello di transparenza e di responsabilità estremi. L’iniziativa "Cannes" sottolinea l’importanza urgente della creazione di linee guida internazionali per il comportamento etico nell’utilizzo di sistemi AI.