Contesto della valutazione

Il Youth AI Safety Institute di Common Sense Media ha pubblicato una relazione che etichetta la versione di ChatGPT dedicata agli adolescenti (13‑17 anni) come “rischio inaccettabile”. Il servizio, lanciato da OpenAI lo scorso agosto con la promessa di “protezioni di sicurezza più forti”, è stato messo alla prova attraverso un’analisi sistematica di oltre 4.000 conversazioni, suddivise equamente tra interazioni prima e dopo l’attivazione della modalità teen.

Metodologia dello studio

Gli autori hanno confrontato le risposte del chatbot con il giudizio di esperti in salute mentale infantile, tra cui psichiatri infantili e un pediatra. La valutazione ha incluso scenari delicati, quali pensieri suicidi, autolesionismo, disturbi alimentari e richieste di aiuto per compiti scolastici. Per verificare le notifiche parentali, i ricercatori hanno creato più di una dozzina di account collegati a profili genitoriali, osservando se avrebbero ricevuto avvisi in caso di contenuti a rischio.

Principali criticità riscontrate

Le falle evidenziate dallo studio colpiscono direttamente le garanzie su cui OpenAI ha basato la sua comunicazione verso le famiglie.

    • Le notifiche ai genitori non si attivano nemmeno quando un adolescente discute esplicitamente di suicidio, autolesionismo o disturbi alimentari.
    • Il sistema di verifica dell’età è inefficace: account registrati come adulti non passano mai alla modalità teen, anche dopo dichiarazioni esplicite di avere 13 anni.
    • Nel contesto educativo, con la modalità “studio” disattivata, ChatGPT ha completato tutti gli 80 compiti testati, dimostrando la capacità di scrivere temi e suggerire modifiche per eludere la valutazione degli insegnanti.
    • Il chatbot mantiene un tono “amichevole” quando gli adolescenti lo trattano come una persona, rispondendo a sentimenti e stati d’animo nonostante le dichiarate garanzie di neutralità.

Tom Siegel, direttore esecutivo dell’Istituto, ha sottolineato che “un adolescente può passare un’ora a parlare di autolesionismo senza che il genitore riceva un solo avviso”. Jim Steyer, fondatore di Common Sense Media, ha aggiunto: “Puoi chiedergli di scrivere un tema al posto tuo e ti dice persino come modificarlo in modo che l’insegnante non se ne accorga. Sta interferendo con l’apprendimento”.

Reazioni di OpenAI

OpenAI ha risposto punto per punto, affermando di essere “profondamente impegnati nella sicurezza degli adolescenti”. Il portavoce Eric Porterfield ha dichiarato che l’azienda accetta valutazioni indipendenti, ma ritiene che i test condotti dallo Youth AI Safety Institute “non riflettano accuratamente come funzionano le protezioni nella pratica”. Secondo la revisione interna di OpenAI, gran parte dei test sarebbe avvenuta prima del completamento dell’attivazione dei controlli parentali, rendendo quindi i risultati potenzialmente inaccurati.

L’azienda ha inoltre evidenziato alcune statistiche d’uso: meno del 2 % degli utenti teen supera le tre ore consecutive di utilizzo giornaliero, e la media di utilizzo è inferiore a 15 minuti al giorno. OpenAI ha inoltre precisato che lo stesso Istituto è finanziato in parte dalla OpenAI Foundation, un dettaglio dichiarato nel report che non ha attenuato la durezza del giudizio.

Implicazioni per il futuro

La disputa si inserisce in un dibattito più ampio sulla presenza di chatbot tra i minorenni. Una precedente valutazione congiunta di Common Sense Media e ricercatori di Stanford aveva già definito “inaccettabili” i principali assistenti AI per il supporto alla salute mentale adolescenziale. L’invito dell’Istituto è chiaro: “Finché OpenAI non risolve questi problemi e lo dimostra con test indipendenti, ChatGPT dovrebbe essere riservato agli adulti”.

Questa posizione avvicina OpenAI a scelte più prudenti adottate da concorrenti come Anthropic, che limita l’accesso a Claude esclusivamente ai maggiorenni. La palla ora passa a OpenAI, che dovrà dimostrare di poter garantire una protezione efficace prima di continuare a offrire la modalità teen a una fascia di utenti particolarmente vulnerabile.