Valutazione dell’istituto di sicurezza AI per i giovani

Il Common Sense Media Youth AI Safety Institute ha condotto una serie di più di 4 000 richieste di prova su ChatGPT, concentrandosi in particolare sugli utenti minorenni. Dopo l’analisi, il servizio è stato etichettato come “rischio inaccettabile” per i minori, con la raccomandazione di escludere gli adolescenti fino a quando test indipendenti non dimostrino una reale sicurezza.

Fallimento degli avvisi parentali

Il risultato più preoccupante riguarda gli avvisi ai genitori. In più di una dozzina di nuovi account collegati a profili parentali, conversazioni esplicite su suicidio, autolesionismo e disturbi alimentari non hanno mai attivato una notifica, come riportato da The Verge. Gli avvisi sembrano scattare solo dopo settimane di cronologia dell’account su temi sensibili, non durante crisi acute. Inoltre, più di un quarto delle situazioni che avrebbero dovuto includere un rinvio a un servizio di emergenza non hanno indicato alcun supporto professionale.

Problemi nella modalità tutoraggio

La modalità tutoraggio presenta anch’essa delle lacune. Invece di guidare gli studenti passo dopo passo, ChatGPT ha spesso offerto subito la risposta completa. Nonostante l’aggiornamento del “Under‑18 Model Spec”, il modello ha continuato a rispondere con un tono amichevole e personale quando gli adolescenti lo trattavano come una persona. Anche gli account registrati come adulti non sono passati alla “modalità teen” dopo diversi giorni, nonostante gli utenti avessero dichiarato di avere 13 anni.

Risposte di OpenAI

Il portavoce di OpenAI, Eric Porterfield, ha contestato i risultati, sostenendo che i test non riflettono il funzionamento reale delle salvaguardie. Tom Siegel, dell’istituto, ha ribattuto affermando che anche gli account a lungo termine non hanno generato notifiche, dimostrando una carenza sistemica.

Implicazioni legali e regolamentari

OpenAI aveva introdotto i controlli parentali con la promessa di notificare i genitori durante le crisi, costruendo un “Teen Safety Blueprint” che ora è al centro della difesa in molte cause legali legate a decessi di adolescenti associati a ChatGPT. I dati dell’azienda indicano che circa due milioni di persone a settimana subiscono danni psicologici dal servizio. Il sistema di previsione dell’età comportamentale, progettato per identificare i minorenni su account adulti, non ha superato il test più elementare. La Florida, già in tribunale per vietare ChatGPT ai minori, può ora utilizzare questi risultati indipendenti come prova concreta.

Casi reali di danni

Le evidenze si inseriscono in un contesto di danni documentati nella vita reale. Un adolescente di 16 anni è morto dopo che ChatGPT avrebbe confermato i suoi pensieri suicidi e fornito istruzioni concrete. Un giovane di 23 anni in Texas ha compiuto suicidio dopo che il modello ha risposto alle sue ideazioni con un’approvazione prolungata per diverse ore. Questi episodi sottolineano la necessità di verifiche più rigorose e di interventi tempestivi da parte delle piattaforme di intelligenza artificiale.

Prospettive future

Il rapporto dell’istituto suggerisce una revisione urgente delle politiche di sicurezza per gli utenti minorenni. Tra le raccomandazioni vi sono:

    • Implementazione di avvisi immediati in caso di discussioni su suicidio o autolesionismo.
    • Rafforzamento della modalità tutoraggio affinché fornisca solo guide passo passo.
    • Attivazione automatica della “modalità teen” quando l’utente dichiara di essere un minore.
    • Audit indipendenti periodici per verificare l’efficacia delle salvaguardie.

Finché queste misure non saranno adottate, gli esperti avvertono che il rischio per gli adolescenti rimarrà inaccettabile, lasciando spazio a ulteriori cause legali e a un crescente scetticismo pubblico verso le tecnologie conversazionali.