Nuove protezioni per adolescenti con Meta AI
Meta AI avviserà i genitori in caso di conversazioni con l’intelligenza artificiale relative a temi sensibili come il suicidio e l’autolesionismo. È una delle misure di sicurezza avanzate introdotte da Meta con lo scopo di proteggere meglio i minori che utilizzano le sue piattaforme. Questo sistema segue un modello già sperimentato su Instagram e simile a quanto visto in ChatGPT. L’implementazione dovrebbe iniziare immediatamente negli Stati Uniti, Regno Unito, Canada e Australia, con un’estensione nel resto del mondo entro la fine dell’anno.
Meta ha coinvolto esperti in salute mentale, raccogliendo il feedback di oltre 75 specialisti per migliorare la risposta dell’intelligenza artificiale. Questo approccio mira a garantire che l’AI reagisca adeguatamente a questi sensibili argomenti.
Estensione dell’impostazione Contenuti limitati
Verrà estesa anche l’impostazione “Contenuti limitati” a Meta AI, in sintonia con la configurazione già presente su Instagram. Per tale opzione, quando un genitore sceglie livelli di protezione avanzati per suo figlio adolescente su Instagram, le interazioni con Meta AI saranno limitate in modo analogo.
Questa funzione permetterà di gestire l’accesso a contenuti potenzialmente pericolosi, con un livello di controllo supplementare rispetto a ciò che è attivo su altre piattaforme.
L'analisi per migliorare la risposta dell’AI
La dr.ssa Ji-yeon Lee, psicologa abilitata e professoressa presso la Hankuk University of Foreign Studies, commenta l’approccio adottato da Meta. Secondo lei, il processo di valutazione clinica messo in atto dall’azienda ha una struttura rigorosa: non si limita al contesto immediato delle richieste ma prende in considerazione la conversazione nel suo complesso, la natura delle risposte successive e i diversi livelli di rischio.
“Sono rimasta colpita dal rigore del processo di valutazione clinica adottato da Meta. L’analisi non si è limitata alle risposte immediate a contenuti legati a suicidio e autolesionismo, ma ha preso in considerazione anche il contesto più ampio della conversazione, l’appropriatezza delle risposte successive e i diversi livelli di rischio che possono emergere anche all’interno di situazioni ad alta criticità. Un processo di perfezionamento basato sull'esperienza clinica e su scenari concreti è fondamentale per rendere le esperienze con l’AI più sicure per gli adolescenti,” ha dichiarato la dr.ssa Lee.
I benefici di una gestione responsabile dell’AI
L’utilizzo responsabile del sistema di avvisi può garantire ai genitori una maggiore tranquillità e una maggiore responsabilizzazione dei ragazzi nell’utilizzo delle chat. Questo tipo di interventi mira a creare un ambiente digitale più sicuro, in cui i temi sensibili vengono gestiti con attenzione e riguardo.
L’unione tra tecnologia e salute mentale rappresenta un passo significativo nel creare ambienti digitali adatti ai più giovani. Meta sembra impegnata a fornire strumenti sempre più sicuri e responsabili, supportati da collaborazioni con esperti del settore.