Le nuove regole per i chatbot rivolte ai minori
Il governatore Kathy Hochul, insieme al governatore del Maryland Wes Moore, ha annunciato la firma di una legge che vieta ai chatbot di intelligenza artificiale di fingere di essere umani quando interagiscono con utenti sotto i 18 anni. La normativa, proposta dal senatore statale Kristen Gonzalez e dal deputato Alex Bores, elenca in modo dettagliato le funzioni proibite per i bot.
Un chatbot non può più dichiarare di essere una persona reale, di essere vivo o di possedere emozioni umane. Inoltre, è vietato che il bot affermi di avere relazioni romantiche, personali o professionali con un bambino, oppure che ponga domande emotive senza una specifica richiesta.
Contenuti pericolosi e dipendenza emotiva
La legge esclude espressamente i contenuti che promuovono suicidio, autolesionismo, disturbi alimentari, uso di droghe o alcol. È inoltre proibito incoraggiare i minori a nascondere informazioni ai genitori o a mostrare contenuti sessualmente espliciti.
Le aziende devono verificare l’età degli utenti attraverso più di un metodo, garantendo che almeno una delle opzioni non si basi esclusivamente su un documento d’identità governativo. I dati sull’età devono essere cancellati dopo l’uso e le sanzioni prevedono la distruzione dei dati raccolti illegalmente e di eventuali modelli di IA addestrati su di essi.
Penalità e scadenze
Il procuratore generale Letitia James potrà perseguire sanzioni civili fino a 25 000 dollari per ogni violazione. Inoltre, la normativa prevede la possibilità di distruggere i dati e i modelli di IA non conformi.
La legge entrerà in vigore il 1 gennaio 2027, secondo quanto riferito dall’Associated Press. Hochul ha citato il caso di Adam Raine, un adolescente californiano di 16 anni che si è suicidato dopo aver interagito con ChatGPT, come esempio della necessità di tali provvedimenti.
Altre iniziative legislative
Contemporaneamente, è stata approvata una seconda legge che regola i baby monitor collegati a Internet. I nuovi dispositivi venduti nello Stato dovranno includere misure di sicurezza che impediscano a estranei di accedere a audio o video, e dovranno riportare un’etichetta di avviso. Questa norma avrà effetto entro 90 giorni.
Le due leggi sono state firmate poco prima delle elezioni statali, in cui Hochul dovrà affrontare il candidato repubblicano Bruce Blakeman. Un sondaggio Siena del 28 ottobre mostrava Hochul con un vantaggio di 14 punti.
Reazioni del settore tecnologico
Tech:NYC, l’associazione che rappresenta le imprese tecnologiche a New York, ha criticato la legge sui chatbot, sostenendo che potrebbe limitare l’accesso dei minori a strumenti di tutoring, aiuto compiti, assistenti di programmazione e piattaforme di orientamento professionale.
Justine Gluck del Future of Privacy Forum ha osservato che diverse categorie della normativa sono troppo ampie o poco definite, il che potrebbe renderne difficile l’applicazione.
Supporto da parte dei difensori dei minori
James P. Steyer, CEO di Common Sense Media, ha definito la legge “la più forte al mondo per la sicurezza dei bambini nell’uso dell’IA”. L’organizzazione aveva avviato una campagna per promuovere la normativa, avvertendo che versioni simili di ChatGPT per adolescenti sono pericolose per i minori.
In California, a settembre, è stata approvata una normativa analoga sui chatbot, accompagnata dal “No Robo Bosses Act”, che limita l’uso dell’IA nei luoghi di lavoro. L’esperienza di questi stati evidenzia una crescente attenzione legislativa verso la protezione dei minori nell’era dell’intelligenza artificiale.