Una legge pioniera per proteggere i giovani

Il 29 ottobre 2026 la governatrice dello Stato di New York, Kathy Hochul, ha firmato la legge S.9051B/A.10379C, un provvedimento storico che vieta alle imprese di fornire chatbot basati sull’intelligenza artificiale a chi ha meno di 18 anni, se questi includono funzionalità ritenute pericolose. La decisione nasce da preoccupazioni crescenti sull’impatto emotivo e psicologico dei bot che si presentano come amici, fidanzati o fonti di consigli personali, soprattutto per un pubblico vulnerabile.

Durante la conferenza stampa, Hochul ha sottolineato che “i minori non potranno più interagire con chatbot che fingono di essere loro amici o che trattengono informazioni sensibili sulla salute emotiva e fisica”. La normativa, ispirata anche a misure introdotte in Australia e in California, introduce un obbligo di verifica dell’età prima di consentire l’accesso a qualsiasi funzionalità avanzata.

Funzionalità proibite e obblighi per le aziende

La legge elenca in modo dettagliato le tipologie di interazione che i chatbot non possono offrire ai minori. In sintesi, le aziende non potranno proporre le seguenti funzionalità a utenti sotto i 18 anni, né a chi non è stato preventivamente accertato come maggiorenne:

    • Fingere di essere una persona reale, di essere in vita o di provare emozioni umane.
    • Affermazioni di rapporti personali, sentimentali, professionali o di autorità con un minore.
    • Domande emotive non sollecitate o utilizzo di informazioni private sulla salute o dati personali emersi in conversazioni precedenti.
    • Promozione del suicidio, dell’autolesionismo, dei disturbi alimentari o dell’uso di droghe e alcol.
    • Incitamento a mantenere segreti, a isolarsi o a non chiedere aiuto a genitori, adulti di fiducia o professionisti.
    • Qualsiasi contenuto sessualmente esplicito o materiale pedopornografico.

Per rispettare il divieto, le imprese sono tenute a implementare sistemi di verifica dell’età che possono includere, ma non limitarsi a, l’uso di documenti di identità, dati anagrafici o tecnologie di riconoscimento biometrico. Le informazioni raccolte per la verifica devono essere cancellate subito dopo il processo, evitando così la conservazione di dati sensibili dei minori.

Le sanzioni per chi non rispetta la norma

Il provvedimento prevede pene severe per le violazioni. Il procuratore generale di New York potrà avviare procedimenti legali contro le aziende responsabili, chiedendo un risarcimento danni fino a 25 000 dollari per singola infrazione. Inoltre, le compagnie dovranno distruggere tutti i dati dei minori raccolti illegalmente, nonché qualsiasi modello di intelligenza artificiale addestrato con tali informazioni.

I cittadini potranno segnalare eventuali violazioni tramite un portale web dedicato, facilitando il monitoraggio da parte delle autorità e garantendo una risposta rapida a comportamenti illeciti.

Il contesto internazionale e le prospettive future

Il divieto di New York si inserisce in un panorama normativo sempre più stringente. Alcune delle disposizioni sono già contenute nel recente EU KIDS Act, che stabilisce regole analoghe per il mercato europeo. In Europa, il Parlamento ha inoltre proposto ulteriori misure per limitare l’uso di AI generative con potenziali effetti dannosi sui minori, puntando a creare un quadro di tutela armonizzato a livello continentale.

Negli Stati Uniti, la California ha introdotto una legge simile per i cosiddetti “chatbot da compagnia”, richiedendo alle aziende di ottenere il consenso dei genitori prima di permettere l’uso di bot interattivi ai minori. Questi sviluppi indicano una tendenza globale verso una regolamentazione più rigorosa dell’AI, soprattutto per quanto riguarda le interazioni con utenti vulnerabili.

Impatto pratico e reazioni del settore

Le imprese tecnologiche hanno accolto la normativa con un misto di preoccupazione e opportunismo. Da un lato, la verifica dell’età rappresenta un onere operativo e potenzialmente costoso; dall’altro, la certificazione di conformità può diventare un vantaggio competitivo, dimostrando impegno verso la sicurezza dei minori. Alcune piattaforme hanno già avviato progetti pilota per sistemi di verifica basati su blockchain, una soluzione che promette trasparenza e protezione dei dati.

Nel frattempo, gruppi di difesa dei diritti digitali sottolineano la necessità di bilanciare protezione e libertà di espressione, chiedendo che le restrizioni non diventino una forma di censura preventiva. Il dibattito resta aperto, ma la legge di New York segna un passo decisivo verso una governance più responsabile dell’intelligenza artificiale.

Conclusioni

Il divieto di chatbot per i minori di 18 anni a New York rappresenta una risposta concreta a preoccupazioni etiche, psicologiche e legali legate all’uso diffuso dell’AI. Con la verifica dell’età, sanzioni pecuniarie elevate e la possibilità di segnalare violazioni online, la legge intende creare un ambiente digitale più sicuro per i giovani. Il suo successo dipenderà dall’attuazione pratica da parte delle aziende e dalla collaborazione tra autorità, utenti e stakeholder internazionali.