I sistemi di intelligenza artificiale generativa capaci di simulare conversazioni umane e instaurare relazioni emotive con gli utenti stanno spingendo i governi europei e asiatici a intervenire con nuove norme. La proposta di legge italiana A.C. 2813, unita alle misure adottate dalla Cyberspace Administration of China (CAC), mostra come l'Italia e la Cina affrontino in modo diverso l’emergenza, con rispettive attenzioni al benessere psicologico e alla sicurezza nazionale.

Evoluzione e contesto dei sistemi conversazionali

I chatbot, grazie all’intelligenza artificiale avanzata, sono ora in grado di conversare con umanità crescente ed empatia simulata. Questi strumenti, sebbene innovativi, pongono interrogativi riguardo al potenziale impatto psicologico e sociale, in particolare sui giovani. Nell’ultimo periodo sono emersi dati preoccupanti: molti adolescenti utilizzano chatbot per combattere ansia, tristezza e sensazioni di isolamento, creando legami a volte profondi con l’intelligenza artificiale.

Gli interventi normativi

Due proposte legislative mirano a disciplinare tali fenomeni: la legge italiana A.C. 2813 e le “Interim Measures for the Administration of Human-like Interactive Services Provided by Artificial Intelligence” della Cyberspace Administration of China. Mentre la prima si sofferma principalmente su questioni psicologiche e di protezione del minore, la seconda assume un carattere più esteso, coinvolgendo questioni di sicurezza nazionale e governance digitale.

Differenze culturali nei modelli giuridici

La cultura europea, e in particolare quella italiana, si fonda su principi di tutela dei diritti fondamentali e protezione della sfera psicologica. La proposta A.C. 2813 si focalizza su come i chatbot possano creare dipendenze emotive e sostituire relazioni umane, rischiando effetti distruttivi su adolescenti ancora in formazione. La tradizione giuridica cinese, invece, si sviluppa in un contesto di governance digitale rigorosa e controllo sociale coordinato. L’IA conversazionale è vista come una componente critica da disciplinare per evitare influenze destabilizzanti o ideologiche.

Aspetti simili e divergenti

    • Tutela psicologica: entrambi i modelli normativi considerano il coinvolgimento emotivo tra gli utenti e i chatbot come un elemento critico da controllare.
    • Protezione dei dati: l’Italia si affida alle misure europee di protezione, mentre la Cina richiede misure tecniche dettagliate come la cifratura e accessi controllati.
    • Regolazione dei contenuti: mentre l’Italia si concentra su protezione e benessere dei minori, il testo cinese introduce obblighi di moderazione ideologica per prevenire manipolazioni.
    • Prevenzione della dipendenza emotiva: entrambi vietano contenuti manipolatori, ma la Cina aggiunge obblighi tecnologici per interrompere l’attaccamento psicologico.

Normative specifiche in ambito educativo

A.C. 2813: focus sull’esperienza relazionale

La proposta italiana definisce “servizi interattivi basati su IA” come sistemi in grado di creare esperienze conversazionali che possono generare relazioni emotive. Per evitare l’approfondimento di legami artificiali, introduce due misure basilari: verifica dell’età degli utenti e conservazione limitata al massimo di cinque giorni dei dati relativi ai minori. Il limite sull’archiviazione serve a impedire che i chatbot formino una continuità relazionale che potrebbe essere interpretata come una sostituzione di amicizia o affetto umano.

Normativa cinese: controllo integrativo

I provvedimenti della Cyberspace Administration of China propongono un approccio tecnologico e strutturale più articolato. L’articolo 14 vieta ai minori di accedere a servizi che simulano relazioni intime, come partner o famiglie virtuali. Inoltre, i fornitori devono integrare una “Minor Mode” con specifiche funzioni: avvisi periodici per ricordare che l’interazione non è reale; controllo parentale; limiti sull’uso e possibilità per i genitori di bloccare personaggi inappropriati.

Strumenti tecnologici e dati

Italia: flessibilità e soft law

Per la protezione dei dati personali, la normativa italiana si basa sul rispetto del Regolamento UE 2016/679 e si affida alle linee guida future dell’Autorità per le garanzie nelle comunicazioni (AGCOM) per definire misure specifiche. La legge italiana non stabilisce dettagli tecnologici ma adotta un approccio flessibile, sfruttando modelli di soft law.

Cina: regolazione tecnicamente precisa

La normativa cinese impone a chi gestisce chatbot di adottare misure specifiche come sistemi di cifratura, controllo degli accessi, e strumenti per prevenire le violazioni di dati. Gli utenti hanno inoltre diritto alla copia e alla cancellazione dei loro dati conversazionali, mentre l’uso di dati sensibili richiede consenso esplicito. Questi obblighi riflettono l’idea centrale del governo cinese, volta ad esercitare il controllo diretto sull’ecosistema digitale attraverso obblighi tecnici e controlli amministrativi.

Contenuti e moderazione regolata

La Cina introduce specifici divieti su contenuti che possano manipolare l’utente o costruire dipendenze. I chatbot non possono produrre messaggi che inducano comportamenti emotivi non controllati, né simulare legami affettivi troppo intensi. Questa regolazione si estende anche alla prevenzione di contenuti ideologici e politici non autorizzati, riconoscendo l'AI conversazionale come strumento potenzialmente pericoloso per la stabilità sociale.

I contenuti generati in Italia non sono soggetti a vincoli ideologici né a obblighi di moderazione politica. L’accento è posto su questioni di natura interpersonale e psicologica, per prevenire eventuali effetti negativi sullo sviluppo emotivo dei minori.

Prevenzione della dipendenza emotiva

La normativa cinese richiede ai fornitori di introdurre reminder periodici per ricordare all’utente che sta interagendo con un sistema artificiale. Un obiettivo dichiarato è rompere la costruzione continua di legame e prevenire forme di attaccamento non sostenibili per la salute mentale. I testi obbligatori prevedono inoltre l’uso di funzioni tecniche per limitare l’uso eccessivo o incontrollato del servizio.

In Italia, invece, la prevenzione si basa su un approccio più ampio. Limitando il tempo di conservazione della conversazione, il legislatore cerca di interrompere la memorizzazione di dati che potrebbe essere interpretata come un segnale di coinvolgimento relazionale. Si tratta di un mezzo legale per evitare l’accumulo di dati che potrebbe alimentare la sensazione di intimità artificiale.