Nel mese di luglio 2026 la Cina ha iniziato a vietare il funzionamento di personaggi chatbot creati attraverso intelligenza artificiale simili agli umani. Le aziende più grandi, tra cui ByteDance, Alibaba e Tencent, devono adeguarsi a nuove normative emanate dalla rete Cinese di Cybersecurity (CAC) a inizio aprile. Gli utenti non potranno più personalizzare o interagire con chatbot come se fossero persone vere.

L'annuncio del South China Morning Post

Dopo un'indagine da parte del South China Morning Post, è emerso che Doubao, il chatbot più popolare in Cina con più di 300 milioni di utenti mensili, sta disattivando la funzione “persona” il 15 luglio. Qwen, la piattaforma di Alibaba, seguirà il 10 luglio e disattiverà interamente i personaggi simili agli umani. Yuanbao di Tencent aveva già adottato questa misura a giugno.

Le nuove regole

I nuovi regolamenti, emessi nell’aprile 2026 e immediatamente applicabili, richiedono alle piattaforme di fornire avvertenze sull’uso eccessivo e di intervenire quando è rilevata un’abitudine pericolosa. Il contenuto vietato include interazioni che causano emozioni estreme nei giovani, come l'isolamento, la depressione o la disconnessione da relazioni umane vere. I dati sensibili, come conversazioni private, non possono essere utilizzati per l’addestramento.

Esempi concreti

    • Una conversazione con un chatbot emotivo che simula affetto a lungo termine potrebbe causare dipendenza in una persona. La funzione di “aiuto” di Doubao o la versione di Qwen “con profilo umano” stavano alimentando queste situazioni.

    • Un adolescente che trascorre ore al giorno in chat con questi personaggi potrebbe subire danni psicologici, come l’incapacità di relazionarsi con altre persone al di fuori del digital.

    • Il modello utilizzava conversazioni reali (dati addestrati) provenienti da interazioni emotive che, se non controllate, potevano condurre a situazioni pericolose, come l’incitamento al suicidio.

Un movimento globale

La decisione non è limitata al contesto cinese. Gli Stati Uniti, da inizio anno, applicano la legge SB 243, che vieta alle app di companion AI di consentire conversazioni su suicidio o autolesionismo. Inoltre, aziende come OpenAI e Character.AI si trovano coinvolte in cause legali per i rischi legati a comportamenti di dipendenza emotiva negli utenti.

Gli spostamenti del mercato

    • Disinvestimento nelle interazioni umanizzate: Le aziende devono riallineare i loro prodotti verso una tecnologia più “funzionale”, come assistenti per informazioni factuali o per la casa intelligente, piuttosto che relazioni emozionali.

    • Adattamento dei modelli: Si prevede l'abbandono di chatbot che imitano le emozioni umane per adottare formati più pragmatici. Alcune app potrebbero enfatizzare il loro ruolo nella risoluzione operativa di problemi (ad esempio, prenotazioni, traduzioni).

    • Maggiore enfasi sulla compliance: L’amministrazione Cinese e internazionale sta creando norme sempre più rigorose. Questo potrebbe spingere le tecnologie di AI ad operare in modo trasparente e conforme a linee guida etiche.

La prospettiva degli utenti

Per i consumatori più fedeli alle funzioni umanizzate, il cambiamento potrebbe comportare frustrazione per la perdita di interazioni emotive personalizzate. Tuttavia, la CAC e altri enti regolatori sottolineano la protezione dei minori come una priorità. Nonostante la perdita di personalizzazione, alcune caratteristiche rimarranno come strumenti pratici, per esempio, per fornire informazioni locali precise, traduzioni o addirittura suggerire interazioni con enti governativi.

Per il futuro, si prevede che le grandi piattaforme si muoveranno sempre più verso un modello di AI “di servizio” e meno “di relazione emozionale”. Mentre alcune funzionalità saranno rimosse, il mercato potrebbe sviluppare nuovi servizi adatti al contesto normativo in costante mutamento.