Introduzione: il nuovo panorama delle minacce digitali

Lavorare nel mondo della cybersecurity offre un osservatorio privilegiato su come si muovono gli equilibri e gli interessi nel mondo digitale e, di riflesso, in quello reale. In questi anni, osservando l'evoluzione delle minacce informatiche, è maturata una convinzione fondamentale: oggi gli attacchi più efficaci non passano più soltanto attraverso vulnerabilità tecnologiche. Sfruttano qualcosa di molto più sottile e, per certi versi, più intimo: la fiducia che ciascuno di noi ripone nel proprio rapporto con l'intelligenza artificiale.

Questo cambiamento rappresenta una trasformazione profonda nel modo in cui le minacce digitali si manifestano e si diffondono. Non si tratta più di semplici exploit tecnici o di violazioni di sistemi difesi da password deboli. Oggi le minacce sfruttano la nostra inclinazione naturale a fidarci degli strumenti che utilizziamo quotidianamente, a delegare loro compiti che una volta gestivamo con maggiore cautela, a condividere con essi informazioni che custodiremmo con estrema cura se destinate a persone fisiche.

I gesti quotidiani che nascondono rischi nascosti

Capita a molti di dichiedere un consiglio a un chatbot su una questione personale, magari allegando un documento che aiuti a inquadrare la situazione. Questi documenti possono includere una busta paga, un contratto, una diagnosi medica, oppure si potrebbe generare un'immagine partendo da una propria fotografia. Sono gesti che sembrano innocui ma che meritano una riflessione molto più attenta di quella che siamo ormai abituati a dedicargli.

Ciascuno di quei documenti concentra in poche righe informazioni che nella vita quotidiana custodiamo con cura: il reddito, lo stato di salute, gli obblighi presi con qualcuno. La comodità dello strumento, però, tende ad abbassare la soglia della nostra attenzione proprio quando dovremmo tenerla più alta. È un fenomeno psicologico ben noto: quando uno strumento è facile da usare e sembra offrir vantaggi immediati, tendiamo a sottovalutare i costi potenziali e i rischi associati al suo utilizzo.

Non consideriamo che il documento che stiamo condividendo con un chatbot per ottenere un consiglio legale o finanziario non scomparirà nel nulla, consumato e dimenticato come una conversazione verbale con un amico. Quel documento, insieme alle nostre domande, ai nostri dubbi e alle nostre fragilità, entrerà in un ecosistema di dati digitali del quale non controlliamo né i confini né le regole.

Gli AI companion e il profilo dettagliato della nostra vita

Il rischio assume una dimensione ancora più complessa quando consideriamo il caso degli AI companion: sistemi pensati non per rispondere a una domanda isolata, ma per costruire con l'utente una relazione che si sviluppa nel tempo. È in questi casi che il rischio cambia natura e si approfondisce in modo sostanziale.

Un sistema che ci accompagna per mesi finisce per conoscerci meglio di quanto immaginiamo: le abitudini, gli orari, gli stati d'animo, le piccole fragilità che affiorano nelle conversazioni di ogni giorno. Si compone così, un frammento alla volta, un ritratto di noi molto più dettagliato di quello che avremmo mai deciso di consegnare consapevolmente a chiunque. Questi sistemi raccolgono non solo le informazioni che condividiamo esplicitamente, ma anche i pattern delle nostre interazioni, i temi ricorrenti nelle nostre conversazioni, i momenti in cui siamo più vulnerabili.

Questa raccolta progressiva di dati comportamentali e psicologici crea un profilo talmente preciso che potrebbe rivelarsi molto più prezioso, dal punto di vista commerciale o malevolo, rispetto ai semplici dati demografici tradizionali. Chi possiede un profilo così accurato della nostra personalità, dei nostri desideri nascosti e delle nostre debolezze possiede uno strumento di influenza estremamente potente.

Dove vanno i dati: giurisdizioni e controllo

I dati restano su server che spesso si trovano fuori dall'Italia, talvolta fuori dall'Unione europea, sotto giurisdizioni diverse e condizioni d'uso che quasi nessuno legge davvero. Questa dispersione geografica dei dati rappresenta un aspetto critico che pochi utenti comprendono pienamente.

Quando condividiamo informazioni con un chatbot gestito da un'azienda statunitense, i nostri dati potrebbero essere sottoposti alle leggi sulla sorveglianza americana, che permettono agli organismi governativi di accedere ai dati digitali in modo molto meno restrittivo rispetto alla legislazione europea. Analogamente, i dati potrebbe essere trasferiti in altre giurisdizioni dove le protezioni legali sono significativamente più deboli.

In molti casi, se l'utente non si oppone espressamente, quelle stesse conversazioni vengono utilizzate anche per addestrare i modelli di intelligenza artificiale. Questo significa che le confidenze che condividiamo con un chatbot, i dettagli personali che confidiamo a un AI companion, le informazioni sensibili che allrighiamo per ottenere un consiglio, diventano parte del dataset utilizzato per migliorare il servizio stesso. Non sappiamo per quanto tempo quei dati resteranno conservati, né chi potrà effettivamente consultarli una volta che il sistema sia stato aggiornato, migrato o trasferito ad altre organizzazioni.

Il caso emblematico di Chat & Ask AI

Un caso emblematico di quanto queste preoccupazioni siano fondate è stato il caso dell'app Chat & Ask AI, il cui intero archivio è stato trovato accessibile in rete. I numeri sono impressionanti: trecento milioni di messaggi, venticinque milioni di utenti coinvolti. Non si è trattato di un furto sofisticato perpetrato da hacker esperti, ma semplicemente di una configurazione scorretta che ha reso pubblicamente accessibili i dati che avrebbero dovuto essere protetti.

Questo incidente rivela quanto sia fragile la catena di protezione che circonda i nostri dati personali digitali. Anche quando le intenzioni dell'azienda sono buone, anche quando le architetture di sicurezza sono state pensate attentamente, gli errori umani, le configurazioni sbagliate e i sistemi non aggiornati possono trasformare miliardi di messaggi privati in informazioni pubblicamente consultabili.

L'asimmetria irrisolvibile tra password e identità

Emerge qui un'asimmetria fondamentale che troppo spesso trascuriamo: una password compromessa si può cambiare in pochi secondi, mentre il volto, la voce o l'identità di una persona non si sostituiscono. Una volta usciti dal nostro controllo, quei dati non tornano più indietro.

Con un documento d'identità si aprono conti correnti, si costruiscono profili falsi, si firmano contratti a nome altrui. Una fotografia si manipola con strumenti ormai alla portata di chiunque. Se scopriamo che un numero di carta di credito è stato compromesso, possiamo contattare la banca, bloccare la carta, emettere una nuova. Ma se una nostra fotografia è stata utilizzata per creare un deepfake, se un nostro documento d'identità è stato duplicato e utilizzato per frodi, le conseguenze si propagano ben oltre il singolo incidente e richiedono interventi molto più complessi e prolungati nel tempo.

Questa asimmetria è particolarmente preoccupante nel contesto dei chatbot e degli AI companion, dove gli utenti tendono a condividere materiali biometrici e identificativi con la stessa casualità con cui porgono una domanda. La convenienza del servizio maschera completamente il valore reale e la pericolosità potenziale di ciò che stiamo condividendo.

Il quadro normativo: GDPR e AI Act

Il GDPR e l'AI Act affrontano il problema da due angolazioni complementari. Il primo protegge i dati personali, imponendo finalità specifiche, minimizzazione della raccolta e basi giuridiche solide per ogni trattamento. Il principio fondamentale è che i dati devono essere raccolti per scopi espliciti e non devono essere utilizzati per finalità diverse senza il consenso dell'interessato.

L'AI Act, invece, regola il comportamento dei sistemi di intelligenza artificiale, richiedendo trasparenza sul fatto che si stia interagendo con una macchina e non con una persona, oltre a una gestione responsabile dei rischi. L'AI Act, in particolare, vieta esplicitamente le tecniche manipolative o ingannevoli che sfruttano vulnerabilità legate all'età o a condizioni di fragilità per alterare in modo significativo il comportamento di una persona.

Questo non rende illegale ogni AI companion, ma pone un confine netto ad alcune pratiche progettuali che potrebbero essere utilizzate per indurre dipendenza psicologica o per manipolare gli utenti vulnerabili. Tuttavia, resta però un limite di fondo: le regole si muovono con i tempi del diritto, mentre la tecnologia corre a una velocità difficile da inseguire, e la loro applicazione concreta arriva quasi sempre quando il fenomeno si è già diffuso ampiamente.

La responsabilità condivisa tra fornitori e utenti

Nessuna norma impedisce automaticamente che le nostre conversazioni vengano riutilizzate per migliorare un servizio: ciò è lecito quando esiste una base giuridica valida e i requisiti di GDPR e AI Act sono rispettati. La responsabilità, in altre parole, non ricade solo sul fornitore. Anche l'utente ha un ruolo attivo nel proteggersi, non perché sia giusto che debba farlo, ma perché è semplicemente la realtà della situazione attuale.

Mentre le normative stabiliscono gli obblighi legali delle aziende, è difficile che una singola multa di conformità normativa, anche se significativa, possa dissuadere dai comportamenti a rischio se gli incentivi economici di accumulare e utilizzare dati rimangono altamente redditizi. Gli utenti, quindi, devono assumere un ruolo attivo nella propria autodifesa, non per responsabilità morale, ma per pura necessità pratica.

Raccomandazioni pratiche per la protezione personale

Da chi lavora ogni giorno per difendere aziende e persone da minacce digitali sempre più sofisticate, arriva un invito alla prudenza che non ha nulla di allarmistico, ma di semplicemente pratico. Ecco le raccomandazioni concrete:

  • Evitare di condividere password, coordinate bancarie o documenti d'identità con un chatbot. Questi dati rappresentano il premio più prezioso per un attaccante e non devono mai essere affidati a sistemi che non sono stati esplicitamente progettati e certificati per gestirli in modo sicuro.
  • Dedicare cinque minuti a leggere l'informativa sulla privacy del servizio che stiamo usando, per capire davvero come vengono trattate le nostre conversazioni. Troppi utenti accettano le condizioni d'uso senza leggerle, delegando completamente la protezione dei loro dati a chi li gestisce.
  • Verificare se è possibile disattivare l'utilizzo delle chat a fini di addestramento, e, quando il servizio lo consente, attivarsi per escludere i propri dati da questi usi secondari.
  • Eliminare periodicamente la cronologia dal servizio stesso, quando la funzione è disponibile. Questo non garantisce l'eliminazione completa dei dati dai server dell'azienda, ma riduce almeno la quantità di informazioni accessibili dall'account se questo venisse compromesso.
  • Proteggere non solo le nostre informazioni, ma anche quelle degli altri: caricare la fotografia di un familiare o il contratto di un collega significa decidere, al posto loro, di esporli a un rischio che non hanno scelto. Questa considerazione etica è fondamentale.

I limiti della sicurezza tecnica pura

Nessun sistema online può garantire un rischio pari a zero, nemmeno quando adotta le misure di sicurezza più solide. La tecnologia, per quanto avanzata, non può eliminare completamente la possibilità di errori umani, configurazioni sbagliate, o attacchi sofisticati. Il cosiddetto "rischio zero" è un mito che serve principalmente per tranquillizzare gli utenti senza affrontare realmente il problema.

Ma la consapevolezza, unita a poche abitudini semplici, resta la difesa più efficace che abbiamo. In fondo, la sicurezza informatica non è mai stata soltanto una questione tecnica: è, prima di tutto, una questione di cultura. La cultura della cautela, della consapevolezza, della responsabilità condivisa.

Verso una cultura della consapevolezza digitale

Il vero cambiamento deve avvenire a livello culturale. Gli utenti devono smettere di considerare i chatbot e gli AI companion come strumenti neutrali, come semplici risorse tecniche prive di implicazioni etiche e di sicurezza. Devono iniziare a porsi domande fondamentali ogni volta che interagiscono con questi sistemi: chi controlla questi dati? Per quanto tempo verranno conservati? Come potrebbero essere utilizzati contro di me se cadessero nelle mani sbagliate?

Parallelamente, le aziende che sviluppano questi sistemi devono assumersi responsabilità maggiori. Non è sufficiente conformarsi alle normative minime; è necessario implementare una cultura della privacy by design, dove la protezione dei dati utente non è un'aggiunta successiva, ma un elemento fondamentale dell'architettura del sistema.

Il contesto evolutivo della minaccia

Ciò che rende questo momento particolare nella storia della cybersecurity è che le minacce stanno evolvendo da attacchi basati su vulnerabilità tecn