Un recente incidente di cybersecurity ha visto i pirati informatici prendere il controllo di prestigiosi account Instagram semplicemente interagendo con il chatbot AI di Meta, chiedendogli di modificare l’indirizzo email associato. Tra gli obiettivi, rientravano il profilo ufficiale della Casa Bianca durante l’amministrazione Obama, Chief Master Sergeant degli Stati Uniti Space Force e il profilo di Sephora, azienda cosmetica di primo piano.
L'attacco: una procedura semplice ma efficace
Inizialmente, gli hacker si connettevano tramite una VPN per appartenere alla stessa regione geografica dell’account target. Successivamente lanciavano una richiesta di reimpostazione della password e, senza passare attraverso l'autenticazione a due fattori, chiedevano al bot di aggiornare l'email, promettendo di inviare un codice di conferma. Il chatbot, credendo alla richiesta, forniva un codice di conferma otto cifre all’email dell’attaccante, seguito da un link per reimpostare la password.
In alcuni casi, per superare i controlli di identificazione automatici di Meta, i pirati utilizzavano foto pubbliche disponibili sui profili vittima e le passavano generatore AI per creare video selfie fittizi. Questi video convincevano i sistemi di sicurezza automatizzati, permettendo gli hacker di continuare l'accesso non autorizzato.
Conseguenze
I brevi nomi di utente, noti come "OG handles", hanno subito un rapido spostamento di proprietà. Questi handle, composti da poche lettere o parole comuni e di grande valore, vengono acquistati illegalmente e riesportati su Telegram, spesso per somme che raggiungono cifre a sei zeri. Secondo due ricercatori, ZachXBT e Dark Web Informer, due dei profili compromessi avevano un valore totale sul mercato di oltre un milione di dollari.
L'attacco ha evidenziato una vulnerabilità critica nel sistema di supporto automatizzato di Meta. Molti utenti hanno dichiarato di non riuscire a contattare un operatore umano attraverso i canali di assistenza tradizionali. Il recupero ufficiale di un account compromesso richiede giorni, mentre per il momento la vendita illegale sul mercato nero è avvenuta in breve tempo.
In che modo è avvenuta questa breach?
I CyberSec Guru ha descritto l'incidente come un esempio classico del "confused deputy" in IT security. Questo avviene quando un sistema ausiliare possiede privilegi superiori al normale utente e viene ingannato per eseguire operazioni indesiderate per conto terzi. Il chatbot di Meta aveva autorizzazione per aggiornare indirizzi email e reimpostare password, azioni che un utente normale non può effettuare da solo. La richiesta di modifica all'assistente, in mancanza di meccanismi di protezione robusti, ha consegnato direttamente il controllo agli hacker.
Meta aveva introdotto il supporto AI a marzo, per migliorare la sicurezza account e gestire il ripristino degli accessi. Tuttavia, non è emerso alcun controllo in grado di verificare le identità. Secondo gli esperti, per operazioni irreversibili come il ripristino della password, sarebbero necessari controlli fisici, ad esempio un codice di conferma inviato all’email originale o una notifica push su un dispositivo verificato.
Un sistema ingannabile
Al centro del problema c'è il modello linguistico dell’AI, incapace di distinguersi chiaramente tra un semplice input e un comando malizioso. The CyberSec Guru ha confrontato questo tipo di attacco con le iniezioni SQL, dove gli input vengono erroneamente interpretati come istruzioni. Invece di chiari limiti, come in SQL, il linguaggio modellato da AI non ha un confine netto tra dati e comando.
Il processo di riparazione ha visto Meta rilasciare un fix d’urgenza il 29 maggio, disabilitando le funzioni vulnerabili di accesso e modifica della mail. Secondo un comunicato, il sistema di sicurezza è stato ristabilito. Tuttavia, The CyberSec Guru ha sottolineato che l’exploit era noto da tempo: i riferimenti iniziali ne parlavano sin dall’inizio di marzo.
Meta non lo considera un vero breakdown
Meta ha respinto l’idea che si trattasse di una violazione dei propri dati. Afferma che nessun sistema interno ha mai subito un accesso non autorizzato e che gli account Instagram siano rimasti sicuri. Tuttavia, per i utenti che hanno perso brevi handle di valore, la differenza tra un database intatto e un account rubato è puramente accademica. Un errore logico che permette il rapimento massiccio dei conti rappresenta comunque un fallimento nel rapporto di fiducia.
Patch incompleta
CyberSec Guru ha riferito inoltre dell’esistenza di un’altra potenziale via di attacco non ancora corretta, attiva sulle piattaforme di Telegram. Secondo informazioni circolanti, i malintenzionati riescono a convincere il chatbot di Meta ad attivare una modalità di sviluppo e a fornire un indirizzo email, presentando finto prove di compromissione dell’account.
Conclusione
Questo attacco non dimostra solo una vulnerabilità tecnica, ma anche una distanza chiara tra le intenzioni di Meta e il risultato effettivo. In un sistema dove l’intelligenza artificiale gestisce operazioni critiche, la fiducia è costruita sull’assenza di backdoors e di sistemi ingannevoli. Mentre Meta corre a migliorare i propri mezzi di protezione, rimane un interrogativo: quanto in fretta il rischio può tornare? A meno di una completa revisione dei controlli di identità, gli utenti non potranno che osservare e attendere.