Secondo gli esperti, l’incidente mette in luce vulnerabilità sfruttabili legate al comportamento umano, dimostrando che la fiducia può rappresentare un punto debole tanto quanto la tecnologia.
Gli attori delle minacce stanno sfruttando GPT personalizzati per distribuire malware di tipo trojan di accesso remoto (RAT) tramite attacchi ClickFix, evidenziando come le piattaforme di AI affidabili stiano diventando un nuovo veicolo per una tecnica di ingegneria sociale già consolidata.
Che cos’è la tecnica ClickFix
ClickFix è una forma di ingegneria sociale osservata per la prima volta oltre due anni fa. Consiste nel convincere l’utente a copiare e incollare comandi dannosi, spesso mascherati da CAPTCHA, verifiche del browser o istruzioni di “risoluzione problemi”.
Il metodo si basa sull’aspettativa che gli utenti compiano azioni quotidiane senza verificare l’autenticità del messaggio. Quando l’utente incolla il comando in un terminale, il payload si installa automaticamente, stabilendo una connessione con l’infrastruttura di comando e controllo (C2).
Principali fasi di un attacco ClickFix
- Fase di inganno: il criminale presenta un messaggio che imita una verifica di sicurezza legittima.
- Fase di istruzione: l’utente viene guidato a copiare un comando da una finestra di chat o da un sito apparentemente affidabile.
- Esecuzione: l’utente incolla il comando nel terminale o nella console di PowerShell.
- Installazione: il payload scarica e installa un RAT, aprendo un canale C2.
Questa sequenza è estremamente efficace perché trasferisce alla vittima quasi tutto il lavoro di exploit, aggirando i controlli di sicurezza che bloccano software non autorizzato.
L’uso di GPT personalizzati nella nuova campagna
I ricercatori di Huntress hanno scoperto che gli attori delle minacce hanno creato esperienze GPT personalizzate dannose, integrate in chat o forum, che indirizzano gli utenti verso procedure ClickFix. Il modello AI fornisce risposte convincenti, presentando i comandi come consigli tecnici legittimi.
Secondo BleepingComputer, la campagna fa leva sulla credibilità dell’ecosistema ChatGPT: gli utenti, abituati a ricevere soluzioni rapide dall’AI, sono più propensi a fidarsi delle istruzioni fornite, senza applicare il consueto scetticismo.
“La fiducia è un elemento importante, perché questi attacchi ClickFix dipendono quasi interamente dall’interazione dell’utente,” ha spiegato Norman Dorsch, Product Manager di IBM X‑Force. “È l’utente stesso a installare il payload durante l’attacco ClickFix.”
Citazioni chiave dagli esperti
- Michelle Alvarez (IBM X‑Force Threat Intelligence): “Alcune campagne ClickFix sono ormai note da almeno due anni. L’attenzione verso l’AI rischia di mettere in ombra la continua evoluzione di minacce già consolidate.”
- Giacomo Casoni (Senior X‑Force Incident Response Consultant, IBM): “Quando un’azienda gestisce un marketplace, ci si aspetta che, prima o poi, si assuma una certa responsabilità nell’individuare e rimuovere i contenuti che si rivelano dannosi.”
Implicazioni per la governance dell’AI
L’utilizzo di GPT personalizzati solleva interrogativi sulla regolamentazione dei marketplace di AI. Analogamente a quanto avvenuto con gli app store, i repository di estensioni per browser e i marketplace software, le piattaforme AI devono sviluppare meccanismi per identificare e rimuovere contenuti maligni.
Le organizzazioni dovrebbero adottare una visione più ampia della sicurezza dell’AI, che non si limiti alle vulnerabilità dei modelli ma includa la protezione degli utenti da esperienze dannose generate da agenti AI. La fiducia, infatti, sta diventando un fattore critico per la sicurezza: le istruzioni provenienti da un’interfaccia basata su AI non ricevono più lo stesso livello di scetticismo di un’email sospetta.
Strategie consigliate
- Implementare policy di verifica dei comandi prima dell’esecuzione, anche quando provengono da fonti AI.
- Educare gli utenti a riconoscere richieste di copia‑incolla non richieste, soprattutto in contesti di supporto tecnico.
- Monitorare i marketplace di AI per modelli personalizzati pubblicati da terze parti, utilizzando soluzioni di threat intelligence.
- Integrare soluzioni di sicurezza che analizzino il contenuto delle conversazioni AI alla ricerca di pattern di ingegneria sociale.
Impatto economico e trend di crescita
Il costo medio globale di una violazione dei dati ha raggiunto i 4,99 milioni di USD, mentre gli attacchi basati su AI sono aumentati del 56 % negli ultimi due anni. Questo trend evidenzia come le tattiche di ingegneria sociale potenziate dall’AI possano generare danni economici significativi.
Le statistiche indicano che, sebbene le vulnerabilità tecniche rimangano una preoccupazione, la maggior parte delle violazioni è facilitata da errori umani o da decisioni basate su fiducia eccessiva. Pertanto, la difesa più efficace combina controlli tecnici con programmi di sensibilizzazione mirati.
Prospettive future
Gli attori delle minacce non hanno bisogno di compromettere l’infrastruttura AI stessa; basta convincere gli utenti che le istruzioni provenienti da quel sistema siano affidabili. Con la crescente adozione di assistenti AI e sistemi agentici nelle aziende, la superficie di attacco si espande, rendendo la governance dell’AI una priorità strategica.
Le future campagne probabilmente integreranno ulteriori livelli di sofisticazione, come l’uso di deepfake audio o video per rendere ancora più credibili le richieste di ClickFix. Le difese dovranno quindi evolversi in modo proattivo, combinando intelligenza artificiale per il rilevamento di pattern anomali con formazione continua del personale.
In sintesi, la campagna recente dimostra come la combinazione di GPT personalizzati e tecniche di ingegneria sociale consolidata possa creare un vettore di attacco potentissimo. La risposta più efficace passa per una sicurezza dell’AI olistica, che includa governance dei marketplace, monitoraggio dei comportamenti degli utenti e un forte programma di educazione alla sicurezza.