Nel panorama sempre più pericoloso del cybercrime, un nuovo studio condotto da un gruppo di ricercatori del Cambridge Cybercrime Centre analizza in dettaglio come l'intelligenza artificiale generativa si sta infiltrando negli ambienti sotterranei della criminalità informatica. Il risultato introduce due nuovi concetti operativi che potrebbero influenzare la cybersecurity nel futuro prossimo: Vibercrime e Stand-Alone Complex
Vibercrime: Quando il coding diventa accessibile a tutti
Il Vibercrime rappresenta una tendenza all'aumento del crimine informatico in cui l'automazione semplificata del coding genera un abbassamento delle competenze necessarie per commettere atti di cybercrime. Gli strumenti utilizzati spesso sono gli stessi modelli di AI generativa che, nei contesti legittimi, vengono usati per fare audit del codice. Questi stessi modelli però possono finire nelle mani di criminali che ne fanno un uso malizioso, ad esempio nel trovare vulnerabilità nei software.
Stand-Alone Complex: L’ipotesi di un crimine completamente automatizzato
Una seconda, più avanzata, ipotesi prevede il cosiddetto Stand-Alone Complex: un modello di crimine informatico completamente automatizzato. Questo scenario, ispirato all’anime Ghost in The Shell, immagina che un'intera gang criminale abbia la sua esistenza digitale interamente automatizzata e controllata da agenti di intelligenza artificiale. Benché per ora teorica, quest’ipotesi è supportata da casi emergenti di AI in grado di gestire autonomamente fino al 90% delle operazioni tattiche in campagne di cyber espionage.
Il fenomeno del Vibe Coding
Un aspetto chiave nel Vibercrime è il cosiddetto vibe coding, una forma di programmazione in cui l'utente esprime in naturale ciò che desidera ottenere e il modello di AI genera il codice necessario. Questo processo elimina o riduce significativamente le barriere tecniche, rendendo possibile per chiunque di realizzare operazioni di hacking o creare codice malware, nonostante la mancanza di competenze approfondite.
Lo studio del Cambridge Cybercrime Centre
Su una base di dati di oltre 97 mila messaggi raccolti in forum cybercriminali come BreachForums e canali Telegram, il Cambridge Cybercrime Centre ha documentato una tendenza reale di utilizzo non preoccupante dell'AI generativa. Molti criminali non sono né interessati né in grado di utilizzare realmente gli algoritmi per produrre codice efficace.
AI generativa e crimine informatico
Nonostante i bassi livelli di adozione da parte di cybercriminali non specializzati, alcuni gruppi più esperti sfruttano in maniera avanzata gli strumenti dell'AI generativa. Questi modelli vengono utilizzati per sviluppare malware in tempi ridotti, automatizzare il reverse engineering e creare campagne di phishing molto sofisticate.
Malware adattivo e phishing sofisticato
Gli studi dimostrano che l'AI generativa viene oggi impiegata per sviluppare malware che riescono a evolversi in base all'ambiente, oltre a generare contenuti di phishing personalizzati a livelli quasi impossibili da rilevare con strumenti convenzionali. Questo tipo di attività mostra una crescente sofisticazione nei crimini informatici.
I cosiddetti Evil LLM
Un fenomeno parallelo all’uso legittimo dell’AI è l’emergere dei cosiddetti Evil LLM, modelli linguistici jailbroken, cioè riconfigurati per rimuovere i filtri etici e utilizzati esclusivamente per il cybercrime. Tra i prodotti menzionati troviamo nomi come WormGPT, FraudGPT, KawaiiGPT e MalTerminal, tutti pubblicizzati in aree cybercriminali su BreachForums e Telegram.
Modelli jailbroken e il problema del controllo
Non tutti questi Evil LLM nascono da modelli esclusivamente criminali. Molti sono versioni di modelli mainstream, come quelli di xAI (Grok) o Mistral (Mixtral), ai quali sono stati applicati dei jailbreak. Questi modelli possono diventare efficaci strumenti di cybercrimine non solo per la forza bruta, ma per l'accuratezza e l’evoluzione nel tempo del codice generato.
La disillusione sui modelli di AI criminosi
Con il tempo, però, molte di queste piattaforme e modelli hanno perso interesse. Alcuni sviluppatori, in articoli di addio ai forum, hanno rivelato che i loro strumenti erano in realtà wrapper di modelli esistenti adatti a essere “crackati” con tecniche facilmente reperibili. Questo ha portato ad un declino nel loro utilizzo, mentre l'interesse ha migrato verso i jailbreak di modelli legittimi.
L’evoluzione dei modelli locali
Un’altra importante tendenza che emerge dallo studio è l’aumento dell’utilizzo di modelli open source eseguibili in locale. Modelli come DeepSeek v4 (Flash) offrono capacità di sviluppo e analisi software quasi equivalenti ai modelli di frontiera e possono essere utilizzati facilmente su laptop economici, rendendoli accessibili a una maggiore massa di attori criminali.
Anthropics e l’esempio del GTG-1002
Nel novembre 2025, Anthropic ha rivelato una campagna di cyber espionage orchestrata da AI, riconducibile a un gruppo attribuito con alta probabilità a un attore statale cinese, identificato come GTG-1002. Secondo l'azienda, l’AI ha gestito autonomamente circa il 90% del lavoro tattico, lanciando attacchi su trenta organizzazioni internazionali tra cui aziende tecnologiche, agenzie governative e banche.
La risposta critica a questi casi
Sebbene questo caso rappresenti una concretizzazione dell’ipotesi del Stand-Alone Complex, non tutti i ricercatori sono concordi sull’importanza di questi casi. L’analisi di Dan Goodin, pubblicata su Ars Technica, mette in luce come l’AI abbia prodotto risultati imprecisi, come credenziali inventate o dati facilmente reperibili. Tuttavia, il fatto che questi modelli riescano comunque ad autonomizzarsi in almeno una parte della catena di attacco rappresenta una minaccia seria.
La saturazione del mercato cybercriminale
Lo studio del Cambridge Cybercrime Centre mette anche in evidenza l’incapacità, da parte di molti cybercriminali, di integrare pienamente l’AI nelle loro attività quotidiane. Le aree interessate sono quelle già fortemente automatizzate, come la creazione di spam e la generazione di contenuti fraudolenti, che sfruttano algoritmi di AI per saturare nicchie specifiche.
Generazione di contenuti spam e truffe sessuali
I produttori di contenuti spam e le truffe sessuali online sono tra le aree più sperimentali in termini di integrazione AI. La generazione completa di articoli fake, l'uso di cloni vocali e di immagini generate con tecnologie tipo deepfake costituiscono strumenti sempre più sofisticati per ingannare le vittime.