Un rapporto d’intelligence errato alimentato dall’AI

Durante la guerra in corso tra Stati Uniti e Iran, un documento d’intelligence costruito con l’ausilio di un chatbot ha indicato che una nave cinese trasportava componenti di un programma di armi nucleari. Sulla base di tale informazione, le forze armate statunitensi hanno preparato l’intercettazione della nave, con aerei già in volo e personale armato pronto a salire a bordo.

Le fonti citate da CNN, quattro in totale, hanno confermato che l’operazione è stata annullata solo dopo ulteriori verifiche che hanno svelato l’errore del sistema AI. Una delle fonti ha definito il rapporto “interamente falso”. Il comando delle operazioni speciali del Pacifico e il Pentagono non hanno fornito commenti.

Le conseguenze quasi operative dell’errore

L’incidente dimostra come un errore prodotto da un modello linguistico possa penetrare nella catena decisionale militare, assumendo l’autorità di un consueto rapporto d’intelligence. L’analista, operante all’interno di un comando delle operazioni speciali, ha interrogato un chatbot partendo dal manifesto di carico della nave fornito dallo US Special Operations Command Pacific, con sede alle Hawaii.

Il chatbot ha combinato informazioni provenienti da fonti aperte con intelligence classificata ottenuta tramite segnali elettronici, arrivando a una conclusione errata sul contenuto della nave. Successivamente, l’analista ha utilizzato nuovamente l’AI per trasformare il risultato in un rapporto formattato secondo gli standard militari, facendo sì che l’informazione errata fosse inserita in un documento operativo.

Contesto di accelerazione dell’AI militare statunitense

Il caso si inserisce nella più ampia trasformazione della macchina militare statunitense. Il 12 gennaio 2026 l’amministrazione ha presentato una nuova Artificial Intelligence Acceleration Strategy, mirata a estendere l’impiego dell’AI alle operazioni militari, all’intelligence e alle attività amministrative.

Tra i progetti chiave della strategia figurano:

    • Agent Network: sviluppo di agenti AI per la gestione delle operazioni e il supporto decisionale.
    • Open Arsenal: riduzione del tempo tra l’acquisizione di intelligence e la produzione di capacità operative.
    • GenAI.mil: messa a disposizione di modelli generativi per il personale a diversi livelli di classificazione.

La logica dominante è la velocità: un sistema capace di analizzare migliaia di documenti, immagini, intercettazioni e dati sensoristici può abbreviare drasticamente i tempi di identificazione di una minaccia. In ambito militare, poche ore possono fare la differenza tra il localizzare un obiettivo, spostare mezzi o proteggere una base.

Rischi sistemici e necessità di controlli

Allo stesso tempo, la rapidità amplifica le conseguenze di un errore. Nel caso della nave cinese, l’informazione sbagliata è passata da una risposta di chatbot a un documento operativo, contribuendo alla preparazione di una missione militare. Definirlo semplicemente un’allucinazione dell’AI non coglie la complessità del processo: la falsità si è inserita in una catena di verifiche umane, regole procedurali e sistemi informativi.

L’International AI Safety Report 2026, pubblicato il 3 febbraio e coordinato da Yoshua Bengio insieme a più di cento esperti, ricorda che anche i modelli più avanzati continuano a produrre informazioni false con apparente sicurezza. Il rapporto evidenzia inoltre che le prestazioni nei benchmark non corrispondono necessariamente al comportamento dei sistemi nelle condizioni operative reali.

Un’altra analisi, condotta dal Center for Strategic and International Studies, ha testato diversi sistemi AI su scenari di politica estera, riscontrando variazioni nella propensione a suggerire risposte di escalation. Gli autori Benjamin Jensen e Yasir Atalan sostengono che tali differenze rendono indispensabili benchmark e verifiche specifiche prima di inserire questi strumenti nei processi decisionali ad alto rischio.

Il dialogo bilaterale USA‑Cina sull’AI

Il 20 settembre 2026 il segretario al Tesoro Scott Bessent, al termine dei colloqui a New York con il vicepremier cinese He Lifeng, ha annunciato la creazione di un “US‑China AI dialogue”. Gli Stati Uniti hanno inoltre proposto un meccanismo di notifica degli incidenti AI più gravi, al fine di condividere informazioni su eventi che possano avere ripercussioni sulla sicurezza nazionale.

Secondo Bessent, la trasparenza tra le due potenze nell’ambito dell’intelligenza artificiale può ridurre i rischi di crisi internazionali scaturite da errori algoritmici. La proposta, tuttavia, non è ancora vincolante e deve ancora tradursi in procedure operative condivise.

Prospettive future e raccomandazioni

L’incidente ricostruito da CNN mostra come un errore algoritmico relativo a una nave appartenente a una potenza rivale possa essere interpretato come attività ostile, potenzialmente innescando una risposta militare. Questo evidenzia la necessità di stabilire chiaramente:

    • quali evidenze generate da un modello debbano essere verificate con una seconda fonte;
    • in quali momenti e da chi debbano essere effettuati i controlli umani;
    • qual è il ruolo da indicare in ogni rapporto per segnalare l’intervento dell’AI.

Nel campo del targeting, la mancanza di linee guida precise sul controllo umano aumenta il rischio di vittime civili o di fuoco amico. Gli studiosi invitano a definire benchmark di affidabilità e a introdurre procedure di verifica multilivello, specialmente quando le decisioni influenzano l’uso della forza.

Inf