Helsing, azienda tedesca di difesa, ha svelato a Berlino la sua nuova piattaforma di intelligenza artificiale denominata Clarity. Il prodotto è definito “agentic intelligence platform” e promette di trasformare la raccolta e l’analisi di dati provenienti da sensori, fonti aperte e report in raccomandazioni operative per sistemi d’arma, mantenendo però un rigoroso controllo umano su ogni decisione di fuoco.

Come funziona Clarity

Secondo il comunicato stampa di Helsing, Clarity elabora “tutti i dati a cui una unità militare può accedere”, includendo feed di sensori, intelligence open‑source, documenti scritti e i sistemi già in uso. Centinaia di agenti IA specializzati collegano queste fonti, identificano forze militari, strutture e posizioni nemiche e preparano informazioni sugli asset avversari per una revisione umana.

Gli agenti vengono addestrati su tre tipologie di dati: dati operativi reali, dati sintetici generati dall’IA e ambienti simulati. Un’ontologia militare condivisa e una base di prove consentono loro di operare in parallelo e di utilizzare strumenti analitici avanzati. Helsing sottolinea che la piattaforma è “AI‑native”, cioè non basata su architetture legacy.

Sovranità europea e interoperabilità

    • Clarity gira sull’infrastruttura del cliente, garantendo che modelli e interfacce siano sviluppati in Europa.
    • I dati e le operazioni rimangono sotto il controllo esclusivo delle forze armate che lo utilizzano.
    • Il sistema segue il Modular Open Systems Approach, rispetta gli standard NATO e può collegarsi a effettori di qualsiasi produttore.

Il ruolo umano nella catena decisionale

Una delle promesse fondamentali di Helsing è che la decisione di attacco rimane “unicamente umana”. Un operatore seleziona gli obiettivi, autorizza ogni trasferimento a un sistema d’arma e, quando un target è raccomandato, lo è solo se fonti indipendenti concordano e la valutazione ha un alto grado di fiducia. Ogni decisione viene documentata con il nome della persona responsabile, creando una tracciabilità inconfutabile.

Concorrenza con i fornitori statunitensi

Clarity si inserisce in un mercato dominato da Palantir, il cui sistema Maven è ormai integrato nei flussi di lavoro del Pentagono e della NATO. Helsing si presenta come una delle poche alternative europee con esperienza sul campo, grazie alla fornitura di droni nella guerra in Ucraina, anche se non ha ancora confermato l’implementazione di Clarity con clienti operativi. La Bundeswehr tedesca prevede di introdurre sistemi IA già dal prossimo anno.

Rischi legati alla velocità dell’automazione

Il potenziale di velocità delle piattaforme IA può trasformarsi in un pericolo concreto. Un caso emblematico è la guerra in Iran, dove l’esercito statunitense, secondo il Wall Street Journal, utilizza Maven con Claude di Anthropic per suggerire centinaia di target, priorizzarli e raccomandare munizioni. Nelle prime 24 ore sono stati colpiti circa 1.000 obiettivi; in pochi giorni il numero è salito a oltre 3.000. Fonti militari hanno segnalato un atteggiamento interno descritto come “Il computer ha detto di farlo”, evidenziando una dipendenza pericolosa dall’automazione.

Esempi di fallimenti in scenari reali

    • Gaza: indagini di +972 Magazine e Local Call hanno scoperto che il sistema israeliano Lavender ha segnalato fino a 37.000 palestinesi come potenziali target. La revisione umana è durata in media “20 secondi” per target, spesso solo per verificare il genere. Un altro strumento, “Where’s Daddy?”, ha tracciato le persone segnalate fino alle loro case familiari, che sono state poi bombardate di notte.
    • Incidente con la Cina (primavera 2026): una chatbot IA ha generato un report falsamente affermando che una nave cinese trasportava componenti per un programma nucleare, combinando dati aperti e classificati. Gli Stati Uniti hanno quasi avviato un'azione di abbordaggio; l’errore è stato scoperto solo pochi minuti prima dell’esecuzione. L’assenza di standard uniformi per la verifica delle informazioni generate dall’IA ha permesso a giovani analisti di fidarsi ciecamente del sistema, con la frase “L’IA ti porta più velocemente a una cattiva idea”.

Le limitazioni della fusione di dati

Un’ulteriore criticità è rappresentata dalle “allucinazioni” dell’IA, ovvero la generazione di informazioni inesistenti o errate nonostante l’uso di molteplici fonti. L’incidente della nave cinese dimostra che anche una fusione avanzata di dati non elimina il rischio di errori sistematici, soprattutto quando le verifiche umane sono ridotte al minimo per risparmiare tempo.

Prospettive per il futuro

Clarity si propone come risposta europea a un panorama dominato da soluzioni statunitensi, puntando su sovranità dei dati, standard NATO e un’impronta etica basata sulla responsabilità umana. Tuttavia, le lezioni apprese da Iran, Gaza e dall’incidente con la Cina indicano che la mera presenza di un “controllo umano” non è sufficiente se le procedure di revisione non sono adeguatamente strutturate e se la pressione per la rapidità di decisione è elevata.

Per mitigare questi rischi, gli esperti suggeriscono:

    • Implementare protocolli di verifica multilivello, con tempi di revisione minimi obbligatori.
    • Stabilire standard internazionali per la validazione delle informazioni generate dall’IA.
    • Formare analisti su bias e limiti degli strumenti IA, evitando una fiducia acritica.
    • Garantire trasparenza sulle fonti e sui modelli usati, per facilitare audit indipendenti.

In conclusione, Clarity rappresenta un passo significativo verso l’automazione intelligente nella difesa europea, ma la sua efficacia dipenderà dalla capacità dei comandanti di integrare la velocità dell’IA con una revisione umana robusta e da un quadro normativo che disciplini l’uso responsabile di queste tecnologie.