OpenAI ha annunciato l’aggiornamento sulle immagini generate con le proprie tecnologie, come ChatGPT, Codex e le API legate all’Intelligenza Artificiale. Queste immagini porteranno ora i watermark invisibili SynthID, una tecnologia sviluppata da Google DeepMind, insieme alle credenziali C2PA, già implementate in precedenza da OpenAI.
Watermark Invisibili per Prevenire la Diffusione di Informazioni Falsa
I due sistemi di identificazione, SynthID e C2PA, complementari l’uno all’altro, sono progettati per contrastare la diffusione di contenuti generati artificialmente che potrebbero essere utilizzati per creare disinformazione. SynthID si distingue per la sua capacità di sopravvivere anche in assenza di metadati quando l’immagine viene condivisa o modificata, resistendo a screenshot e ritagli. Le credenziali C2PA forniscono invece informazioni più esaustive sulla sua origine.
Un punto cruciale di questa duplice strategia è che i metadati C2PA possono essere eliminati accidentalmente durante il caricamento o la condivisione. SynthID, invece, è incorporato direttamente nel contenuto e non viene distrutto facilmente. Questo rende il sistema SynthID più affidabile per i controlli in ambito giornalistico, dove gli strumenti di verifica ne fanno un utilizzo più frequente rispetto ai credenziali C2PA.
Sistema Combinato Più Sostenibile e Sicuro
OpenAI spiega che SynthID e C2PA sono progettati per integrarsi a vicenda. L’obiettivo è garantire un livello di tracciabilità più elevato rispetto ai metodi precedentemente utilizzati. In pratica, SynthID sopravvive quando i metadati tradizionali spariscano, permettendo comunque di riconoscere una creazione AI.
Portale Pubblico di Verifica
Per rendere questa tecnologia accessibile a tutti, OpenAI ha lanciato un portale di verifica, disponibile in anteprima, dove chiunque può caricare un’immagine per verificare la sua origine. Il sistema controlla sia per la presenza di credenziali C2PA che per i watermark SynthID e riconosce se l’immagine è stata generata da ChatGPT, Codex o le API di OpenAI.
Come indicato, il portale di verifica funziona al momento esclusivamente per le immagini prodotte da OpenAI, ma l’azienda intende espandere il servizio a ulteriori strumenti di riconoscimento, anche provenienti da terze parti, e ad altri formati di contenuto (video, testo, ecc.) nei prossimi mesi.
Limiti Tecnologici e Sicurezza
OpenAI chiarisce che nessun sistema di rilevamento è perfetto. Se durante il controllo né i metadati né i watermark rilevano tracce di origine AI, non si raggiungerà una conclusione definitiva. Tuttavia, la combinazione tra SynthID e C2PA, rispetto ad un singolo sistema, moltiplica le opportunità di identificazione corretta.
Per ulteriori garanzie, OpenAI ha aderito al C2PA Conformance Program, un programma che certifica la conformità ai requisiti specifici del protocollo C2PA, garantendo qualità e sicurezza per i prodotti tecnologici che adottano i suoi standard.
Un Passo Avanti nella Tracciabilità Digitale
L’integrazione di questa funzionalità porterà quindi ad un miglioramento della tracciabilità delle immagini generate dall’Intelligenza Artificiale. Il doppio livello di protezione, benché non infallibile, rappresenta comunque uno strumento indispensabile per limitare la diffusione non autorizzata di contenuti deepfake.