Come funziona ORISA e perché è importante

Eliminare una conversazione con un assistente artificiale (AI) su uno smartphone non garantisce la completa rimozione dei dati memorizzati. Gli assistenti AI locali, che operano direttamente sul dispositivo senza inviare dati al cloud, mantengono parte delle informazioni nella memoria di lavoro del telefono anche dopo la cancellazione.

Il team di ricerca della Georgia Institute of Technology ha sviluppato ORISA, uno strumento di forense della memoria in grado di scansionare la RAM del dispositivo Android alla ricerca di frammenti di conversazioni cancellate. Una volta identificati, i dati vengono ricostruiti in una nuova sessione AI funzionante, permettendo di accedere a contenuti che l'utente credeva persi.

Questo approccio apre nuove possibilità per gli investigatori digitali, ma al contempo solleva importanti questioni di privacy per chi utilizza assistenti AI che risiedono localmente sul proprio telefono.

Esperimenti pratici con “Project Note Keeper”

Per dimostrare l'efficacia di ORISA, i ricercatori hanno creato un assistente AI fittizio chiamato “Project Note Keeper” usando l'app Android ChatterUI. Hanno inserito 100 fatti immaginari riguardo a un progetto e poi hanno eliminato la conversazione.

ORISA è riuscito a recuperare le informazioni cancellate e a ricostruire una nuova sessione operativa. Quando i ricercatori hanno chiesto all'assistente ripristinato di elencare le note del progetto, ne ha restituito 26, mentre la sessione originale ne mostrava solo 14, poiché le restanti erano ormai fuori dalla memoria attiva.

Questo esperimento dimostra che è possibile recuperare dati che l'AI aveva già smesso di utilizzare attivamente, rivelando potenziali “tracce digitali” lasciate dagli assistenti locali.

Implicazioni per la sicurezza e la privacy

    • Indagini digitali: ORISA può aiutare a stabilire quali informazioni un utente ha condiviso con un assistente AI e quale assistenza ha ricevuto, fornendo prove preziose in contesti legali o di sicurezza.
    • Rischi per la privacy: La possibilità di recuperare dati cancellati indica che gli utenti non possono considerare le conversazioni eliminate come completamente private, soprattutto su dispositivi con assistenti AI locali.

Valutazione su più app e modelli AI

Il team ha testato ORISA su 10 diverse applicazioni Android e tre modelli di intelligenza artificiale. Su 60 configurazioni di prova, lo strumento è riuscito a recuperare informazioni residue presenti nella memoria del telefono.

È emerso che la quantità di dati recuperabili diminuisce man mano che la memoria del dispositivo viene sovrascritta da altre attività, rendendo più difficile l'accesso a conversazioni più vecchie.

Presentazione e crediti

La ricerca è stata presentata al 2026 IEEE Symposium on Security and Privacy con il paper intitolato “Recovering and Rehosting Mobile Local LLM Conversations and Contexts via Memory Forensics”. Gli autori includono gli studenti di dottorato Ken Xu, David Oygenblik, Runze Zhang e Mingxuan Yao, il ricercatore Muhammad Ibrahim e il professore associato Brendan Saltaformaggio.

Il lavoro è stato svolto nel Cyber Forensics Innovation Laboratory della Georgia Tech, frutto della collaborazione tra la School of Cybersecurity and Privacy e la School of Electrical and Computer Engineering.

Prospettive future

ORISA rappresenta un passo avanti significativo nella forense digitale per le AI locali, ma al contempo evidenzia la necessità di sviluppare meccanismi di cancellazione più sicuri. Gli esperti suggeriscono l'adozione di tecniche di “secure erase” che puliscano anche la memoria volatile del dispositivo.

Nel contesto più ampio, la ricerca contribuisce al dibattito su come bilanciare l'innovazione dell'AI con la protezione dei dati personali, invitando sviluppatori, produttori di dispositivi e legislatori a considerare standard più rigorosi per la gestione della memoria temporanea.