Gli agenti di intelligenza artificiale sono sempre più capaci di svolgere compiti aziendali autonomamente, ma i leader IT sono prudenti nell'attribuire loro l'autorizzazione per accedere ai sistemi aziendali. La principale sfida riguarda il modo in cui si misura l'affidabilità dell'AI. Gli standard industriali spesso si basano sui punteggi di valutazione (EVAL), che forniscono solo una rappresentazione statica delle prestazioni e non misurano realmente l’affidabilità generale. Bryan Silverthorn, direttore del laboratorio di ricerca AGI Autonomy di Amazon, ha spiegato che questi indicatori non riescono a catturare la prevedibilità dei modelli in base a diversi prompt, ambienti e tipi di input.
Amazon sta evolvendo il focus del proprio laboratorio AGI Autonomy, concentrandosi su un framework strutturato incentrato su quattro aspetti fondamentali: consistenza, robustezza, prevedibilità e sicurezza. "Molto spesso si assume che i modelli possano essere controllati direttamente per la sicurezza", ha dichiarato Silverthorn in un'intervista a VentureBeat prima del suo intervento al VB Transform 2026. "Invece, stiamo proponendo un approccio basato su architetture decoupled, ad esempio ambienti isolati in cui gli agenti propongono modifiche che vengono revisionate da esseri umani prima di essere implementate".
Un sistema per ridurre il rischio di danni
L'approccio adottato da Amazon mira a colmare il gap di fiducia tra le capacità degli agenti e il loro livello di sicurezza, soprattutto quando si opera in contesti ad alto rischio come la finanza. Gli agenti AI potrebbero effettivamente causare danni significativi in caso di errori non rilevati. Silverthorn ha spiegato che Amazon privilegia interazioni verificabili, garantendo processi più trasparenti grazie all'intervento umano nei momenti chiave.
Percezione dei rischi tra i leader tecnologici
Secondo una recente indagine VentureBeat, condotta su oltre 100 dirigenti di alto livello nel settore tecnologico, solo il 4% si sente realmente a proprio agio nell'affidarsi esclusivamente alle barriere di protezione dei modelli AI. Tra i principales timori espressi, il 40% ha citato l’accesso non autorizzato a strumenti o dati sensibili, e il 27% ha menzionato la manipolazione o l’iniezione di prompt.
Che cosa presenterà Amazon
Sull'onda dell’importanza di un framework strutturato, Silverthorn presenterà al VB Transform 2026 i dettagli sull’architettura adottata da Amazon per sviluppare agenti ai sicuri e affidabili. L’intervento avrà luogo nell’ambito della sessione intitolata “Chiusura del divario tra capacità e affidabilità: L'interno del framework di Amazon per ingegnerizzare agenti fidati”. Sarà lì che Silverthorn spiegherà come aziende possano evolvere da modelli singoli a architetture multi-tool che siano in grado di autocorreggersi durante l'esecuzione.
Altri interventi sull’argomento
Anche se il focus principale sarà su Amazon, il convegno VB Transform 2026 presenterà sessioni simili che si concentreranno sull’ingegnerizzazione dell’AI in contesti diversi. Un’altra sessione di interesse sarà “Intelligenza su larga scala: come Waymo sviluppa AI sicure ed efficienti nel mondo fisico”, in cui parlerà Manasi Joshi, direttrice del laboratorio di ricerca su sistemi e apprendimento automatico di Waymo.
Informazioni sull’evento
Il convegno VB Transform 2026 si terrà il 14 e 15 luglio a Menlo Park. Per chi lo desidera, sono disponibili un numero limitato di biglietti gratuiti per dirigenti tecnologici senior. È anche possibile acquistare il proprio biglietto direttamente qui. Per richiedere un invito gratuito, puoi contattarci.