Rachad Alao, vicepresidente Engineering Product della startup canadese Cohere, durante la conferenza VB Transform 2026, ha presentato idee chiare e dettagliate su come le aziende possano ottenere la completa sovranità nell'utilizzo di sistemi generativi e agenti di intelligenza artificiale. In un'intervista con Matt Marshall, fondatore e CEO di VentureBeat, Alao ha ribadito che la sovranità non si limita all’installazione di un modello open source né al semplice spostamento di servizi dietro un firewall aziendale.

Che cosa significa realmente la sovranità per le aziende?

Alao ha sostenuto che, per organizzazioni che gestiscono sistemi critici come banche, ospedali e governi, è fondamentale disporre di un controllo totale su dove si archivia i dati e su dove si esegue l’intelligenza artificiale. “La tua operazione dell’IA dovrebbe svolgersi in giurisdizioni che capisci o che controlli direttamente”, ha aggiunto. Questo controllo parte dall'hardware — ad esempio, la scelta e la gestione dei GPU e delle infrastrutture in cloud privato — e si estende a livello di sistemi di governo, connessioni, strumenti di ricerca e framework agenti che si interfacceranno ai dati dell’azienda.

Rotta agente: l’uso cresce ma i prezzi dei token calano

Matt Marshall ha messo in discussione la logica economica dei modelli più piccoli, locali e non centralizzati. Marshall ha sottolineato che il prezzo di ogni token continua a diminuire, riducendo quindi la motivazione a ottimizzare il loro uso a ogni costo. Alao ha ribattuto che il consumo complessivo di token cresce esponenzialmente man mano che le aziende migrano da chatbot semplici a agenti che eseguono compiti complessi: risolvere problemi, chiamare strumenti, cercare all’interno dell’infrastruttura interna e eseguire diverse azioni prima di fornire una risposta.

Algo utilizzo dei token e strumenti necessari

“Il tuo utilizzo dei token cresce esponenzialmente a causa di utili casi di agenti sempre più complessi”, ha osservato Alao. Ha sottolineato inoltre l’importanza di sfruttare i giusti modelli per i compiti specifici, evitando l’uso indiscriminato dei modelli più avanzati. “Usa il modello giusto per il compito in esame”, ha detto Alao, sostenendo che l’uso mirato riduce sprechi e mantiene alta l’efficacia.

Differenze nei modelli di pricing

Alao ha contrapposto il modello di pagamento basato sul consumo di token con l’approccio distintivo di Cohere. “Se la tua unica fonte di ingresso è il consumo dei token, vorrai massimizzarlo”, ha detto. Invece, Cohere propone un modello diverso che accompagna le aziende a risolvere i problemi più complessi in modo privato, sicuro e con un minore spreco di risorse.

Caso concreto di un modello di routing

Un esempio pratico è stato menzionato durante la conversazione. Un’istituzione bancaria canadese usa modelli locali Cohere per lavori strettamente regolamentati, ma manda i compiti minori che richiedono più intelligenza su Cohere North, collegato a modelli più avanzati. “Il routing dei modelli può diventare estremamente utile”, ha ribadito Alao.

Modelli piccoli per la maggior parte del lavoro aziendale

Quando un membro del pubblico ha commentato i vantaggi del rilascio di una versione leggera come North Mini Code, Alao ha riconosciuto che i modelli più avanzati offrono vantaggi su compiti particolarmente complessi. Tuttavia, ha anche sottolineato che queste differenze non giustificano sempre l’uso di questi modelli: per il 80% degli usi, i modelli ridotti sono molto più economici ed efficaci. North Mini Code, in particolare, è stato progettato per essere eseguito su GPU singole come gli H100 di Nvidia, e si colloca nel panorama degli agenti che lavorano su terminali, analizzano codice o utilizzano strumenti specifici.

Alao ha citato anche Command A+, un modello "misto di esperti" composto da 218 miliardi di parametri, con soli 25 miliardi attivi durante ogni generazione. La sua versione compressa a 4 bit riduce le esigenze di hardware per l’implementazione privata, mentre la licenza Apache 2.0 offre libertà ai clienti di modificare e distribuire il modello a seconda delle loro esigenze.

Ricerca integrata nell’agente

Quando è stato chiesto riguardo alla ricerca e all’uso di embedding, Alao ha evidenziato che il campo sta evolvendo ben oltre la semplice recuperabilità testuale. “Oggi lo stato dell’arte è la ricerca multimodale”, ha sottolineato. Gli agenti stanno assumendo un ruolo unico, effettuando ricerche tra testi, immagini e fonti dati diverse, decidendo autonomamente quando e come utilizzare le informazioni.

“La ricerca diventa parte integrante del workflow agente”, ha affermato, paragonandola a un utensile fondamentale in ogni processo decisionale interno.

Controllo dei dati e rottura del vincolo del fornitore

Quando è stato chiesto quali fossero le motivazioni per cui le aziende dovessero spostarsi lontano dai servizi in bundle offerti da grandi fornitori cloud, Alao ha tornato a ribadire la sovranità dei dati. “Se ti occupi di sovranità, devi controllare completamente i tuoi dati”, ha dichiarato. Cohere ha realizzato uno strato di governance che permette ai clienti di indirizzare il traffico ai modelli appropriati. Questo sistema, ha aggiunto, aiuta i clienti a evitare problemi legati al blocco del fornitore.

Con una visione ben definita di integrazione, controllo e libertà di scelta, il messaggio di Rachad Alao offre una strada chiara per le aziende ambiziose che desiderano sfruttare i benefici dell’IA senza compromettere sicurezza, conformità o innovazione. Cohere non solo presenta una suite di strumenti avanzata, ma spinge anche il mercato verso un modello che premia flessibilità, gestione efficace e trasparenza.