Il boom dell’intelligenza artificiale ha spinto molti, compresi coloro che non avevano alcuna esperienza nel settore, a lanciare nuovi business incentrati sui data center. Tuttavia, istallare e configurare un data center non è affatto semplice. Anche se riuscissi a procurarti i necessari GPU, gli switch di rete e la storage, dovresti comunque occuparti della configurazione, del funzionamento e di diverse esigenze dei clienti. Preparare un data center per fornire servizi di calcolo cloud specifici per l’inference e il training dedicati all’AI può richiedere mesi. Più tempo impieghi a raggiungere il mercato, maggiore sarà il costo di tenere inutilizzabili quei preziosi GPU.
La startup di automazione di rete Netris rivendica di poter eliminare questo problema per le nuove "neocloud". La società presenta un software che funziona sugli switch di rete e offre una piattaforma che li collega, aiutando i gestori delle neocloud a ridurre il tempo necessario per andare online automatizzando il setup, la configurazione e l’attuazione di operazioni. La piattaforma fornisce astrazione della rete, permettendo di modificare le configurazioni hardware necessarie, e isola server e risorse a livello hardware in modo che le neocloud possano servire diversi clienti (multi-tenancy).
Se questo suona come una soluzione a un problema evidente, non ti sbagli. Fino a poco tempo fa, i data center erano dominio esclusivo di grandi operatori infrastrutturali come Equinix, NTT, Digital Realty, Oracle, Microsoft, AWS o Google. Queste aziende avevano risolto da sé la questione della configurazione, dell’implementazione e della multiutenza, assumendo ingegneri a dozzine o sviluppando automazioni interne. Le piccole neocloud, invece, raramente dispongono di tali risorse.
“Se sei un operatore di cluster GPU, devi apportare modifiche di configurazione ad ogni collegamento ogni giorno. Nelle data center tradizionali, stavano usando qualcosa chiamato SDN [networking definito software] per farlo, ma il SDN non è sufficiente perché è una tecnologia software,” ha dichiarato il Ceo di Netris, Alex Saroyan, a TechCrunch. “Per l’AI, il software non è sufficiente, perché il traffico è così elevato che ogni cosa deve essere accelerata a livello hardware. Quindi hai bisogno di qualcosa simile al SDN, ma completamente accelerato in hardware. Questo è ciò che facciamo, questo è ciò che abbiamo fatto per otto anni.”
Una prospettiva astratta topologica di un data center
Immagine cortesia di Netris
Netris: Flessibilità e Agnosticità del Venditore
Secondo Saroyan, la piattaforma di Netris è vendor-agnostic, compatibile con l’equipaggiamento di rete e gli standard utilizzati nei data center, tanto per i server NVIDIA quanto per quelli AMD. La flessibilità della piattaforma permette agli operatori di adattarla facilmente alle soluzioni esistenti o in procinto di essere implementate.
Il Successo di Netris: Un Crescendo di Fiducia
La promessa di Netris ha guadagnato molti seguaci, tra cui Nvidia. Due anni fa, la gigante produttrice di chip era così impressionata da una dimostrazione della tecnologia Netris che la raccomandò a diversi clienti. Oggi, Netris è operativa più di 35 cluster GPU in giro per il mondo (circa un milione di GPU in totale), gestiti da aziende come Lightning AI, Foxconn, Visionbay, Hewlett Packard Enterprise, TensorWave, Telus, tra le altre.
Per sfruttare questa momentanea spinta e rafforzare la sua posizione sul mercato, Netris ha raccolto recentemente 15 milioni di dollari in una serie A da Andreessen Horowitz.
Il Futuro Senza Intelligenza Artificiale
Contrariamente a quanto uno potrebbe aspettarsi in un’epoca dominata dal machine learning, Netris non utilizza algoritmi di AI al suo interno. Saroyan ha chiarito che la sua azienda utilizza algoritmi sviluppati precedentemente per gestire automazione e operazioni di configurazione.
“Abbiamo iniziato molto prima del periodo dell’AI. Capimmo presto il problema, e sviluppammo questi algoritmi sin dal principio. L’AI non è deterministica, giusto? Talvolta decide di agire per conto suo. È buona per il lavoro creativo, ma per modificare tanti migliaia di configurazioni di switch, non hai bisogno di essere creativo. Devi essere molto persistente e ripetibile,” ha spiegato Saroyan.
Il Prossimo Passo: Espansione e Innovazione
Guido Appenzeller, partner di a16z, si unirà al consiglio di amministrazione della compagnia. Guardando al futuro, Netris prevede di utilizzare il finanziamento per assumere più ingegneri e personale commerciale, aggiungere il supporto a più fornitori di hardware e implementare funzionalità aggiuntive al suo algoritmo. Il team punta a rendere la sua piattaforma sempre più performante, scalabile e versatile, per affrontare le complessità crescenti dell'AI moderna.