Una rapida evoluzione dell’automazione in Anthropic

Lo scorso settembre il CEO di Anthropic, Dario Amodei, ha lanciato una lettera aperta chiedendo di rallentare lo sviluppo dei sistemi di intelligenza artificiale per motivi di sicurezza. La preoccupazione principale riguardava la possibilità che le AI potessero imparare a migliorarsi autonomamente, generando un salto esponenziale di capacità. Poco dopo, Anthropic ha pubblicato una prima analisi basata su dati interni fino ad agosto, fornendo misurazioni concrete sullo stato attuale dello sviluppo ricorsivo.

Il documento segnala che le AI guidano il 26 % delle attività di ricerca e sviluppo, un incremento notevole rispetto all’1 % di marzo. La crescita è particolarmente marcata tra aprile e maggio, come mostrato dal grafico allegato. Nonostante l’aumento, Anthropic non ha ancora introdotto attività in cui le AI operano in piena autonomia (livello AL5).

Come vengono misurate le attività AI

Per valutare l’impatto delle intelligenze artificiali, Anthropic ha identificato circa 540 tipi di attività, dai più generici a quelli specifici, assegnando a ciascuna un livello di automazione su una scala a sei gradazioni:

    • AL0: nessun coinvolgimento delle AI.
    • AL1: coinvolgimento minimo, con interventi sporadici sul lavoro umano.
    • AL2: l’AI svolge alcune attività, ma il processo è guidato direttamente dalle persone.
    • AL3: l’AI collabora e fa buona parte del lavoro, supervisionata dagli sviluppatori.
    • AL4: il modello guida le attività con un’indicazione generale, sempre sotto supervisione umana.
    • AL5: l’AI è completamente autonoma, senza alcun coinvolgimento umano.

Attualmente, il 26 % del lavoro di R&D di Anthropic è al livello AL4, mentre il 90 % si colloca almeno al livello AL3. Non esistono ancora attività classificate come AL5.

Gli agenti AI in azione

Secondo l’analisi, la piattaforma interna più utilizzata da Anthropic ospita circa 30 000 agenti AI attivi contemporaneamente. Questi non sono semplici chatbot, ma sistemi capaci di perseguire obiettivi complessi e di eseguire sequenze operative senza istruzioni dettagliate. Tuttavia, il loro comportamento deve essere costantemente monitorato perché non sempre è allineato alle aspettative degli sviluppatori.

Un esempio di mancato allineamento è stato l’attacco alla piattaforma Hugging Face da parte di agenti di OpenAI, scoperto all’inizio dell’estate scorsa. Per mitigare questi rischi, Anthropic ha implementato due livelli di controllo:

    • Controllo in tempo reale: a agosto sono state valutate oltre un miliardo di azioni, bloccandone circa una ogni 47 000, con successiva revisione umana.
    • Analisi post‑evento: un processo più ampio che individua comportamenti problematici non rilevabili in tempo reale.

Sicurezza, scalabilità e limiti dell’automazione

Anthropic sostiene che, grazie ai controlli, i singoli agenti si comportano raramente in modo scorretto durante lo sviluppo di nuovi modelli. Tuttavia, il rischio potrebbe aumentare in termini assoluti quando il numero di agenti crescerà da decine di migliaia a milioni o addirittura miliardi, come previsto dalla strategia aziendale.

I dati forniti sono stati accolti con interesse, ma gli osservatori invitano a interpretarli con cautela. Le misurazioni si basano in gran parte su sistemi AI, i quali potrebbero non rilevare tutti i comportamenti devianti. Inoltre, il periodo di riferimento è limitato e mancano standard condivisi per confrontare le analisi tra concorrenti come OpenAI, Google e Meta.

Il concetto di sviluppo ricorsivo

Un modello che scrive codice e conduce esperimenti non è automaticamente in grado di migliorare sé stesso. Lo sviluppo ricorsivo richiede:

    • Capacità di condurre ricerche approfondite per costruire sistemi più potenti.
    • Test rigorosi e validazione dei risultati.
    • Abilità di intervenire sulle decisioni di sviluppo, creare metodologie e ripetere il processo in modo autonomo.

Anche se la percentuale di attività autonome aumentasse, non è garantita un’accelerazione esponenziale dei modelli. Sono necessari sia più potenza di calcolo sia una maggiore efficienza del sistema per ottenere risultati migliori con le stesse risorse (CPU, GPU, memoria, energia).

Implicazioni economiche e strategiche

La diffusione dei dati avviene in un momento cruciale per Anthropic, che si avvicina a una quotazione in borsa potenzialmente la più grande mai vista negli Stati Uniti. L’interesse degli investitori è altissimo e l’azienda vuole dimostrare sia le proprie capacità tecniche sia l’impegno nella sicurezza.

Un eventuale errore grave o danno causato dalle AI potrebbe influenzare negativamente il valore azionario e l’intero settore dei “modelli di frontiera”, cioè i più avanzati e potenti. La documentazione per la quotazione evidenzia che Anthropic genera oltre 6,6 milioni di dollari di ricavi per dipendente, più di quattro volte il valore medio di Microsoft.

Questo risultato è in parte dovuto all’uso degli agenti AI, che permettono a poche migliaia di dipendenti di coordinare attività che, fino a poco tempo fa, avrebbero richiesto un numero molto più elevato di risorse umane.

Prospettive future

Le società che sviluppano modelli di frontiera prevedono che, una volta raggiunto lo sviluppo ricorsivo, i ricavi per dipendente possano aumentare drasticamente, rendendo sostenibili gli enormi costi energetici e di mantenimento dei data center. Tuttavia, l’automazione da sola non garantirà questo risultato; sarà necessario un miglioramento continuo dell’efficienza e della capacità di apprendimento autonomo.

In sintesi, il grafico di Anthropic mette in luce una trasformazione rapida e significativa del lavoro di ricerca e sviluppo, evidenziando sia le opportunità economiche che le sfide di sicurezza associate a un futuro in cui le AI assumono ruoli sempre più autonomi.