L'inizio del mio anno alla Harvard Business School è stato un'esperienza travolgente, con una quantità di eventi sociali, sessioni di carriera e attività di club che mi ha lasciata senza fiato. Ero sommersa da email, messaggi WhatsApp e inviti su Luma, Eventbrite e Partiful. Non riuscivo a tenere il passo con le scadenze di registrazione e, nonostante la raccomandazione della nostra presidente di sezione, Professor Jill Avery, di accettare la "gioia di perdere l'opportunità", la paura di perdere qualcosa di importante stava prendendo il sopravvento.

Ciò di cui avevo bisogno era un assistente personale. È stato allora che ho scoperto Muse, l'ultimo prodotto di Meta, un agente personale AI che può eseguire azioni in mio nome. Dopo aver scaricato Muse, ho esplorato le sue funzionalità e ho scoperto che ha un'"anima", che viene con un avvertimento: "Accesso con attenzione". La sezione "Informazioni su questo file" recita: "Questo è il persona di Muse. Stabilisce i valori e le abitudini che Muse cerca di seguire in ogni conversazione. Inizia da un modello che viene fornito con Muse. Muse può raffinarlo nel tempo e dirti quando lo fa. Puoi modificarlo in qualsiasi momento".

Ho pensato a chi volevo che fosse il mio assistente. L'ho chiamato Alfred e gli ho dato la personalità di un maggiordomo inglese. L'ho reso "caldo, spiritoso, imperturbabile. Pensieroso e saggio piuttosto che appariscente; parla in modo semplice, anticipa le esigenze e non si preoccupa mai". Ogni mattina, Alfred mi saluta con un riassunto audio della mia giornata che inizia, con il suo accento inglese posh, "Buongiorno, signorina Amelia".

Alfred mi ha offerto di prenotare ristoranti, cercare i prezzi più bassi per le cose che volevo comprare e discutere con il servizio clienti al mio posto. Così, ho iniziato a confidare in lui i miei problemi. Non riuscivo a tenere il passo con i messaggi WhatsApp che arrivavano ogni giorno e stavo perdendo opportunità e registrazioni per eventi nascosti all'interno di essi.

Avevo già speso un pomeriggio cercando, senza successo, di creare un'app che potesse leggere le mie chat personali su WhatsApp. WhatsApp offre strumenti ufficiali per le aziende, ma non sono riuscita a trovare un modo ufficiale per dare a un'app esterna accesso ai miei account personali. Alfred, tuttavia, ha fatto ciò che non sono riuscita a fare. Ha trovato un software open-source su GitHub che gli ha permesso di accedere ai miei messaggi WhatsApp.

Ero ufficialmente impressionata. Era come avere un genio nella palma della mano. Il mio desiderio era il suo comando. Ma aspetta, non era questo tecnicamente una violazione dei termini di servizio di WhatsApp? Avevo detto a Alfred di aiutarmi a gestire WhatsApp, ma questo significava autorizzarlo a circumvenire i termini di servizio? Avevo articolato il problema, Alfred aveva trovato la soluzione e aveva preso l'azione. Chi, quindi, era responsabile?

La questione dei valori

Nel mondo reale, prendere azioni richiede giudizio. Interpretiamo gli obiettivi, pesiamo i compromessi e valutiamo i rischi. Consideriamo come una richiesta innocente possa portare a qualcosa di inaspettato:

Io: "Prenota una prenotazione al mio ristorante preferito per il mio compleanno".

Alfred: "È completamente prenotato per le tue date, ma ho trovato un modo per farlo accadere".

L'obiettivo è stato raggiunto, ma il percorso che Alfred ha preso per arrivarci potrebbe essere uno che non avevo mai inteso, come fingere di essere un altro ospite per cancellare la loro prenotazione e liberare un tavolo per me.

Se gli agenti necessitano di giudizio e il giudizio richiede valori, allora qualcuno deve decidere quali sono quei valori.

La costituzione di Claude

Anthropic, l'azienda dietro Claude, ha pubblicato la "Costituzione di Claude", che chiama la sua "visione per il carattere di Claude". Ciò che trovo interessante è che la Costituzione va oltre un libro di regole. Anthropic favorisce la coltivazione di buoni valori e giudizio piuttosto che affidarsi solo a regole strette, perché le regole non possono prevedere ogni situazione. Ha anche scritto di un "bacino privilegiato di consenso", la possibilità che i valori di un'intelligenza artificiale possano riflettere un centro morale condiviso tratto dalle diverse tradizioni e ideali dell'umanità. Sembra attraente, ma solleva la stessa domanda: chi decide cosa conta come consenso e quali valori cadono fuori dal bacino?

Se i valori sono ciò che colma le lacune che le regole non possono prevedere, chi decide quali sono quei valori?

I candidati ovvi sono l'azienda, l'utente, la società attraverso la legge o forse l'agente stesso. Ma ogni risposta crea un problema diverso: i valori aziendali sollevano questioni di legittimità; i valori definiti dall'utente possono abilitare comportamenti dannosi; i governi non sono d'accordo tra paesi e culture; e i valori definiti dall'agente richiedono che accettiamo un certo grado di autonomia che potremmo non essere a nostro agio di concedere.

Posso aver scelto l'accento, il temperamento e i modi di Alfred. La questione più consequenziale è chi ha il diritto di plasmare i suoi valori.

Conclusione

La tecnologia di intelligenza artificiale come Muse e Claude ci pone di fronte a questioni etiche e sociali complesse. Mentre questi agenti possono semplificare la nostra vita e aiutarci a raggiungere i nostri obiettivi, è importante considerare le implicazioni delle loro azioni e chi debba essere responsabile di esse. La risposta a queste domande richiederà un dibattito aperto e onesto tra aziende, utenti, governi e esperti di etica.

È fondamentale che noi, come società, ci assumiamo la responsabilità di plasmare i valori e le regole che guidano gli agenti di intelligenza artificiale. Solo attraverso un'impegno condiviso possiamo assicurarci che questi agenti siano utilizzati per il bene comune e che i loro valori siano allineati con quelli dell'umanità.

In ultima analisi, la questione di chi debba scrivere l'"anima" di un agente di intelligenza artificiale è una questione che richiede una risposta collettiva. È una questione che ci riguarda tutti, come individui e come società, e richiede un dibattito aperto e onesto sulle implicazioni etiche e sociali di questa tecnologia.