La querela contro l'intelligenza artificiale e la privacy
Google ha chiesto a un giudice federale di respingere le accuse secondo cui l'azienda ha illegalmente spiato le chiamate ai servizi clienti utilizzando i propri strumenti di intelligenza artificiale. L'azienda sostiene che le leggi sulla sorveglianza telefonica non si applicano perché i chiamanti hanno prestato consenso alla registrazione delle loro conversazioni. La questione centrale è se il consenso fornito all'azienda cliente sia sufficiente per coprire anche le attività di Google, che utilizza queste conversazioni per migliorare i propri modelli di intelligenza artificiale.
"La questione del consenso riguarda se vi sia consenso per l'acquisizione delle informazioni", ha dichiarato Benjamin Berkowitz di Keker Van, difensore di Google, durante un'udienza presso il tribunale distrettuale degli Stati Uniti a San Francisco.
Una classe di consumatori ha querelato Google nel 2023, sostenendo che la sua piattaforma Cloud Contact Center AI — una suite di strumenti progettata per migliorare l'efficienza dei centri assistenza clienti delle aziende — viola la California Invasion of Privacy Act (CIPA). Questa legge proibisce la registrazione e l'intercettazione non autorizzate delle conversazioni telefoniche.
Il prodotto offre alle aziende un assistente virtuale alimentato dall'intelligenza artificiale che supporta gli agenti umani, trascrivendo le chiamate in tempo reale, collegando le informazioni pertinenti e offrendo risposte "intelligenti" suggerite per risparmiare tempo sui ticket di supporto.
Quando un consumatore chiama uno di questi centri di contatto alimentati dall'IA, potrebbe trovarsi di fronte a un agente virtuale fornito da Google. I querelanti affermano di non essere stati informati che Google forniva tali servizi a aziende come Home Depot, Verizon, Uber e Discover, né di essere consapevoli che Google potesse utilizzare le loro chiamate per migliorare i propri modelli di intelligenza artificiale.
"Il chiamante non ha scelta qui perché non viene informato di cosa sta consenzendo", ha affermato l'avvocato dei querelanti Jeremiah Nixon. "Si tratta del diritto dei chiamanti secondo la CIPA e del loro diritto di sapere chi è presente nella chiamata."
Al hearing di martedì, la giudice distrettuale degli Stati Uniti Rita F. Lin ha posto domande ai querelanti su se avessero prestato consenso a Google per registrare e analizzare le chiamate quando hanno accettato le politiche di privacy di ciascuna azienda.
"Il consenso richiesto è solo il consenso che una terza parte possa essere presente e ascoltare la chiamata", ha detto la giudice, nominata da Joe Biden. "Perché non sono nella portata del consenso anche se potrebbero utilizzare le informazioni in seguito che non sono state divulgate?"
Nixon ha argomentato che sebbene i querelanti abbiano potuto consenzire alla registrazione della loro chiamata e alla sua possibile condivisione con i fornitori di servizi terze parti che operano per conto di ciascuna azienda, Google agisce al di fuori delle aziende e ha il diritto condizionale di utilizzare le comunicazioni dei querelanti per addestrare i propri modelli di intelligenza artificiale.
Ha aggiunto che i consumatori non avrebbero mai accettato se avessero saputo che Google li stava ascoltando e poteva utilizzare le informazioni raccolte per scopi propri.
"Senza la divulgazione, il chiamante non ha la possibilità di prendere quella decisione", ha detto Nixon.
Berkowitz ha replicato sostenendo che la legge statale sulla sorveglianza telefonica richiede solo che l'acquisizione della chiamata sia consensuale e non copre alcun successivo utilizzo improprio delle informazioni.
Hanno notato che i querelanti ammettono di essere consapevoli che le loro conversazioni potrebbero essere registrate e monitorate, inclusa da fornitori di servizi terze parti.
"A fini di una claim 631 o 632 non importa. La registrazione è stata divulgata? Sì, qui lo era", ha detto.
Berkowitz ha argomentato che Google non ha intercettato volontariamente le comunicazioni dei querelanti, poiché ogni azienda ha firmato un contratto con Google promettendo di ottenere il consenso dei consumi prima di utilizzare la tecnologia di Google.
"È indiscusso che Google abbia stipulato contratti con ciascuno di questi clienti che richiedeva loro di ottenere il consenso richiesto prima di utilizzare la tecnologia di Google", ha detto.
Berkowitz ha ulteriormente sostenuto che tre dei querelanti nominati hanno firmato accordi di arbitrato vincolanti con Discover, Uber e Verizon, che li obbligano a fare arbitrato individualmente le loro rivendicazioni. Nixon non ha obiettato al nuovo materiale probatorio, ma ha argomentato che gli accordi erano irrilevanti per le contestazioni contro Google.
Hanno aggiunto che se la corte avesse dato ragione a Google, avrebbe dato il via libera alle aziende per aggiungere terze parti non dichiarate nelle loro linee di assistenza clienti per registrare le conversazioni a fini di addestramento dell'intelligenza artificiale.
Lin non ha annunciato quando avrebbe rilasciato una decisione.
I rappresentanti delle parti non hanno immediatamente risposto a una richiesta di commento.
Il querelante Misael Ambriz ha presentato la causa di classe in ottobre 2023 con contestazioni relative alle chiamate di servizio con Verizon. La corte ha archiviato il caso nel giugno 2024 con la possibilità di rettifica. Ambriz ha corretto la causa e ha ripresentato il reclamo in luglio 2024, aggiungendo altri querelanti e contestazioni relative alle chiamate di servizio con Hulu, GoDaddy e Home Depot.
Lin ha respinto gli sforzi di Google per archiviare la prima rettifica dei querelanti nel febbraio 2025, stabilendo che i consumatori hanno "allegato adeguatamente che Google 'ha la capacità di utilizzare i dati intercettati che raccoglie ... per migliorare i propri modelli di IA/ML'."
Le contestazioni relative a Hulu, GoDaddy e Verizon sono state volontariamente archiviate nell'agosto 2025. Nuove contestazioni relative a Verizon, Uber e Discover sono state aggiunte ad aprile.
- Google Cloud Contact Center AI è il prodotto in questione, progettato per migliorare l'efficienza dei centri assistenza clienti.
- Funzionalità principali includono la trascrizione in tempo reale delle chiamate, il collegamento di informazioni pertinenti e il suggerimento di risposte intelligenti.
- Le aziende coinvolte includono Home Depot, Discover, Verizon, Uber, Hulu e GoDaddy.
- La legge citata è la California Invasion of Privacy Act (CIPA), che proibisce la registrazione non autorizzata.
- La questione legale se il consenso fornito alle aziende clienti copre anche l'uso da parte di Google per l'addestramento dell'IA.
- Il contratto di Google prevede che le aziende ottengano il consenso dei consumatori prima di utilizzare la tecnologia di Google.
- La posizione del giudice che la divulgazione della registrazione è necessaria per il consenso secondo la legge sulla sorveglianza.
La vicenda si svolge in un periodo in cui l'uso dell'intelligenza artificiale nelle comunicazioni con i clienti è in rapida espansione, sollevando questioni cruciali sulla privacy e sul consenso informato. La decisione del giudice potrebbe stabilire precedenti significativi per il settore tecnologico e per le leggi sulla privacy digitale in California e potenzialmente in altre giurisdizioni.
Con l'evoluzione continua della tecnologia, i diritti dei consumatori nelle interazioni digitali rimangono una priorità, e questo caso rappresenta uno dei primi test legali significativi su come le nuove tecnologie di intelligenza artificiale si integrano nelle comunicazioni quotidiane tra le aziende e i clienti.
La difesa di Google ha puntato su contratti legali e consenso formale, mentre i querelanti hanno sostenuto che il consenso è stato indiretto e insufficientemente informato. La distinzione tra il consenso all'uso dei servizi da parte di un'azienda terza e il consenso all'uso di quelle informazioni da parte di un fornitore di servizi di supporto tecnico sussistente è centrale per la risoluzione di questo caso.
La posizione del giudice Lin sarà fondamentale per definire i limiti della privacy nei confronti dell'intelligenza artificiale. Se la corte accoglierà la posizione dei querelanti, le aziende potrebbero essere costrette a modificare le proprie politiche di privacy per essere più trasparenti sull'uso dell'IA nelle interazioni con i clienti. Al contrario, se la corte accoglierà la posizione di Google, potrebbe stabilire che l'uso dell'IA per migliorare i servizi è legittimo sotto le attuali leggi sulla sorveglianza.
La questione del consenso informato è complessa in un mondo digitale, dove i termini e le condizioni sono spesso lunghi e tecnici, e dove le persone potrebbero non leggere con attenzione tutto ciò che firmano. Questo caso mette a dura prova il concetto di consenso informato nel contesto dell'IA e del data mining.