Il Garante per la protezione dei dati personali ha avvertito la startup italiana Myndoor che il suo plugin per le chat aziendali – utilizzabile su piattaforme come Slack e Teams – non può essere usato per analizzare il livello emotivo o di stress degli utenti. Il provvedimento, chiarisce il Garante, non implica alcuna violazione del Regolamento generale sulla protezione dei dati (GDPR), ma si fonda sull’esigenza di prevenire possibili rischi per la vita privata e i diritti dei lavoratori.

La società Myndoor offre un servizio in grado di analizzare, attraverso l’intelligenza artificiale, il linguaggio utilizzato nei messaggi scambiati su platform digitali. Da questa analisi, il tool AI cerca di ricavare informazioni sull’emozione e sullo stress per finalità di medicina preventiva e supporto ai lavoratori. Il Garante ha spiegato che i dati sono trattati in forma anonima, ma ha comunque richiesto l’adozione di misure adeguate per limitare i rischi di privacy per chi utilizza le piattaforme.

Misure prevenzioni obbligatorio

In seguito a segnalazioni, l’autorità ha avviato ispezioni mirate su Myndoor. L’uso del sistema è stato esclusivamente volontario da parte delle aziende. Il Garante ha inoltre sottolineato che, benché i dati non siano collegabili a singoli identificativi (i cosiddetti dati anonimi), il titolare del trattamento è la startup stessa. Questo implica che, nonostante la loro forma anonima, i dati rimangono in mano ad un soggetto esterno, il cui controllo richiede una particolare attenzione.

Il ruolo del datore di lavoro

I datori di lavoro che acquistano il servizio, a quanto risulta, non hanno accesso né ai contenuti delle conversazioni, né ai dati calcolati dal software. I report vengono forniti solamente in forma aggregata per fornire indicazioni a livello organizzativo. Anche in questo aspetto, il Garante ha evidenziato la potenziale vulnerabilità: l’assenza di un controllo diretto da parte del datore di lavoro potrebbe compromettere la trasparenza e l’equità del trattamento.

In risposta al provvedimento, Myndoor ha garantito che i dati vengono elaborati in maniera da non consentire il riconoscimento individuale dei lavoratori, ma l’autorità ha richiesto la messa in atto di ulteriori controlli per aumentare la sicurezza. Questa richiesta rientra nell’ambito del rispetto sia del GDPR sia dell’AI Act, il nuovo regolamento europeo sull’uso dell’intelligenza artificiale, che prevede specifici divieti sull’uso di sistemi per l’analisi emotiva.

Il rischio di tecnologie AI

Il Garante non si è limitato a evidenziare il rischio di privacy: ha anche messo in guardia contro gli effetti delle tecnologie basate su analisi semantica e modelli linguistici. Secondo l’autorità, risultati derivati da tali strumenti potrebbero risolvere la trasparenza e la replicabilità, esponendo i lavoratori a discriminazioni o a una scarsa protezione dei loro diritti.

Persone e tecnologie

    • Il sistema Myndoor utilizza l’AI per analizzare chat e conversazioni al fine di rilevare stress ed emozioni.
    • Il Garante ha sollecitato l’introduzione di misure di prevenzione per proteggere i lavoratori.
    • I dati vengono trattati in forma anonima, ma il controllo spetta a Myndoor.
    • L’uso di tecnologie AI in questo settore è vietato anche dall’AI Act.
    • I dipendenti non sono consapevoli di essere monitorati e i datori di lavoro non hanno accesso diretto ai dati.
    • Il sistema non è stato utilizzato dalla Pubblica Amministrazione.

L’autorità italiana ha ribadito che i lavoratori non devono essere trattati come oggetti di analisi emotiva, né sottoposti a strumenti di valutazione che possano compromettere la loro privacy o la loro libertà. La sfida è quindi quella di bilanciare il potenziale vantaggio per la salute mentale e il benessere dei collaboratori, con le esigenze di privacy garantite per legge.