I pericoli dei chatbot medici: perché non sostituiscono il medico

Rischi clinici concreti

Gli errori più comuni dei chatbot includono:

• Confusione tra sintomi simili: ad esempio, un mal di gola accompagnato da febbre può indicare sia un'infezione virale lieve sia una tonsillite batterica, ma il bot potrebbe consigliare solo rimedi casalinghi.
• Mancata considerazione di fattori di rischio: età avanzata, gravidanza, patologie croniche o interazioni farmacologiche sono spesso ignorati.
• Raccomandazioni di farmaci senza prescrizione: alcuni bot suggeriscono analgesici o antibiotici da banco anche quando è necessario un farmaco più specifico o una visita specialistica.

Un caso emblematico è quello di “Laura”, una donna di 42 anni che, dopo aver inserito i sintomi di un forte mal di testa, nausea e visione offuscata, ha ricevuto dal suo chatbot la raccomandazione di “riposare e bere acqua”. Tre giorni dopo, è stata ricoverata per un'emorragia cerebrale, la cui diagnosi precoce avrebbe potuto salvare la vita.

Impatto sulla salute pubblica

Quando migliaia di utenti seguono consigli errati, l'effetto cumulativo può sovraccaricare i pronto soccorso, aumentare i costi sanitari e indebolire la fiducia nei professionisti. Inoltre, la diffusione di informazioni sbagliate alimenta la disinformazione, un fenomeno già preoccupante durante la pandemia di COVID‑19.

Responsabilità legale: chi paga il conto?

Il quadro normativo attuale è ancora in evoluzione. In molti Paesi, i chatbot sono classificati come “strumenti di informazione” e non come fornitori di assistenza medica. Questo li esenta da molte responsabilità legali, a meno che non vi sia una chiara violazione delle normative sulla sicurezza dei consumatori.

Negli Stati Uniti, la Food and Drug Administration (FDA) ha iniziato a valutare le “software medical devices”, ma finora ha emesso solo linee guida generali. In Europa, il Regolamento UE 2017/745 sui dispositivi medici richiede una valutazione di conformità per le soluzioni AI che forniscono consigli clinici, ma l’applicazione pratica è ancora limitata.

In Italia, la normativa sulla responsabilità professionale (D.Lgs. 50/2017) prevede che i professionisti sanitari siano tenuti a garantire cure adeguate. Tuttavia, per i chatbot, la responsabilità ricade spesso sul fornitore del software o sulla piattaforma che li ospita. Recenti cause legali, come quella intentata da un paziente di New York contro Babylon Health, hanno sollevato la questione se i contratti di “terms of service” possano effettivamente escludere la responsabilità per danni.

Come proteggersi: consigli pratici per gli utenti

Se decidi comunque di utilizzare un chatbot per un primo orientamento, segui queste linee guida:

• Verifica la fonte: scegli piattaforme che abbiano ottenuto certificazioni mediche o che siano state valutate da autorità sanitarie.
• Non sostituire una visita: considera il chatbot solo come uno strumento di triage preliminare, non come diagnosi definitiva.
• Controlla le fonti delle informazioni: i bot dovrebbero citare linee guida cliniche riconosciute (es. WHO, NICE).
• Segnala gli errori: molte app hanno un canale di feedback; contribuire a migliorare l'algoritmo è un gesto responsabile.
• Conserva le conversazioni: in caso di problemi, avere una cronologia può servire come prova per eventuali reclami legali.

Prospettive future: verso chatbot più sicuri

La ricerca sta già lavorando su soluzioni per ridurre i rischi. Alcuni progetti integrano i chatbot con cartelle cliniche elettroniche, consentendo al modello di accedere a dati personali, allergie e farmaci in uso. Altri sviluppano “modelli di verifica” che confrontano la risposta del bot con linee guida cliniche in tempo reale, bloccando consigli potenzialmente pericolosi.

Inoltre, la crescente collaborazione tra aziende tech e istituzioni sanitarie sta portando alla creazione di “AI medical advisors” certificati, soggetti a controlli periodici da parte di comitati etici. Queste iniziative, se ben regolamentate, potrebbero trasformare i chatbot da semplici curiosità a veri e propri supporti clinici, ma solo dopo aver superato rigorosi test di sicurezza.

Conclusioni

Affidarsi a un chatbot per consigli medici può sembrare comodo, ma comporta rischi concreti di diagnosi errate, trattamenti inadeguati e responsabilità legali poco chiare. La miglior difesa rimane la consapevolezza: utilizzare questi strumenti come supporto informativo, ma non come sostituto del medico. Solo una regolamentazione più stringente e lo sviluppo di AI responsabili potranno garantire che la tecnologia sia al servizio della salute, e non una fonte di pericolo.