IA e disinformazione nelle prossime elezioni canadesi
Il capo ufficiale elettorale del Canada, Stéphane Perrault, ha lanciato un forte avvertimento davanti a una commissione della Camera dei Comuni, sottolineando che i cittadini canadesi non sono attrezzati per capire se le informazioni che ricevono provengono da un agente di intelligenza artificiale o da un essere umano.
Il richiamo arriva in un momento cruciale: il paese si prepara a sei elezioni di sussidiarie a dicembre, mentre negli Stati Uniti si avvicinano le elezioni di medio mandato. Perrault ha evidenziato che l’IA rende sempre più difficile distinguere contenuti sintetici da immagini o voci reali, compromettendo la capacità degli elettori di prendere decisioni informate.
Il contesto parlamentare
Negli ultimi settimane il Procedura e Affari della Camera ha studiato l’impatto dell’IA sulle istituzioni democratiche canadesi. Durante l’udienza, Perrault ha dichiarato che gli elettori devono essere “equipaggiati per navigare un ambiente informativo molto complesso e in rapida evoluzione”.
“Non hanno gli strumenti per sapere con certezza se qualcosa proviene da un agente IA o da un essere umano,” ha affermato, evidenziando la vulnerabilità del pubblico di fronte a contenuti manipolati.
Come gli elettori stanno già usando l’IA
Secondo Perrault, i canadesi stanno già ricorrendo a chatbot IA per organizzare e sintetizzare informazioni da varie fonti, ricevendo risposte precise a domande su:
- Il processo elettorale;
- Il confronto tra i programmi politici dei candidati;
- Altre tematiche legate alla campagna elettorale.
Questa pratica, sebbene utile, introduce nuovi rischi: gli elettori non sanno chi sta dietro le informazioni, perché le ricevono e quali fonti sono state usate dai chatbot per formulare le risposte.
Esempi internazionali di deepfake
Perrault ha citato un caso recente in Spagna, dove il principale partito di opposizione ha pubblicato un annuncio politico contenente un video iperrealistico generato dall’IA – un deepfake – della moglie del primo ministro. Questo esempio dimostra come la tecnologia possa essere impiegata per creare contenuti di alta qualità a costi contenuti, ma anche per diffondere messaggi falsi o fuorvianti.
Rischi legati a bot e social media
L’IA può essere sfruttata per creare e distribuire contenuti falsi o veri, raggiungere audience specifiche e amplificare conversazioni, reali o sintetiche. Perrault ha sottolineato che:
- La creazione di numerosi account falsi che ripetono opinioni simili può generare un “consenso falsificato”;
- Questo fenomeno può minare la fiducia degli elettori nelle istituzioni democratiche.
Le capacità di condivisione dell’informazione sono evidenti, ma lo sono altrettanto i pericoli associati.
Proposte legislative e di trasparenza
Perrault ha ribadito la sua raccomandazione del 2024: le etichette di trasparenza dovrebbero essere obbligatorie per i contenuti sintetici (IA) nelle comunicazioni elettorali, come gli annunci pubblicitari. Questa proposta è ora inclusa nel disegno di legge C‑34, attualmente esaminato dal comitato del patrimonio canadese.
L’Unione Europea ha già adottato una normativa simile nell’agosto scorso, imponendo obblighi ai fornitori e agli operatori di IA.
Obblighi per i chatbot e le fonti ufficiali
Per garantire una democrazia sana, Perrault ha suggerito che i chatbot debbano:
- Indicare sempre le fonti autoritarie quando rispondono a domande sul processo di voto;
- Considerare l’inclusione di piattaforme dei partiti o pubblicazioni dei candidati come fonti quando si tratta di posizioni politiche.
Queste misure mirano a fornire un livello minimo di trasparenza sull’informazione che alimenta il dibattito democratico.
Il caso del Québec e le pagine web generate dall’IA
Durante l’udienza, il deputato conservatore Blaine Calkins ha ricordato che testimonianze precedenti avevano segnalato una pagina web creata da IA, consultata dagli elettori durante la campagna elettorale del Québec. Radio‑Canada aveva riportato a settembre che un sito generato dall’IA, contenente errori, era frequentemente citato da ChatGPT in risposta a domande sull’elezione del Québec.
Perrault ha spiegato che il problema è amplificato dal fatto che gli agenti IA non hanno accesso ai media tradizionali: i siti possono bloccare l’accesso IA intenzionalmente per motivi di sicurezza o involontariamente se considerano l’agente un “data scraper”.
Implicazioni per gli archivi storici e la formazione dell’IA
Jennifer Schofield, assistente vice ministro di Library and Archives Canada, ha aggiunto che gli archivi storici contengono linguaggi e punti di vista obsoleti che, se usati per addestrare modelli IA, possono perpetuare bias. Senza una chiara distinzione, c’è il rischio che le persone accettino spiegazioni generate dall’IA come fatti storici senza conoscere la fonte o la validità delle prove.
Questo scenario evidenzia l’importanza di segnalare l’origine delle informazioni anche quando si tratta di contenuti archivistici.
Preoccupazioni dei parlamentari
La deputata liberale Arielle Kayabaga ha espresso preoccupazione sul fatto che lo stesso chatbot possa fornire risposte diverse alla stessa domanda, creando confusione e minando la fiducia nella democrazia. “I sistemi IA non sono ancora affidabili nel fornire informazioni corrette,” ha dichiarato.
Conclusioni: la sfida di equipaggiare gli elettori
Secondo Perrault, la sfida più grande è fornire agli elettori gli strumenti necessari per navigare un panorama informativo complesso e in rapida evoluzione. “Al momento non hanno gli strumenti per sapere con certezza se qualcosa proviene da un agente IA o da un essere umano,” ha ribadito.
Per garantire elezioni libere e trasparenti, sarà fondamentale introdurre etichettature obbligatorie per i contenuti sintetici, obbligare i chatbot a citare fonti ufficiali e assicurare che le informazioni fornite dalle istituzioni elettorali siano accessibili e riconoscibili dagli agenti IA.