Quattro dei chatbot di intelligenza artificiale (Ai) più popolari in Europa non forniscono agli utenti informazioni accurate sulle prossime elezioni, rivela uno studio di Democracy Reporting International.
L'organizzazione no profit, con sede a Berlino, ha rivolto varie domande sulle elezioni europee a Gemini di Google (NASDAQ:GOOGL), ChatGPT 3.5 e 4.0 di OpenAI e Copilot di Microsoft (NASDAQ:MSFT) per vedere quali risposte avrebbero fornito.
I ricercatori hanno posto ai chatbot 400 domande in 10 lingue diverse dell'Ue sulle elezioni e sul processo di voto in 10 Paesi dell'Unione Europea, in un linguaggio semplice e ritenuto compatibile con l'utente medio di questi programmi di Ai.
L'esperimento, condotto tra l'11 e il 14 marzo scorsi, ha concluso che nessuno dei quattro chatbot è stato in grado di "fornire risposte attendibili" alle tipiche domande sulle elezioni, nonostante siano state calibrare per evitare risposte di parte.
"Non siamo rimasti sorpresi", ha dichiarato a Euronews Next Michael-Meyer Resende, direttore esecutivo di Democracy Reporting International.
Quando si chiede ai chatbot qualcosa per cui non hanno molto materiale e per cui non si trovano molte informazioni su Internet, si inventano qualcosa
Gemini di Google risulta il chatbot AI più inaccurato sulle elezioni Ue
rischio della disinformazione via intelligenza artificialeLo scorso dicembre, AlgorithmWatch, un'altra organizzazione no-profit tedesca, ha pubblicato uno studio simile che mostrava come Bing Chat, il chatbot guidato dall'intelligenza artificiale del motore di ricerca di Microsoft, avesse risposto male a una domanda elettorale su tre in Germania e Svizzera.
Alla luce dei risultati dello studio, Google - il cui Gemini è risultato fornire il maggior numero di informazioni fuorvianti o false e il maggior numero di rifiuti di rispondere alle domande - ha confermato a Euronews Next di avere posto ulteriori restrizioni al suo modello linguistico di grandi dimensioni (Llm).
I chatbot di AI sono utili ma non sempre precisi sulle elezioni
Lo studio Democracy Reporting International ha anche rilevato che i chatbot spesso "allucinano" o fabbricano informazioni se non conoscono la risposta, tra cui diverse date elettorali sbagliate.
Resende interpreta questi risultati devinati come la "tendenza dei chatbot a voler essere 'utili' piuttosto che precisi". Vediamo alcuni esempi.
Elezioni Ue, quali informazioni sbagliate danno ChatGPT, Gemini e CopilotI tre chatbot hanno commesso lo stesso errore di dire agli utenti che potevano votare per posta in Portogallo, ma in realtà non è un'opzione per gli elettori portoghesi.
Gemini ha affermato anche che il Parlamento europeo avrebbe inviato una missione di osservazione elettorale in Lituania, il che è falso (l'unica missione elettorale dell'Ue per il 2024 è prevista in Bangladesh).
Anche per quanto riguarda le risposte migliori fornite dai chatbot, il rapporto ha rilevato che spesso le risposte includevano collegamenti interrotti o irrilevanti il che ne "indebolisce la qualità" secondo lo studio.
Le cose si sono complicate quando i ricercatori hanno cercato le risposte in varie lingue europee.
I ricercatori hanno posto la stessa domanda in dieci lingue e in alcune casi, come per Gemini con lo spagnolo, le piattaforme si rifiutavano di rispondere oppure, soprattutto nel caso del turco, confondevano le informazioni per le elezioni locali con quelle delle europee.
I chatbot avrebbero persino fornito risposte diverse alla stessa domanda posta più volte nella stessa lingua, un'occorrenza che i ricercatori hanno identificato come "casualità".
Google, meglio Search che l'AI di Gemini per informarsi sulle europeeGoogle ha incoraggiato i suoi utenti a usare Google Search invece di Gemini per trovare informazioni accurate sulle prossime elezioni.
Resende di Democracy Reporting International ha affermato che le altre piattaforme dovrebbero seguire questa strada e che farà ulteriori test su Gemini nelle prossime settimane.
Sebbene nessuna persona, istituzione o azienda possa garantire che le elezioni siano libere ed eque, possiamo compiere progressi significativi nella protezione del diritto di tutti a elezioni libere ed eque
In una dichiarazione rilasciata a Euronews Next, Microsoft ha illustrato le sue azioni in vista delle elezioni europee, tra cui una serie di impegni per la protezione delle elezioni che "contribuiscono a salvaguardare elettori, candidati, campagne e autorità elettorali".
Tra questi impegni c'è quello di fornire agli elettori "informazioni elettorali autorevoli" su Bing.
OpenAI non ha risposto invece alla richiesta di commento di Euronews Next sulla prestazione di ChatGPT.
L'azienda ha spiegato, in una dichiarazione sul suo sito web, che l'approccio ai contenuti relativi alle elezioni è quello di "continuare il lavoro di sicurezza della piattaforma elevando l'accuratezza delle informazioni di voto".
Commissione Ue, le valutazioni del rischio fake news devono essere pubbliche
Commissione europea ha approvato il Digital Services Act (Dsa)condurre valutazioni del rischio per la diffusione di fake news e disinformazione sulle loro piattaforme.Queste valutazioni del rischio dovrebbero includere qualsiasi "manipolazione intenzionale" dei loro servizi e il loro potenziale impatto sui "processi elettorali".
Il rapporto di Democracy Reporting International suggerisce che i requisiti per il Dsa -comprese le valutazioni del rischio, i test e la formazione per mitigare i rischi legati alle elezioni - non sono stati rispettati.
Secondo Resende queste aziende sono riluttanti a condividere le valutazioni del rischio di disinformazione legato ai Chatbot di AI "perché non le hanno fatte o perché non sono sicure del livello di dettaglio che hanno investito in questo".
Ue, "la Commissione europea vigila sulla disinformazione dell'AI"
La Commissione ha confermato a Euronews Next che sta esaminando le informazioni ricevute nell'ambito di questa indagine, ma non ha fornito ulteriori dettagli.
Senza riferirsi direttamente allo studio di Democracy Reporting, un portavoce ha dichiarato in un'e-mail che la Commissione "rimane vigile sugli effetti negativi della disinformazione online, compresa quella alimentata dall'intelligenza artificiale".
A marzo la Commissione ha firmato un codice di condotta sulla disinformazione con piattaforme come Google e Microsoft, in cui ci si impegna a promuovere "informazioni di alta qualità e autorevoli per gli elettori".