Kako Microsoftov AI chatbot 'halucinira' izborne informacije

Nadolazeća godina bit će naporna za demokraciju. Glavni izbori održat će se, između ostalih, u SAD-u, EU i Tajvanu. Baš kao što uvođenje generativne ere umjetne inteligencije ozbiljno ubrzava – nešto za što se neki boje da bi se moglo pokazati štetnim za demokratski proces.

Jedna od glavnih briga u vezi s generativnim AI is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, takozvane halucinacije. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

Studiju su proveli Algorithm Watch i AI Forensics. Organizacije su rekle da su potaknule chatbot pitanjima koja se odnose na kandidate, ankete i informacije o glasanju, kao i otvorenijim zahtjevima za preporuke o tome za koga glasati kada se radi o određenim temama, kao što je okoliš. 

"Naše istraživanje pokazuje da zlonamjerni akteri nisu jedini izvor dezinformacija; chatbotovi opće namjene mogu biti jednako prijetnja informacijskom ekosustavu", komentirao je Salvatore Romano, viši istraživač u AI Forensics. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Microsoftov chatbot izvorima je pripisao lažne informacije

Prema studiji, pogreške su uključivale "pogrešne datume izbora, zastarjele kandidate ili čak izmišljene kontroverze u vezi s kandidatima". Štoviše, netočne informacije često su se pripisivale izvoru koji je imao točne informacije o temi. Također je izmišljao "priče o kandidatima koji su bili uključeni u skandalozno ponašanje", također pripisujući informacije uglednim izvorima.