Hur Microsofts AI-chatbot "hallucinerar" valinformation

Det kommande året kommer att bli ett hektiskt år för demokratin. Stora val kommer att äga rum i bland annat USA, EU och Taiwan. Precis när utrullningen av den generativa AI-eran tar fart på allvar – något som vissa fruktar kan visa sig vara skadligt för den demokratiska processen.

En av de största farhågorna om generativ Artificiell intelligens is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, så kallade hallucinationer. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

Studien genomfördes av Algorithm Watch och AI Forensics. Organisationerna sa att de ställde frågor till chatboten om kandidater, röstnings- och röstningsinformation, samt mer öppna rekommendationsförfrågningar om vem man ska rösta på när det gäller specifika ämnen, till exempel miljön. 

"Vår forskning visar att illasinnade aktörer inte är den enda källan till desinformation; Chattbottar för allmänna ändamål kan vara lika hotande för informationsekosystemet, säger Salvatore Romano, seniorforskare vid AI Forensics. “Microsoft (Microsoft) should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Microsofts chatbot tillskrev falsk information till källor

Enligt studien var felen bland annat "felaktiga valdatum, föråldrade kandidater eller till och med påhittade kontroverser om kandidater". Dessutom tillskrevs den felaktiga informationen ofta en källa som hade rätt information om ämnet. Den hittade också på "historier om kandidater som var inblandade i skandalöst beteende" och tillskrev också informationen till välrenommerade källor.