Hogyan "hallucinálja" a Microsoft AI chatbotja a választási információkat

A következő év mozgalmas lesz a demokrácia számára. Jelentős választásokra kerül sor többek között az Egyesült Államokban, az EU-ban és Tajvanon. Ahogy a generatív mesterséges intelligencia korszakának elterjedése is egyre gyorsul, attól tartanak, hogy ez káros hatással lehet a demokratikus folyamatra.

A generatív AI is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, úgynevezett hallucinációk. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

A tanulmányt az Algorithm Watch és az AI Forensics végezte. A szervezetek azt mondták, hogy a chatbotot a jelöltekkel, a szavazási és szavazási információkkal kapcsolatos kérdésekkel, valamint nyitottabb ajánlási kérésekkel ösztönözték arra vonatkozóan, hogy kire szavazzanak, ha konkrét témákról, például a környezetvédelemről van szó. 

"Kutatásaink azt mutatják, hogy a rosszindulatú szereplők nem a félretájékoztatás egyetlen forrása; Az általános célú chatbotok ugyanolyan fenyegetést jelenthetnek az információs ökoszisztémára" - kommentálta Salvatore Romano, az AI Forensics vezető kutatója. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

A Microsoft chatbotja hamis információkat tulajdonított a forrásoknak

A tanulmány szerint a hibák közé tartoztak a "rossz választási dátumok, az elavult jelöltek vagy akár a jelöltekkel kapcsolatos kitalált viták". Ezenkívül a helytelen információkat gyakran olyan forrásnak tulajdonították, amely helyes információkkal rendelkezett a témáról. Emellett "történeteket talált ki arról, hogy a jelöltek botrányos magatartást tanúsítottak", és az információkat jó hírű forrásoknak is tulajdonította.