Wie Microsofts KI-Chatbot Wahlinformationen "halluziniert"

Das kommende Jahr wird ein arbeitsreiches Jahr für die Demokratie. Wichtige Wahlen finden unter anderem in den USA, der EU und Taiwan statt. Gerade als die Einführung des Zeitalters der generativen KI ernsthaft an Fahrt aufnimmt – etwas, von dem einige befürchten, dass es sich als nachteilig für den demokratischen Prozess erweisen könnte.

Eines der Hauptanliegen bei der generativen Künstliche Intelligenz is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, sogenannte Halluzinationen. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

Die Studie wurde von Algorithm Watch und AI Forensics durchgeführt. Die Organisationen sagten, sie hätten den Chatbot mit Fragen zu Kandidaten, Umfrage- und Wahlinformationen sowie mit offeneren Empfehlungsanfragen dazu aufgefordert, wen man wählen sollte, wenn es um bestimmte Themen wie die Umwelt geht. 

"Unsere Untersuchungen zeigen, dass böswillige Akteure nicht die einzige Quelle für Fehlinformationen sind. Allzweck-Chatbots können für das Informationsökosystem ebenso bedrohlich sein", kommentierte Salvatore Romano, Senior Researcher bei AI Forensics. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Der Chatbot von Microsoft hat falsche Informationen auf Quellen zurückgeführt

Zu den Fehlern gehörten laut der Studie "falsche Wahltermine, veraltete Kandidaten oder sogar erfundene Kontroversen über Kandidaten". Darüber hinaus wurden die falschen Informationen oft einer Quelle zugeschrieben, die die richtigen Informationen zu dem Thema hatte. Sie erfand auch "Geschichten über Kandidaten, die in skandalöses Verhalten verwickelt waren", und schrieb die Informationen auch seriösen Quellen zu.