Wie Microsoft s AI Chatbot Halluziniert Wahlinformationen

Das kommende Jahr wird für die Demokratie ein anstrengendes sein. In den USA, der EU und Taiwan werden unter anderem große Wahlen stattfinden. Genau wie die Einführung der generativen KI-Ära ernsthaft an Tempo gewinnt etwas, von dem einige befürchten, dass es sich als schädlich für den demokratischen Prozess erweisen könnte

DieDieDie Kommission ist der Auffassung, dass die Kommission die Kommission auf der Grundlage der vorliegenden Verordnung über die Anwendung der Richtlinie über die Veröffentlichung von Informationen über die Sicherheit von Personen und Gütern in der Luft und die Einhaltung der Richtlinie über die Sicherheit von Personen und Gütern in der Luft und die Einhaltung der Richtlinie über die Sicherheit von Personen und Gütern in der Luft und diesogenannte Halluzinationen. eine Studie von zwei europäischen Nichtregierungsorganisationen hat ergeben, dass der Chatbot von Microsoft Bing ai (auf OpenBgpt-4) auf ein Drittel der Fragen zu Wahlen in Deutschland und der Schweiz falsche Antworten gab.

Die Studie wurde von Algorithm Watch und AI Forensics durchgeführt. Die Organisationen sagten, sie hätten den Chatbot mit Fragen zu Kandidaten, Umfragen und Stimmungsinformationen sowie offeneren Empfehlungsanfragen, für wen man wählen soll, angeregt, wenn es um bestimmte Themen wie die Umwelt geht.

Unsere Forschung zeigt, dass böswillige Akteure nicht die einzige Quelle von Fehlinformationen sind; Allzweck-Chatbots können für das Informationsökosystem genauso gefährlich sein", kommentierte salvatore romano, leitender Forscher bei AI Forensics.MicrosoftDie Kommission ist der Auffassung, dass die Nutzung von KI-Inhalten, die von anderen erstellt werden, nicht ausreicht.

Microsoft hat falsche Informationen an Quellen zugeschrieben.

Die Ergebnisse der Studie zeigten, dass die Fehler falsche Wahltermine, veraltete Kandidaten oder sogar erfundene Kontroversen über Kandidaten waren. Außerdem wurden die falschen Informationen oft einer Quelle zugeschrieben, die die richtigen Informationen zu diesem Thema hatte.