Hvordan Microsoft's AI chatbot hallucinerer valgoplysninger

Det kommende år vil være et travlt for demokratiet. Der vil blandt andet finde store valg sted i USA, EU og Taiwan. På samme tid som udrulningen af generative AI-æraen tager fart på alvor noget, som nogle frygter kan vise sig skadeligt for den demokratiske proces.

En af de største bekymringer om generativAIer, at det kunne bruges til den ondskabsfulde udbredelse af desinformation, eller at modeller kan opstille falske udsagn som fakta,såkaldte hallucinationer. En undersøgelse fra to europæiske NGO'er har fundet, at Microsofts chatbot - Bing AI (kører på OpenAI's GPT-4) - gav forkerte svar på en tredjedel af spørgsmålene om valg i Tyskland og Schweiz.

Undersøgelsen blev foretaget af Algorithm Watch og AI Forensics. Organisationerne sagde, at de havde spurgt chatbotten om spørgsmål vedrørende kandidater, afstemning og valginformation, samt mere åbne anbefalingsspørgsmål om, hvem man skal stemme på, når man er bekymret for bestemte emner såsom miljøet.

vores forskning viser, at ondsindede aktører ikke er den eneste kilde til fejlinformation; chatbots med almindelig anvendelse kan være lige så truende for informationsøkosystemet, kommenterede salvatore romano, seniorforsker ved AI forensics.Microsoftbør anerkende dette, og genkende, at at flagge generativ AI-indhold lavet af andre ikke er nok. Deres værktøjer, selv når de henviser til troværdige kilder, producerer forkert information i stor skala.”

Microsofts chatbot har givet falske oplysninger til kilder

Ifølge undersøgelsen omfattede fejl forkerte valgdatoer, forældede kandidater eller endda opfundne kontroverser vedrørende kandidater. Desuden blev de ukorrekte oplysninger ofte tilskrevet en kilde, der havde de korrekte oplysninger om emnet. Det opfandt også historier om kandidater, der var involveret i skandal