Korleis Microsoft sin AI-chatbot hallucinerer valinformasjon

Det kommende året vil være et oppsvepnet for demokratiet. Hovedvalg vil finne sted i USA, EU og Taiwan, blant andre. Like så fort som introduksjonen av generativ AI-epoke vinner fart på alvor — noe noen frykter kan vise seg skadelig for det demokratiske prosesset.

En av de hovedsaklige bekymringene om generativ KI er at den kan brukes til å spre disinformasjon med onde hensikter, eller at modellene kan oppgi usanne utsagn som faktum, såkalte hallusinasjoner . En studie fra to europeiske NGO-er har funnet at Microsofts chatbot – Bing AI (som kjører på OpenAIs GPT-4) – ga feil svar på en tredjedel av spørsmålene om valg i Tyskland og Schweiz.

Studien ble gjennomført av Algorithm Watch og AI Forensics. Organisasjonene sa at de stillede chatboten spørsmål om kandidater, valgprosedyrer og informasjon om stemming, samt mer åpne anbefalingsspørsmål om hvem man bør stemme på når man er bekymret for bestemte emner, som miljøet.

«Vår forskning viser at onde aktører ikke er den eneste kilden til desinformasjon; generelle chatbots kan være like trusselstilfylle for informasjonsøkologien,» kommenterte Salvatore Romano, Seniorforsker ved AI Forensics. « Microsoft bør erkjenne dette, og forstå at å flagge generativ AI-innhold laget av andre ikke er nok. Deres verktøy, selv når de refererer til troverdige kilder, produserer feilinformasjon i stor skala.”

Microsofts chatbot tilskrev falsk informasjon til kilder

Ifølge studien inkluderte fehlene «feil valgdatoer, utdaterte kandidater, eller til og med oppdiktet kontrovers om kandidatene.» Dessuten ble den uriktige informasjonen ofte tilskrevet en kilde som hadde riktig informasjon om emnet. Det skapte også «historier om at kandidater var in involvert i skandaløst oppførsel,» og tilskrev informasjonen til troverdige kilder.