Kako Microsoftov AI četkotek 'halucinira' informacije o izborima

Naredna godina će biti zauzeta za demokratiju. Održeće se glavni izbori u SAD-u, EU-u i Tajvanu, među drugim. Upravo kao što se pojava generativnog AI-a širi u punoj meri — nešto što neki boje da bi moglo biti štetno demokratskom procesu.

Jedan od glavnih uzaludbi u vezi sa generativnim modelima AI je da bi mogli biti korišćeni za zlonamernu širenje dezinformacija, ili što modeli mogu izmišljati lažne izjave predstavljajući ih kao činjenice, tako zvane halucinacije . Istraživanje dve evropske nevladine organizacije utvrdilo je da Microsoftov chatbot — Bing AI (koji radi na OpenAI-ovom GPT-4) — je dao netočne odgovore na trećinu pitanja o izborima u Nemačkoj i Švicarskoj.

Istraživanje su provedile organizacije Algorithm Watch i AI Forensics. One su rekli da su pobudile chatbota pitanjima vezanim za kandidate, izborne informacije i podatke o glasanju, kao i šire zahteve za preporukama o kom da se glasa kada su u pitanju određene teme, poput okoliša.

„Naše istraživanje pokazuje da su zlobne strane nisu jedini izvor lažnih informacija; opšte namenski čatbotovi mogu biti jednako prijetnji informacionom ekosistemu“, komentarisao je Salvatore Romano, Stariji istraživač u AI Forensics-u. „ Microsoft trebalo bi da prizna ovu činjenicu, i da shvati da označavanje sadržaja generativne umetne inteligencije napravljenog od strane drugih nije dovoljno. Njihovi alati, čak i kada impliciraju pouzdane izvore, proizvode netočne informacije u velikom obimu.”

Microsoftov čatbot je pridružio nepравilне informacije izvorima

Prema studiji, greške su uključivale „pogrešne datume izbora, zastarjele kandidate ili čak izmišljene kontroverze vezane za kandidate.” Pored toga, netacne informacije su često bile pripisane izvoru koji je imao tačne informacije o tom subektu. Takođe su se izmišljale „priče o kandidatima koji su bili uključeni u skandaloze ponašanje,” takođe pripisujuci informacije poštovanjim izvorima.