Kako Microsoft s AI chatbot haluciniše informacije o izborima

Sljedeća godina će biti zauzet za demokraciju. Veliki izbori će se održati u SAD-u, EU-u i Tajvanu, između ostalih. Baš kao što se uvođenje generacijske AI ere ozbiljno ubrzava nešto što bi se moglo pokazati štetnim za demokratski proces.

Jedan od glavnih uzaludbi o generativnomAIje da bi mogao biti korišten za zlonamjernu širenju neistinitih informacija, ili da modeli mogu izmišljati lažne izjave predstavljajući ih kao činjenice,takozvane halucinacije. Studija provedena od strane dvije europske NGO-ja utvrdila je da Microsoftov chatbot – Bing AI (koji radi na OpenAI-jevim GPT-4) – dao je netočne odgovore na trećinu pitanja o izborima u Njemačkoj i Švicarskoj.

Studiju su provedle organizacije Algorithm Watch i AI Forensics. One su rekli da su chatbota pobudile pitanjima vezanim uz kandidate, izborno podatke i informacije o glasovanju, te što su tražile i otvorene preporuke tko bi se trebao glasati kada su u pitanju određene teme, poput okoliša.

Naše istraživanje pokazuje da zlonamjerni akteri nisu jedini izvor dezinformacija; chatbots opće namjene mogu biti jednako prijetnja informacijskom ekosustavu, komentirao je salvatore romano, viši istraživač u AI forenzici.Microsofttrebali bi priznati to, i shvatiti da označavanje generativnog AI-sadržaja napravljenog od strane drugih nije dovoljno. Njihovi alati, čak i kada impliciraju pouzdane izvore, proizvode netočne informacije u velikom obimu.”

Microsoftov chatbot je pripisao lažne informacije izvorima

Prema studiji, pogreške uključuju pogrešne izbore, zastarjele kandidate ili čak izmišljene kontroverze o kandidatima. Osim toga, pogrešne informacije često su pripisane izvoru koji je imao ispravne informacije o temi.