Kako Microsoftov AI čajbot 'halucinira' informacije o izborima

Sljedeća godina će biti zauzeta za demokratiju. Veliki izbori održat će se u SAD, EU i Tajvanu, među drugim. Upravo kao što se uvod generativnog AI doba ubrzava znanjem — nešto što su neki bojali da bi moglo biti štetno demokratskom procesu.

Jedan od glavnih uzaludbi o generativnom AI je da bi mogao biti korišten za zlonamjernu širenju neistinitih informacija, ili da modeli mogu izmišljati lažne izjave predstavljajući ih kao činjenice, tako zvane halucinacije . Studija provedena od strane dvije europske NGO-ja utvrdila je da Microsoftov chatbot – Bing AI (koji radi na OpenAI-jevim GPT-4) – dao je netočne odgovore na trećinu pitanja o izborima u Njemačkoj i Švicarskoj.

Studiju su provedle organizacije Algorithm Watch i AI Forensics. One su rekli da su chatbota pobudile pitanjima vezanim uz kandidate, izborno podatke i informacije o glasovanju, te što su tražile i otvorene preporuke tko bi se trebao glasati kada su u pitanju određene teme, poput okoliša.

„Naše istraživanje pokazuje da nisu samo zlonamjerne subjekte izvor lažnih vijesti; opće namjene čatbotovi mogu biti jednako prijetnji informacijskom ekosustavu“, komentirao je Salvatore Romano, Stariji istraživač na AI Forensics-u. „ Microsoft trebali bi priznati to, i shvatiti da označavanje generativnog AI-sadržaja napravljenog od strane drugih nije dovoljno. Njihovi alati, čak i kada impliciraju pouzdane izvore, proizvode netočne informacije u velikom obimu.”

Microsoftov čatbot je pridružio lažne informacije izvorima

Prema istraživanju, pogreške su uključivale „pogrešne datume izbora, zastarjele kandidate ili čak izmišljene kontroverze vezane uz kandidate.” Nadalje, netočne informacije su često bile pripisane izvoru koji je imao točne informacije o temi. Također su se izmišljale i „priče o kandidatima koji su bili uključeni u skandalozone ponašanja,” također pripisujuci informacije pouzdanim izvorima.