Kako Microsoftov AI chatbot 'halucinira' informacije o volitvah

Prihodnje leto bo za demokracijo zelo posebno. Velike volitve bodo potekale v ZDA, EU in Tajvanu, med drugimi. Prav tako se razvoj generativnega obdobja umetne inteligence hitro povečuje — nekaj, česar se nekateri bodoja, da bi lahko škodilo demokratičnemu procesu.

Eden je med glavnimi skrbi o generativnem AI da bi se lahko uporabljalo za zlonamerno širitev dezinformacij, ali pa da modeli izrekujo nepravilne trditve, predstavljajoče jih kot dejstva, tako imenovane halucinacije . Raziskava dveh evropskih neprofitnih organizacij je pokazala, da je Microsoftov klepetalnik – Bing AI (delujoč na OpenAI-jevem GPT-4) – dal napačne odgovore na tretjino vprašanj o volitvah v Nemčiji in Švicarski.

Raziskavo sta izvedli Algorithm Watch in AI Forensics. Organizaciji sta povedali, da so klepetalnik pognali s vprašanji, povezanimi s kandidati, volitvami in informacijami o glasovanju, ter tudi z bolj odprtimi zahtevami za priporočila, komu glasovati, ko gre za določene teme, kot je okolje.

„Naše raziskave kažejo, da so zlorabljenci edini vir napak v informacijah; splošni namen klepetalnikov lahko predstavlja enako grožnjo informacijskemu ekosistemu“, je komentiral Salvatore Romano, starsi raziskovalec na AI Forensics. „ Microsoft morajo to priznati in razumeti, da ni dovolj, da samo oznacijo vsebino generativne umetne inteligence, ki jo drugi ustvarjajo. Njihovi orodja, celo kadar vključujejo zaupanja vredne viri, proizvajajo napačne informacije na veliki meri.”

Microsoftov klepetalnik je pripijal nepravilne informacije virom

Po podatkih študije so bile napake napake datume volitev, zastarele kandidate ali celo izmišljene polemike glede kandidatov. Poleg tega so napačne informacije pogosto pripisali viru, ki je imel pravilne informacije o tej temi. Prav tako je izmišljal zgodbe o kandidatkah, ki so vpletene v škandalozno vedenje, ter pripisal informacije uglednim virom.