Kā Microsoft AI tērzēšanas robots “halucinē” vēlēšanu informāciju

Nākamais gads demokrātijai būs strauji pilns. Galvenās vēlēšanas notiks ASV, ES un Taivānā, starp citu. Tieši tad, kad generatīvās AI epočas ieviešana seriozi palielinās — kas dažiem rada bažas par iespēju, ka tas var būt kaitīgi demokrātiskajam procesam.

Viens no galvenajiem bažām par generatīvo AI ir tas, ka to varētu izmantot kaitīgi, lai izplatītu nepareizu informāciju, vai arī tas veido nepatiesas apgalvojumus, uzdodot tos par faktiem, tā sauktie halucinācijas . Divu Eiropas nenicināmo organizāciju pētījums atklāja, ka Microsoft chattbots — Bing AI (kas darbojas uz OpenAI GPT-4 platformas) — deva nepareizus atbildes uz trešdaļu jautājumiem par vēlēšanām Vācijā un Zviedrijā.

Pētījumu veica Algorithm Watch un AI Forensics. Organizācijas teica, ka chattbotam tika uzdoti jautājumi par kandidātiem, vēlēšanu un balsošanas informāciju, kā arī plašākas ieteikumu pieprasījumus par to, kuru balsot, ja interesē noteiktas tematikas, piemēram, vide.

„Mūsu pētījums liecina, ka ne tikai cilvēki ar ļaunprātīgām nomaļām ir nepareizas informācijas avots; vispārēji mērķtieciņi čati var būt tikpat bīstami informācijas ekosistēmai,” komentēja Salvatore Romano, augstāks pētnieks pie AI Forensics. “ Microsoft tam jāatzīst šis aspekts, un jāsaprot, ka tikai citu veidotu generatīvo AI saturu pazīmēt nav pietiekami. Arī viņu rīki, pat tad, ja tie balstās uz uzticamu avotu, ražo nepareizu informāciju masveidā.”

Microsoft čatu robots piesardzīja nepatiesu informāciju avotiem

Pētījuma datoriem kļūdas ietvēra “nepareizus vēlēšanu datumus, novecojušos kandidātus vai pat izgudrotas konfliktu situācijas par kandidātiem.” Turklāt nepareizā informācija bieži bija atribūtēta avotam, kurš uz šādu tēmu sniedza pareizu informāciju. Tajā arī tika izgudrotas “stāstījumi par kandidātu iesaistīšanos skandālos uzvedumos,” atribūtējot informāciju godīgiem avotiem.