kā Microsoft AI čatbots halucinē vēlēšanu informāciju

Nākamais gads būs aizņemts demokrātijai. Starp citiem, ASV, ES un Taivānā notiks lieliskas vēlēšanas.

Viens no galvenajiem bažām par generatīvoa)ir tas, ka to varētu izmantot kaitīgi, lai izplatītu nepareizu informāciju, vai arī tas veido nepatiesas apgalvojumus, uzdodot tos par faktiem,tā sauktais halucinācijas. Divu Eiropas nenicināmo organizāciju pētījums atklāja, ka Microsoft chattbots — Bing AI (kas darbojas uz OpenAI GPT-4 platformas) — deva nepareizus atbildes uz trešdaļu jautājumiem par vēlēšanām Vācijā un Zviedrijā.

Pētījumu veica Algorithm Watch un AI Forensics. Organizācijas teica, ka chattbotam tika uzdoti jautājumi par kandidātiem, vēlēšanu un balsošanas informāciju, kā arī plašākas ieteikumu pieprasījumus par to, kuru balsot, ja interesē noteiktas tematikas, piemēram, vide.

mūsu pētījumi liecina, ka ļaunprātīgi iesaistītie dalībnieki nav vienīgais dezinformacijas avots; vispārējas nozīmes čatboti var būt tikpat bīstami informācijas ekosistēmai", komentēja salvatore romano, AI forenzikas vecākais pētnieks.Microsofttam jāatzīst šis aspekts, un jāsaprot, ka tikai citu veidotu generatīvo AI saturu pazīmēt nav pietiekami. Arī viņu rīki, pat tad, ja tie balstās uz uzticamu avotu, ražo nepareizu informāciju masveidā.”

Microsoft s čatbots atribēja nepatiesu informāciju avotiem

Saskaņā ar pētījumu kļūdas bija: nepareizas vēlēšanu datums, novecojuši kandidāti vai pat izgudrotas strīdus par kandidātiem. turklāt nepareizā informācija bieži tika piešķirta avota, kam bija pareiza informācija par tēmu.