kung paano ang Microsofts AI chatbot hallucinates impormasyon sa halalan

Ang darating na taon ay magiging isang abala para sa demokrasya. Ang mga pangunahing halalan ay magaganap sa US, EU, at Taiwan, bukod sa iba pa. Tulad ng pag-rollout ng generative AI era ay tumatagal ng bilis nang seryoso isang bagay na tinatakot ng ilan na maaaring maging makapinsala sa demokratikong proseso.

isa sa mga pangunahing alalahanin tungkol sa generativemgaay maaaring gamitin ito para sa masamang pagkalat ng maling impormasyon, o na ang mga modelo ay maaaring gumawa ng mga maling pahayag na ipinakikita ang mga ito bilang katotohanan,ang tinatawag na mga alisinasyon. isang pag-aaral mula sa dalawang mga NGO sa Europa ang tumukoy na ang chatbot ng Microsoft na bing ai (nagtatakbo sa openais gpt-4) ay nagbigay ng maling mga sagot sa isang-katlo ng mga katanungan tungkol sa mga halalan sa Alemanya at Switzerland.

Ang pag-aaral ay isinagawa ng algorithm watch at AI forensics. Sinabi ng mga organisasyon na pinayagan nila ang chatbot na may mga katanungan na nauugnay sa mga kandidato, polling at impormasyon sa pagboto, pati na rin ang mas bukas na mga kahilingan sa rekomendasyon kung sino ang dapat bumoto kapag may kinalaman sa mga tukoy

Ipinakikita ng aming pananaliksik na ang mga masamang aktor ay hindi lamang ang pinagmumulan ng maling impormasyon; ang mga chatbot na pangkaraniwang layunin ay maaaring maging isang banta sa ecosystem ng impormasyon, nagkomento si salvatore romano, senior researcher sa AI forensics.MicrosoftDapat itong kilalanin ito, at kilalanin na ang pag-sign up ng generative AI content na ginawa ng iba ay hindi sapat.

Ang chatbot ng microsoft ay nagbigay ng maling impormasyon sa mga mapagkukunan

Ayon sa pag-aaral, ang mga pagkakamali ay kasama ang mali ang mga petsa ng halalan, mga nakaraan na kandidato, o kahit na mga imbentong kontrobersiya tungkol sa mga kandidato. Bukod pa rito, ang maling impormasyon ay madalas na ipinapahiwatig sa isang mapagkukunan na may tamang impormasyon tungkol sa paksa.