kung paano ang Microsofts AI chatbot hallucinates impormasyon sa halalan

Ang darating na taon ay magiging isang abala para sa demokrasya. Ang mga pangunahing halalan ay magaganap sa US, EU, at Taiwan, bukod sa iba pa. Tulad ng pag-rollout ng generative AI era ay tumatagal ng bilis nang seryoso isang bagay na tinatakot ng ilan na maaaring maging makapinsala sa demokratikong proseso.

Isa sa mga pangunahing pag-aalala tungkol sa generativeAIay maaaring gamitin ito para sa masama na pagpapalaganap ng disinformasyon, o makakasulat ang mga model ng mga FALSE na pahayag na ipinapresenta bilang katotohanan,ang tinatawag na mga alisinasyon. Isang pag-aaral mula sa dalawang NGO sa Europa ay nag-discover na ang chatbot ng Microsoft — Bing AI (nagreruns sa OpenAI’s GPT-4) — ay nagbigay ng mali nga mga sagot sa isang tatlo ng mga tanong tungkol sa eleksyon sa Alemanya at Switzerland.

Ang pag-aaral ay ginawa ni Algorithm Watch at AI Forensics. Sinabi ng mga organisasyon na pinagpatuloy nila ang chatbot sa pamamagitan ng mga katanungan na nauugnay sa mga kandidato, polling at impormasyon sa boto, pati na rin ang higit na bukas na mga hiling ng rekomendasyon tungkol kung sa kanino bumoto kapag nasasangkot sa tiyak na mga paksa, tulad ng kapaligiran.

Ipinakikita ng aming pananaliksik na ang mga masamang aktor ay hindi lamang ang pinagmumulan ng maling impormasyon; ang mga chatbot na pangkaraniwang layunin ay maaaring maging isang banta sa ecosystem ng impormasyon, nagkomento si salvatore romano, senior researcher sa AI forensics.Microsoftdapat sundin ito, at tanggapin na hindi sapat ang pagtatakda sa mga nilalaman ng generative AI na gawa ng iba. Kaya pa rin mali ang mga tool nila, kahit na mayroon silang matibay na pinagmulan, na nagproducce ng maling impormasyon sa isang malaking scale.”

Ang chatbot ng microsoft ay nagbigay ng maling impormasyon sa mga mapagkukunan

Ayon sa pag-aaral, ang mga pagkakamali ay kasama ang mali ang mga petsa ng halalan, mga nakaraan na kandidato, o kahit na mga imbentong kontrobersiya tungkol sa mga kandidato. Bukod pa rito, ang maling impormasyon ay madalas na ipinapahiwatig sa isang mapagkukunan na may tamang impormasyon tungkol sa paksa.