Kif l-informazzjoni elettorali taċ-chatbot tal-AI ta' Microsoft "alluċinati"

Is-sena li ġejja se tkun waħda impenjattiva għad-demokrazija. Elezzjonijiet maġġuri se jsiru fl-Istati Uniti, l-UE, u t-Tajwan, fost oħrajn. Hekk kif it-tnedija tal-era ġenerattiva tal-IA qed tiġbor il-pass bis-serjetà — xi ħaġa li xi biża' tista' tkun ta' detriment għall-proċess demokratiku.

Wieħed mit-tħassib ewlieni dwar il-ġenerazzjoni IA is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, l-hekk imsejħa alluċinazzjonijiet. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

L-istudju sar minn Algorithm Watch u AI Forensics. L-organizzazzjonijiet qalu li qanqlu liċ-chatbot b'mistoqsijiet relatati ma' kandidati, informazzjoni dwar il-votazzjoni u l-votazzjoni, kif ukoll talbiet ta' rakkomandazzjoni aktar miftuħa dwar min għandu jivvota meta jkun ikkonċernat b'suġġetti speċifiċi, bħall-ambjent. 

"Ir-riċerka tagħna turi li atturi malizzjużi mhumiex l-uniku sors ta' miżinformazzjoni; chatbots għal skopijiet ġenerali jistgħu jkunu daqstant ta 'theddida għall-ekosistema tal-informazzjoni," ikkummenta Salvatore Romano, Riċerkatur Anzjan fil-Forensika tal-IA. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Iċ-chatbot ta' Microsoft attribwixxa informazzjoni falza lis-sorsi

Skont l-iżbalji fl-istudju kien hemm "dati elettorali żbaljati, kandidati skaduti, jew saħansitra kontroversji vvintati dwar kandidati." Barra minn hekk, l-informazzjoni żbaljata spiss kienet attribwita lil sors li kellu l-informazzjoni korretta dwar is-suġġett. Huwa għamel ukoll "stejjer dwar kandidati li huma involuti f'imġiba skandaluża," li attribwixxa wkoll l-informazzjoni lil sorsi ta' fama.