kif Microsoft s AI chatbot hallucinates informazzjoni elezzjoni

Is-sena li ġejja se tkun waħda impenjata għad-demokrazija. Elezzjonijiet kbar se jsiru fl-Istati Uniti, l-UE, u t-Tajwan, fost oħrajn. Hekk kif l-introduzzjoni tal-era tal-AI ġenerattiva qed tikseb ritmu serju xi ħaġa li xi wħud jibżgħu li tista 't

wieħed mill-aktar tħassib ewlieni dwar il-ġenerattivaahija li tista' tintuża għat-tixrid malizzjuż ta' deżinformazzjoni, jew li mudelli jistgħu jagħmlu stqarrijiet foloz li jippreżentawhom bħala fatti,l-hekk imsejħa alluċinazzjonijiet. studju minn żewġ NGOs Ewropej sab li chatbot ta' Microsoft bing ai (li jaħdem fuq openais gpt-4) ta tweġibiet żbaljati għal terz ta' mistoqsijiet dwar elezzjonijiet fil-Ġermanja u l-Iżvizzera.

L-istudju kien imwettaq minn Algorithm Watch u AI Forensics. L-organizzazzjonijiet qalu li ħadu l-bot tal-chat b'mistoqsijiet relatati mal-kandidati, informazzjoni dwar il-votazzjoni u l-votazzjoni, kif ukoll talbiet ta' rakkomandazzjoni aktar miftuħa dwar min jivvota meta jkun hemm x'

Ir-riċerka tagħna turi li atturi malizzjużi mhumiex l-unika sors ta' informazzjoni żbaljata; chatbots b'għan ġenerali jistgħu jkunu daqshekk theddid għall-ekosistema ta' informazzjoni", qal salvatore romano, riċerkatur anzjan fl-AI forensics.MicrosoftIl-Kummissjoni għandha tirrikonoxxi dan, u tirrikonoxxi li l-marka tal-kontenut tal-AI ġenerattiva magħmula minn oħrajn mhix biżżejjed.

chatbot ta' microsoft attribwixxa informazzjoni falza lil sorsi

Skont l-istudju, l-iżbalji kienu jinkludu dati elezzjonali żbaljati, kandidati skaduti, jew anke kontroversji inventi dwar il-kandidati. barra minn hekk, l-informazzjoni żbaljata kienet spiss attribwita lil sors li kellu l-informazzjoni korretta dwar is-suġġett.