Kako Microsoft s AI chatbot haluciniše informacije o izborima

Sljedeća godina će biti zauzet za demokraciju. Veliki izbori će se održati u SAD-u, EU-u i Tajvanu, između ostalih. Baš kao što se uvođenje generacijske AI ere ozbiljno ubrzava nešto što bi se moglo pokazati štetnim za demokratski proces.

Jedna od glavnih briga o generativnoma)da bi se mogla koristiti za zlonamjerno širenje dezinformacija ili da modeli mogu izmisliti lažne izjave koje ih predstavljaju kao činjenice,takozvane halucinacije. studija dvije europske nevladine organizacije otkrila je da je Microsoftov chatbot bing ai (koji radi na OpenSea gpt-4) dao pogrešne odgovore na trećinu pitanja o izborima u Njemačkoj i Švicarskoj.

U studiji su sudjelovali algoritam Watch i AI forenzičari. Organizacije su izjavile da su potaknule chatbot s pitanjima koja se odnose na kandidate, ankete i informacije o glasovanju, kao i otvorenijim zahtjevima za preporuke za koga glasati kada se radi o određenim temama, kao što je okoliš.

Naše istraživanje pokazuje da zlonamjerni akteri nisu jedini izvor dezinformacija; chatbots opće namjene mogu biti jednako prijetnja informacijskom ekosustavu, komentirao je salvatore romano, viši istraživač u AI forenzici.MicrosoftU tom kontekstu, kako je navedeno u članku 1., "način na koji se koristi AI za stvaranje umjetne inteligencije" (AI-generative content) je vrlo različit.

Microsoftov chatbot je pripisao lažne informacije izvorima

Prema studiji, pogreške uključuju pogrešne izbore, zastarjele kandidate ili čak izmišljene kontroverze o kandidatima. Osim toga, pogrešne informacije često su pripisane izvoru koji je imao ispravne informacije o temi.