Kako Microsoft s AI chatbot halucini volilne informacije

Prihajajoče leto bo za demokracijo naporno. Velike volitve bodo potekala med drugim v ZDA, EU in Tajvanu.

Ena glavnih skrbi glede generativne(i)je, da bi se lahko uporabljala za zlonamerno širjenje dezinformacij ali da lahko modeli izmišljajo lažne izjave, ki jih predstavljajo kot dejstvo,tako imenovane halucinacijeŠtudija dveh evropskih nevladnih organizacij je pokazala, da je Microsoftov chatbot Bing AI (ki deluje na OpenStreetMap-u gpt-4) napačno odgovoril na tretjino vprašanj o volitvah v Nemčiji in Švici.

Organizacije so delile, da so chatbota spodbudile z vprašanji, ki se nanašajo na kandidate, ankete in informacije o glasovanju, pa tudi z bolj odprtimi priporočili, za koga glasovati, ko gre za določene teme, kot je okolje.

naša raziskava kaže, da zlonamerni akterji niso edini vir dezinformacij; chatboti splošnega namena so lahko enako nevarni za informacijski ekosistem", je komentiral salvatore romano, višji raziskovalci AI forenzike.MicrosoftTo bi morali priznati in priznati, da označevanje ustvarjalne AI vsebine, ki jo ustvarjajo drugi, ni dovolj. njihova orodja, tudi če vključujejo zanesljive vire, proizvajajo nepravilne informacije v velikem obsegu.

Microsoftov chatbot je napačne informacije priskrbel virom.

Po podatkih študije so bile napake napake datume volitev, zastareli kandidati ali celo izmišljene polemike glede kandidatov. Poleg tega so napačne informacije pogosto pripisali viru, ki je imel pravilne informacije o temi. Prav tako so si izmislili priče o kandidatih, ki so vpleteni v šk