Hogyan hallucinálja a Microsoft s AI chatbot választási információkat

A következő év nagy kihívás lesz a demokráciának. Az Egyesült Államokban, az Európai Unióban és Tajvanban is lesznek nagy választások.

A generatíva)hogy a rendszer rosszindulatú dezinformáció terjesztésére használható, vagy hogy a modellek hamis állításokat hozhatnak létre, amelyek tényként mutatják be,Az úgynevezett hallucinációk. két európai nem kormányzati szervezet tanulmánya kimutatta, hogy a Microsoft bing ai (az OpenBiss GPT-4 rendszeren fut) chatbotja a német és svájci választásokkal kapcsolatos kérdések egyharmadára helytelen választ adott.

A tanulmányt az Algorithm Watch és az AI forensikus intézet vezette. A szervezetek azt állították, hogy a chatbotot a jelöltekre, a szavazásra és a szavazási információkra vonatkozó kérdésekkel, valamint a környezetre vonatkozó kérdésekhez kapcsolódóan nyitottabb ajánlási kérelmekkel ösztönözték.

A kutatásunk azt mutatja, hogy a rosszindulatú szereplők nem az egyetlen forrása a félreértéseknek; az általános célú chatbotok ugyanolyan veszélyt jelenthetnek az információs ökoszisztémára, mondta salvatore romano, az AI forensikának vezető kutatója.MicrosoftA kutatóknak ezt el kell ismerniük, és fel kell ismerniük, hogy nem elég a mások által készített generatív MI tartalom jelölése.

A Microsoft chatbotja hamis információt tulajdonított forrásoknak.

A tanulmány szerint a hibák közé tartoztak a "rossz választási dátumok, elavult jelöltek, vagy akár a jelöltekre vonatkozó talált viták". Ezenkívül a helytelen információkat gyakran olyan forrásnak tulajdonították, amelyiknek a témával kapcsolatban helyes információja volt.