Hogyan hallucinál a Microsoft MI-bavárképe választási információkat

A következő év zord lesz a demokráciának. Fontos választások lesznek az Egyesült Államokban, az EU-ban és Táiwonon is, közülük mások mellett. Éppen úgy, mint amikor a generatív mesterséges intelligencia korszaka gyorsabban terjed – amit néhányan aggódnak, hogy veszélyezheti a demokratikus folyamatot.

Az egyik fő aggály a generatív technológiák kapcsán AI az, hogy felhasználhatók lennének hamis információk bántozó terjesztésére, vagy arra, hogy a modellök halsegítésre alkalmas hamis állításokat tesznek, amiket tényként mutatnak be, úgynevezett hallucinációk . Két európai civilszervezet tanulmánya szerint a Microsoft chatbota – a Bing AI-t (amely az OpenAI GPT-4 motorral működik) – harmad része helytelen választ adott a németországi és svájci választásokról szóló kérdésekre.

A tanulmányt az Algorithm Watch és az AI Forensics végzi el. A szervezetek azt mondják, hogy a chatbotot választójelöltekkel, szavazási és választási információkkal kapcsolatos kérdésekkel, valamint nyitottabb ajánlás-kérésekkel tesztelték, például arról, kinek kellene szavazni bizonyos témák, mint például a környezetvédelem tekintetében.

„A kutatásunk azt mutatja, hogy a rosszindulatú szereplők nem az egyetlen hamisinformációforrás; az általános célú csevegzők szintén fenyegethetik az információs ekoszisztémát,” – kommentálta Salvatore Romano, Főkutató az AI Forensics-nél. „ Microsoft ezt el kell ismerni, és fel kell ismerni, hogy mások által készített generatív mesterséges intelligencia tartalmak jelölésével nem elég. Az eszközeik, akár megbízható forrásokra is hivatkozva, nagymértékben hibás információkat termelnek.”

Az Microsoft csevegzője hamis információkat írt elő iránytalan forrásokhoz

A tanulmány szerint az hibák közé tartoztak a „rossz választási dátumok, elavult jelöltek, vagy akár felkészített vitás kérdések a jelöltekkel kapcsolatban.” Emellett a helytelen információk gyakran egy forrástól származtak, amely rendelkezett a témában helyes információkkal. Ezen kívül még alkotottak „történeteket a jelöltek skandálus viselkedéséről,” szintén megbízható forrásokra hivatkozva az információkról.