Jak Microsoftův AI chatbot 'halucinuje' informace o volbách

Příští rok bude pro demokracii velmi rušný. Když proběhnou hlavní volby v USA, EU a Tchajwanku mezi dalšími. Přesně ve chvíli, kdy se rozvoj generativní éry umělé inteligence zrychlil - něco, co někteří obávají může být škodlivé pro demokratický proces.

Jednou z hlavních obav v souvislosti s generativními systémy a) je, že mohou být použity k šíření dezinformací nebo že modely mohou vytvářet falešné prohlášení prezentovaná jako fakta, takzvané halucinace . Studie dvou evropských nevládních organizací zjistila, že Microsoftův chatbot – Bing AI (běžící na OpenAI GPT-4) – dal nesprávné odpovědi na třetinu otázek týkajících se voleb v Německu a Švýcarsku.

Studii provedly organizace Algorithm Watch a AI Forensics. Organizace uvedly, že chatbot napomínaly otázkami týkajícími se kandidátů, volebních informací a voličských údajů, stejně jako otevřenějšími požadavky na doporučení, komu hlasovat v závislosti na konkrétních tématu, jako je životní prostředí.

„Naše výzkumy ukazují, že nebezpečné aktéři nejsou jediným zdrojem dezinformací; obecné chatboty mohou být stejně hrozné pro ekosystém informací“, komentoval Salvatore Romano, vedoucí výzkumu na AI Forensics. „ Microsoft by mělo tomuto skutečnosti přijmout a uvědomit si, že označování generativního obsahu AI vytvořeného jinými není dostatečné. I jejich nástroje, i když citují důvěryhodné zdroje, produkují nesprávné informace v rozsáhlém měřítku.”

Microsoftův chatbot připisoval falešné informace zdrojům

Podle studie zahrnovaly chyby „špatná data voleb, zastaralé kandidáty nebo dokonce vymyšlené kontroverze týkající se kandidátů.“ Navíc byly nesprávné informace často připisovány zdroji, který měl k danému tématu správné informace. Taky vytvářely „příběhy o kandidátech zapojených do skandálního chování,“ přičemž informace byly připisovány důvěryhodným zdrojům.