Jak si AI chatbot z Microsoftu halucinuje informace o volbách

Příští rok bude pro demokracii velmi rušný. Velké volby se budou konat mimo jiné v USA, EU a na Tchaj-wanu. Právě v době, kdy se rozšiřování generativní AI věku vážně rozrůstá něco, co by se mohlo ukázat jako škodlivé pro demokratický proces.

Jednou z hlavních obav v souvislosti s generativními systémya)je, že mohou být použity k šíření dezinformací nebo že modely mohou vytvářet falešné prohlášení prezentovaná jako fakta,tzv. halucinace. Studie dvou evropských nevládních organizací zjistila, že Microsoftův chatbot – Bing AI (běžící na OpenAI GPT-4) – dal nesprávné odpovědi na třetinu otázek týkajících se voleb v Německu a Švýcarsku.

Studii provedly organizace Algorithm Watch a AI Forensics. Organizace uvedly, že chatbot napomínaly otázkami týkajícími se kandidátů, volebních informací a voličských údajů, stejně jako otevřenějšími požadavky na doporučení, komu hlasovat v závislosti na konkrétních tématu, jako je životní prostředí.

Náš výzkum ukazuje, že škodliví hráči nejsou jediným zdrojem dezinformací; chatboty s obecným účelem mohou být stejně hrozbou pro informační ekosystém", uvedl salvatore romano, vedoucí výzkumník AI forensiky.Microsoftby mělo tomuto skutečnosti přijmout a uvědomit si, že označování generativního obsahu AI vytvořeného jinými není dostatečné. I jejich nástroje, i když citují důvěryhodné zdroje, produkují nesprávné informace v rozsáhlém měřítku.”

Microsoftův chatbot přisoudil falešné informace zdrojům

Podle studie chyb zahrnovaly napravé datumy voleb, zastaralé kandidáty nebo dokonce vymyslené kontroverze týkající se kandidátů. Kromě toho byly nesprávné informace často připisovány zdroji, který měl správné informace o tématu.