Як чат-бот зі штучним інтелектом від Microsoft «галюцинує» інформацію про вибори

Наступний рік буде насиченим для демократії. Основні вибори відбудуться, зокрема, у США, ЄС та Тайвані. Подібно до того, як розгортання ери генеративного штучного інтелекту набирає обертів всерйоз, що, як дехто побоюється, може виявитися шкідливим для демократичного процесу.

Одне з головних занепокоєнь щодо генеративних АЙ is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, так звані галюцинації. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

Дослідження провели компанії Algorithm Watch та AI Forensics. Організації заявили, що вони спонукали чат-бота запитати, що стосуються кандидатів, інформації про опитування та голосування, а також більш відкритих запитів на рекомендації щодо того, за кого голосувати, коли вони стосуються конкретних питань, таких як навколишнє середовище. 

«Наше дослідження показує, що зловмисники – не єдине джерело дезінформації; Чат-боти загального призначення можуть бути не менш загрозливими для інформаційної екосистеми», – прокоментував Сальваторе Романо, старший науковий співробітник AI Forensics. “Корпорація T should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Чат-бот Microsoft приписав неправдиву інформацію джерелам

Згідно з дослідженням, помилки включали «неправильні дати виборів, застарілих кандидатів або навіть вигадані суперечки щодо кандидатів». Більш того, невірна інформація часто приписувалася джерелу, яке володіло правильною інформацією по темі. Він також вигадував "історії про причетність кандидатів до скандальної поведінки", також відносячи інформацію до авторитетних джерел.