Как AI-чатбот Майкрософт галлюцинирует информацию о выборах

Наступающий год будет очень насыщенным для демократии. Крупные выборы пройдут в США, ЕС и Тайване, среди прочих.

Одной из главных проблем в области генерирующейаиможет быть использована для злонамеренного распространения дезинформации, или модели могут создавать ложные заявления, представляя их как факты,так называемые галлюцинации. исследование двух европейских НПО показало, что чатбот Microsoft Bing ai (работающий на OpenBiss GPT-4) дал неверные ответы на треть вопросов о выборах в Германии и Швейцарии.

Исследование было проведено компанией Algorithm Watch и AI Forensics. Организации заявили, что запустили чат-бот с вопросами, касающимися кандидатов, опросов и информации о голосовании, а также с более открытыми рекомендациями о том, за кого голосовать, когда речь идет о конкре

Наше исследование показывает, что злоумышленники не являются единственным источником дезинформации; чат-боты общего назначения могут быть столь же угрозой для информационной экосистемы", - прокомментировал salvatore romano, старший исследователь AI forensics.MicrosoftВ то же время, если вы хотите, чтобы ваши инструменты, даже если они связаны с надежными источниками, создают неверную информацию в масштабе.

Чатбот Microsoft приписал ложную информацию источникам

По данным исследования, ошибки включали в себя: "неправильные даты выборов, устаревшие кандидаты или даже выдуманные споры о кандидатах". Кроме того, неправильная информация часто приписывалась источнику, который имел правильную информацию по теме.