Как AI чатботът на Microsoft халюцинира избирателна информация

Предстоящата година ще бъде много натоварена за демокрацията. Големи избори ще се проведат в САЩ, ЕС и Тайван, между другото. Точно когато разгръщането на генеративната AI ера набира скорост сериозно нещо, което някои се страхуват, че може да се окаже вредно за демократичния процес.

Една от главните загрижения относно генеративните моделиИИе, че те могат да бъдат използвани за злонамерно разпространяване на дезинформация или че моделите могат да създават лъжливи твърдения, представяйки ги като факт,така наречените халюцинации. Изследване на две европейски НПО установи, че чатбота на Microsoft — Bing AI (работещ на OpenAI GPT-4) — даваше грешни отговори на третината от въпросите за изборите в Германия и Швейцария.

Изследването беше проведено от Algorithm Watch и AI Forensics. Организациите казаха, че задаваха на чатбота въпроси, свързани с кандидатствалици, изборни данни и информация за гласуване, както и по-широки препоръки за кого да гласуват при определени теми, като околната среда.

Нашето изследване показва, че злонамерените участници не са единственият източник на дезинформация; чатботовете с общо предназначение могат да бъдат също толкова заплаха за информационната екосистема", коментира salvatore romano, старши изследовател в AI forensics.Microsoftтрябва да признаят това и да разберат, че маркирането на съдържанието, създадено от генеративен ИИ от други, не е достатъчно. Инструментите им, дори когато цитират достоверни източници, произвеждат грешна информация в големи мащаби.”

Чатботът на Microsoft е приписал фалшива информация на източници.

Според проучването грешките включват грешителни дати на изборите, остарели кандидати или дори измислени спорове относно кандидатите. Освен това, неправилната информация често се приписва на източник, който има правилна информация за темата.