Ako Microsoftový AI chatbot „halucinuje“ informácie o voľbách

Prijatý rok bude pre demokraciu neklidný. Prebehnu sa v ňom hlavné volby v USA, EÚ a Taiwane, medzi inými. Práve keď začína plne nabrať na tempu era generatívneho AI – niečo, čo niektorí obávajú, že by mohlo mať škodlivý vplyv na demokratický proces.

Jednou z hlavných obáv voči generatívnym systémom AI je, že môžu byť použité na zlú vôľu na šírenie dezinformácií, alebo že modely môžu vytvárať nepravdivé tvrdenia a predkladať ich ako fakty, takzvané halucinácie . Študia dvoch európskych NGO zistila, že Microsoftový chatbot – Bing AI (bežiaci na OpenAI GPT-4) – dal nesprávne odpovede na tretinu otázok týkajúcich sa volieb v Nemecku a Švajčiarsku.

Štúdiu vykonali organizácie Algorithm Watch a AI Forensics. Povedali, že chatbota dotazovali otázkami týkajúcimi sa kandidátov, dát volieb a informácií o hlasovaní, ako aj viac otvorenými požiadavkami na odporúčania, pre koho hlasovať v súvislosti so špecifickými tématami, ako je životné prostredie.

„Náš výskum ukazuje, že zlomyslní subjekty nie sú jediným zdrojom falošných informácií; univerzálny chatboti môžu byť práve tak istou hrozbou pre informačné prostredie,“ komentoval Salvatore Romano, starší výskumník na AI Forensics. „ Microsoft by mali uznávať tento problém a pochopiť, že označovanie generatívneho obsahu AI vytvoreného ostatnými nie je dostatočné. Ich nástroje, dokonca aj keď citujú dôveryhodné zdroje, produkujú nesprávne informácie v veľkom rozsahu.”

Chatbot spoločnosti Microsoft priradil nepravdivé informácie k zdrojom

Podľa štúdie patreli chyby „nesprávne dátumy voľieb, zastaralí kandidáti alebo dokonca vymyšlené kontroverzie týkajúce sa kandidátov.“ navyše bola nesprávna informácia často prisudzovaná zdroju, ktorý na danú tému mal správne informácie. Taktiež sa vymýšali „príbehy o tom, ako sú kandidáti zapojení do skandálnych správaní,“ pričom sa informácia tiež odvolávala na prestížne zdroje.