Como o chatbot de IA da Microsoft 'alucina' informações eleitorais

O próximo ano será agitado para a democracia. As principais eleições ocorrerão nos EUA, na UE e em Taiwan, entre outros. Assim como o lançamento da era da IA generativa está ganhando ritmo para valer - algo que alguns temem que possa ser prejudicial ao processo democrático.

Uma das principais preocupações sobre a generativa IA is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, as chamadas alucinações. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

O estudo foi conduzido pela Algorithm Watch e AI Forensics. As organizações disseram que solicitaram ao chatbot perguntas relacionadas a candidatos, pesquisas e informações de votação, bem como solicitações de recomendação mais abertas sobre em quem votar quando se trata de assuntos específicos, como o meio ambiente. 

"Nossa pesquisa mostra que os agentes mal-intencionados não são a única fonte de desinformação; chatbots de uso geral podem ser igualmente ameaçadores para o ecossistema de informações", comentou Salvatore Romano, pesquisador sênior da AI Forensics. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

O chatbot da Microsoft atribuiu informações falsas a fontes

De acordo com o estudo, os erros incluíam "datas de eleição erradas, candidatos desatualizados ou até mesmo controvérsias inventadas sobre candidatos". Além disso, as informações incorretas eram frequentemente atribuídas a uma fonte que tinha as informações corretas sobre o assunto. Também inventou "histórias sobre candidatos envolvidos em comportamento escandaloso", atribuindo também as informações a fontes confiáveis.