Como a Microsoft s AI chatbot alucina informação eleitoral

O próximo ano será um ano ocupado para a democracia. Grandes eleições terão lugar nos EUA, na UE e em Taiwan, entre outros. Assim como a implantação da era da IA geradora está ganhando ritmo em sério algo que alguns temem que possa ser prejudicial ao processo democrático.

A Comissão considera que aAÉ que pode ser utilizado para a difusão maliciosa de desinformação, ou que os modelos podem fazer declarações falsas apresentando-as como fatos,As chamadas alucinações. um estudo de duas ONG europeias descobriu que o chatbot da Microsoft bing ai (que funciona no OpenStreetMap) deu respostas incorretas a um terço das perguntas sobre eleições na Alemanha e na Suíça.

O estudo foi conduzido pela Algorithm Watch e AI Forensics. As organizações disseram que eles levaram o chatbot com perguntas relacionadas a candidatos, informações de votação e votação, bem como pedidos de recomendação mais abertos sobre quem votar quando se trata de assuntos específicos, como o meio ambiente.

A nossa investigação mostra que os agentes malintencionados não são a única fonte de desinformação; os chatbots de uso geral podem ser igualmente uma ameaça para o ecossistema de informação", comentou salvatore romano, investigador sênior da AI forense.MicrosoftOs investigadores devem reconhecer isto e reconhecer que não basta sinalizar o conteúdo de IA gerador feito por outros.

O chatbot da Microsoft atribuiu informações falsas a fontes

De acordo com o estudo, os erros incluíram datas de eleição erradas, candidatos desatualizados ou até mesmo controvérsias inventadas sobre candidatos. Além disso, as informações incorretas eram frequentemente atribuídas a uma fonte que tinha informações corretas sobre o assunto.