Cómo el chatbot de AI de Microsoft alucina información electoral

El próximo año será un año ocupado para la democracia. Se llevarán a cabo elecciones importantes en los EE.UU., la UE y Taiwán, entre otros. Justo cuando el despliegue de la era de la IA generativa está ganando ritmo en serio algo que algunos temen que pueda resultar perjudicial para el proceso democrático.

Una de las principales preocupaciones sobre la generativaIAes que podría ser utilizada para la propagación maliciosa de desinformación, o que los modelos pueden inventar declaraciones falsas presentándolas como hechos,Las llamadas alucinaciones. Un estudio de dos ONG europeas ha encontrado que el chatbot de Microsoft — Bing IA (funcionando con OpenAI’s GPT-4) — dio respuestas incorrectas a un tercio de las preguntas sobre elecciones en Alemania y Suiza.

El estudio fue realizado por Algorithm Watch y AI Forensics. Las organizaciones dijeron que plantearon al chatbot preguntas relacionadas con candidatos, información sobre votaciones y elecciones, así como solicitudes más abiertas de recomendaciones sobre quién elegir cuando se tienen preocupaciones sobre temas específicos, como el medio ambiente.

Nuestra investigación muestra que los actores malintencionados no son la única fuente de desinformación; los chatbots de uso general pueden ser igualmente una amenaza para el ecosistema de información, comentó salvatore romano, investigador principal de AI forense.el softwaredeberían reconocer esto, y darse cuenta de que señalar el contenido de IA generativa creado por otros no es suficiente. Sus herramientas, incluso cuando citan fuentes confiables, producen información incorrecta a gran escala.”

El chatbot de Microsoft atribuyó información falsa a fuentes

Según el estudio, los errores incluían fechas de elecciones incorrectas, candidatos obsoletos o incluso controversias inventadas sobre candidatos. Además, la información incorrecta a menudo se atribuía a una fuente que tenía la información correcta sobre el tema. También se inventaron historias sobre candidatos involucrados en comportamiento escandaloso,