Cómo el chatbot de AI de Microsoft alucina información electoral

El próximo año será un año ocupado para la democracia. Se llevarán a cabo elecciones importantes en los EE.UU., la UE y Taiwán, entre otros. Justo cuando el despliegue de la era de la IA generativa está ganando ritmo en serio algo que algunos temen que pueda resultar perjudicial para el proceso democrático.

La mayor parte de los problemas de la industria de la energía son de tipo energético.eles que podría utilizarse para la difusión maliciosa de desinformación, o que los modelos pueden hacer declaraciones falsas presentándolas como hechos,Las llamadas alucinacionesUn estudio de dos ONG europeas ha encontrado que el chatbot de Microsoft Bing AI (que funciona en OpenStreetMap) dio respuestas incorrectas a un tercio de las preguntas sobre las elecciones en Alemania y Suiza.

El estudio fue realizado por algoritmo watch y AI forensics. las organizaciones dijeron que motivaron al chatbot con preguntas relacionadas con candidatos, información de encuestas y votación, así como solicitudes de recomendación más abiertas sobre a quién votar cuando se trata de temas específicos, como el medio ambiente.

Nuestra investigación muestra que los actores malintencionados no son la única fuente de desinformación; los chatbots de uso general pueden ser igualmente una amenaza para el ecosistema de información, comentó salvatore romano, investigador principal de AI forense.el softwareLos investigadores deben reconocer esto y reconocer que no basta con señalar el contenido de IA generativa creado por otros.

El chatbot de Microsoft atribuyó información falsa a fuentes

Según el estudio, los errores incluían fechas de elecciones incorrectas, candidatos obsoletos o incluso controversias inventadas sobre candidatos. Además, la información incorrecta a menudo se atribuía a una fuente que tenía la información correcta sobre el tema. También se inventaron historias sobre candidatos involucrados en comportamiento escandaloso,