Comment le chatbot IA de Microsoft « hallucine » les informations électorales

L’année à venir sera chargée pour la démocratie. Des élections majeures auront lieu aux États-Unis, dans l’UE et à Taïwan, entre autres. Au moment même où le déploiement de l’ère de l’IA générative s’accélère sérieusement – ce que certains craignent de voir nuire au processus démocratique.

L’une des principales préoccupations concernant lesIA is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, ce qu’on appelle des hallucinations. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

L’étude a été menée par Algorithm Watch et AI Forensics. Les organisations ont déclaré qu’elles avaient incité le chatbot à poser des questions relatives aux candidats, aux sondages et aux informations de vote, ainsi qu’à des demandes de recommandation plus ouvertes sur pour qui voter lorsqu’il s’agissait de sujets spécifiques, tels que l’environnement. 

« Nos recherches montrent que les acteurs malveillants ne sont pas la seule source de désinformation ; les chatbots à usage général peuvent être tout aussi menaçants pour l’écosystème de l’information », a commenté Salvatore Romano, chercheur principal chez AI Forensics. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Le chatbot de Microsoft a attribué de fausses informations à des sources

Selon l’étude, les erreurs comprenaient « des dates d’élection erronées, des candidats obsolètes ou même des controverses inventées concernant les candidats ». De plus, les informations incorrectes étaient souvent attribuées à une source qui disposait des informations correctes sur le sujet. Il a également inventé des « histoires sur des candidats impliqués dans un comportement scandaleux », attribuant également l’information à des sources fiables.