Hoe Microsoft se AI-chatbot hallucinasies verkiesingsinligting

Die aankomende jaar sal 'n druk een wees vir demokrasie. Hoofverkiesings sal plaasvind in die VSA, die EU en Taiwan, onder andere. Net soos die invoering van die generatiewe AI-tydperk vinnig versnel — iets wat sommige vrees dat dit skadelik kan wees vir die demokratische proses.

Een van die hoofbekommernisse oor generatief KI is dat dit gebruik kan word vir die kwaadaardige verspreiding van disinformatie, of dat modelle valse stellings kan maak en hul as feite voorhou, so-genome halusinasies . 'n Studie deur twee Europese NGO's het gevind dat Microsoft se praatrobot — Bing AI (wat op OpenAI se GPT-4 draai) — verkeerde antwoorde gegee het op een derde van die vrae oor verkiesings in Duitsland en Switserland.

Die studie is deur Algorithm Watch en AI Forensics uitgevoer. Die organisasies het gesê hulle het die praatrobot met vrae oor kandidate, stem-en kiesinligting, sowel as meer oop aanbevelingsvrae oor wie om vir te stem wanneer mense besorgd is oor spesifieke onderwerpe soos die omgewing, aangespoor.

“Ons navorsing wys dat bose aktore nie die enigste bron van onwaarheidsinligting is nie; algemene doelwitbabbelaars kan net so bedreigend wees vir die inligtingsekosisteem,” het Salvatore Romano, Senior Navorsers by AI Forensics, kommentaar lewer. “ Microsoft moet hierdie feit erken, en erken dat die kenmerking van generatiewe AI-inhoud deur ander nie genoeg is nie. Hul werktuie, selfs wanneer hul betroubare bronne insluit, produseer onjuiste inligting op groot skaal.”

Microsoft se babbelaar het vals inligting aan bronne toegeskryf

Volgens die studie het foute ingesluit ‘verkeerde kiesdatums, ougedateerde kandidate, of selfs uiteengesete kontroversies oor kandidate.’ Verder is die onjuiste inligting dikwels toegeskryf aan 'n bron wat die regte inligting oor die onderwerp gehad het. Dit het ook ‘verhale oor kandidate wat betrokke was by skandaalagtige gedrag’ gemaak, en die inligting word ook toegeskryf aan gesaghebbende bronne.