cum Microsoft s AI chatbot alucina informaţii electorale

Anul următor va fi unul ocupat pentru democraţie. Vor avea loc alegeri majore în SUA, UE şi Taiwan, printre altele. Chiar în momentul în care dezvoltarea erei AI generative îşi face rapidă apariţia ceva de care unii se tem că s-ar putea dovedi dăunător procesului democratic.

Una dintre principalele preocupări legate de generativă ai este că ar putea fi folosită pentru răspândirea malignă a disinformației, sau că modelele pot fabrica afirmații false prezentându-le ca fapte, aşa-numitele halucinaţii . Un studiu realizat de două ONG-uri europene a constatat că chatbot-ul Microsoft – Bing AI (funcționând pe baza GPT-4 al OpenAI) – a dat răspunsuri greșite la o treime din întrebări legate de alegeri în Germania și Elveția.

Studiul a fost efectuat de Algorithm Watch și AI Forensics. Organizațiile au spus că au pus chatbot-ului întrebări legate de candidați, sondaje și informații despre votare, precum și cereri mai largi de recomandări despre cine să voteze atunci când se preocupă de anumite subiecte, cum ar fi mediul.

Cercetările noastre arată că actorii răutăcioşi nu sunt singura sursă de dezinformare; chatbot-urile de scop general pot fi la fel de ameninţătoare pentru ecosistemul informaţional", a comentat salvatore romano, cercetător senior la AI forensics. Microsoft ar trebui să recunoască acest lucru și să înțeleagă că semnalarea conținutului generat de IA de către alții nu este suficient. Instrumentele lor, chiar și când implica surse de încredere, produc informații incorecte la scară largă.”

Microsoft s chatbot atribuit informații false la surse

În conformitate cu studiul erorile incluse date alegerilor greșite, candidați depășiți, sau chiar controverse inventate cu privire la candidați. mai mult, informațiile incorecte au fost adesea atribuite unei surse care avea informații corecte pe tema.