Bagaimana chatbot AI Microsoft 'berhalusinasi' informasi pemilu

Tahun mendatang akan menjadi tahun yang sibuk bagi demokrasi. Pemilu besar akan berlangsung di AS, Uni Eropa, dan Taiwan, antara lain. Sama seperti peluncuran era AI generatif yang semakin cepat — sesuatu yang ditakuti beberapa orang dapat terbukti merugikan proses demokrasi.

Salah satu kekhawatiran utama tentang generatif AI is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, yang disebut halusinasi. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

Studi ini dilakukan oleh Algorithm Watch dan AI Forensics. Organisasi tersebut mengatakan mereka mendorong chatbot dengan pertanyaan yang berkaitan dengan kandidat, informasi jajak pendapat dan pemungutan suara, serta permintaan rekomendasi yang lebih terbuka tentang siapa yang harus dipilih ketika berkaitan dengan subjek tertentu, seperti lingkungan. 

"Penelitian kami menunjukkan bahwa aktor jahat bukan satu-satunya sumber informasi yang salah; chatbot tujuan umum bisa sama mengancamnya bagi ekosistem informasi," komentar Salvatore Romano, Peneliti Senior di AI Forensics. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Chatbot Microsoft mengaitkan informasi palsu dengan sumber

Menurut penelitian tersebut, kesalahan termasuk "tanggal pemilihan yang salah, kandidat yang ketinggalan zaman, atau bahkan kontroversi yang diciptakan mengenai kandidat." Selain itu, informasi yang salah sering dikaitkan dengan sumber yang memiliki informasi yang benar tentang topik tersebut. Itu juga mengarang "cerita tentang kandidat yang terlibat dalam perilaku skandal," juga mengaitkan informasi tersebut dengan sumber terkemuka.