bagaimana microsoft s AI chatbot halusinasi informasi pemilihan

Tahun depan akan menjadi tahun yang sibuk untuk demokrasi. Pemilihan besar akan berlangsung di AS, Uni Eropa, dan Taiwan, antara lain. Saat peluncuran era AI generatif semakin cepat sesuatu yang beberapa takut bisa terbukti merugikan proses demokrasi.

Salah satu kekhawatiran utama tentang generativeAIadalah bahwa teknologi ini bisa digunakan untuk menyebarkan disinformasi secara jahat, atau bahwa model-model dapat membuat pernyataan palsu dan mempresentasikannya sebagai fakta,Halusinasi yang disebut. Sebuah studi dari dua organisasi nirlaba Eropa menemukan bahwa chatbot Microsoft — Bing AI (berjalan pada OpenAI’s GPT-4) — memberikan jawaban yang salah untuk sepertiga dari pertanyaan tentang pemilu di Jerman dan Swiss.

Studi tersebut dilakukan oleh Algorithm Watch dan AI Forensics. Organisasi-organisasi tersebut mengatakan bahwa mereka meminta chatbot dengan pertanyaan terkait calon, pemungutan suara, informasi pemilihan, serta permintaan rekomendasi yang lebih luas tentang siapa yang harus dipilih ketika khawatir dengan topik tertentu, seperti lingkungan.

Penelitian kami menunjukkan bahwa pelaku jahat bukan satu-satunya sumber informasi yang salah; chatbot tujuan umum dapat sama mengancamnya terhadap ekosistem informasi, komentar salvatore romano, peneliti senior di AI forensik.Microsoftseharusnya mengakui hal ini, dan menyadari bahwa hanya menandai konten AI generatif yang dibuat oleh orang lain tidaklah cukup. Alat-alat mereka, bahkan ketika mengacu pada sumber yang tepercaya, menghasilkan informasi yang salah dalam skala besar.”

chatbot microsoft s dikaitkan informasi palsu untuk sumber

Menurut penelitian, kesalahan termasuk tanggal pemilihan yang salah, kandidat yang ketinggalan zaman, atau bahkan kontroversi yang dibuat-buat mengenai kandidat. Selain itu, informasi yang salah sering dikaitkan dengan sumber yang memiliki informasi yang benar tentang topik tersebut.