bagaimana microsoft s AI chatbot halusinasi informasi pemilihan

Tahun depan akan menjadi tahun yang sibuk untuk demokrasi. Pemilihan besar akan berlangsung di AS, Uni Eropa, dan Taiwan, antara lain. Saat peluncuran era AI generatif semakin cepat sesuatu yang beberapa takut bisa terbukti merugikan proses demokrasi.

salah satu perhatian utama tentang generatifa.adalah bahwa itu bisa digunakan untuk penyebaran disinformasi yang jahat, atau bahwa model dapat membuat pernyataan palsu yang menyajikannya sebagai fakta,Halusinasi yang disebutSebuah studi dari dua LSM Eropa menemukan bahwa chatbot Microsoft Bing ai (berjalan di OpenSUSE GPT-4) memberikan jawaban yang salah pada sepertiga pertanyaan tentang pemilihan di Jerman dan Swiss.

Penelitian ini dilakukan oleh algoritma Watch dan AI forensik. Organisasi mengatakan mereka mendorong chatbot dengan pertanyaan terkait kandidat, jajak pendapat dan informasi pemungutan suara, serta permintaan rekomendasi yang lebih terbuka tentang siapa yang harus dipilih ketika berkaitan dengan subjek tertentu, seperti lingkungan.

Penelitian kami menunjukkan bahwa pelaku jahat bukan satu-satunya sumber informasi yang salah; chatbot tujuan umum dapat sama mengancamnya terhadap ekosistem informasi, komentar salvatore romano, peneliti senior di AI forensik.Microsoftharus mengakui hal ini, dan mengakui bahwa menandai konten AI generatif yang dibuat oleh orang lain tidak cukup. alat mereka, bahkan ketika melibatkan sumber yang dapat dipercaya, menghasilkan informasi yang salah dalam skala.

chatbot microsoft s dikaitkan informasi palsu untuk sumber

Menurut penelitian, kesalahan termasuk tanggal pemilihan yang salah, kandidat yang ketinggalan zaman, atau bahkan kontroversi yang dibuat-buat mengenai kandidat. Selain itu, informasi yang salah sering dikaitkan dengan sumber yang memiliki informasi yang benar tentang topik tersebut.