bagaimana microsoft s AI chatbot halusinasi maklumat pilihan raya

Tahun depan akan menjadi tahun yang sibuk untuk demokrasi. Pilihan raya besar akan diadakan di Amerika Syarikat, EU, dan Taiwan, antara lain. Sama seperti peluncuran era AI yang menghasilkan semakin pantas sesuatu yang ada yang takut boleh membuktikan merosakkan proses demokrasi.

salah satu kebimbangan utama mengenai penjanaanaiadalah bahawa ia boleh digunakan untuk penyebaran maklumat palsu yang berniat jahat, atau bahawa model boleh membuat pernyataan palsu yang membentangkannya sebagai fakta,yang dipanggil halusinasi. kajian dari dua NGO Eropah mendapati bahawa chatbot Microsoft bing ai (berjalan pada OpenBlogs gpt-4) memberikan jawapan yang salah kepada satu pertiga daripada soalan mengenai pilihan raya di Jerman dan Switzerland.

Kajian itu dijalankan oleh algoritma menonton dan AI forensik. organisasi berkata mereka mendorong chatbot dengan soalan yang berkaitan dengan calon, pengundian dan maklumat pengundian, serta permintaan cadangan yang lebih terbuka mengenai siapa yang harus dipilih apabila berkaitan dengan subjek tertentu, seperti alam sekitar.

penyelidikan kami menunjukkan bahawa pelaku jahat bukan satu-satunya sumber maklumat salah; chatbot tujuan umum boleh menjadi ancaman yang sama untuk ekosistem maklumat, mengulas salvatore romano, penyelidik kanan di AI forensik.MicrosoftMereka harus mengakui ini, dan menyedari bahawa menandakan kandungan AI yang dihasilkan oleh orang lain tidak mencukupi. alat mereka, walaupun apabila melibatkan sumber yang boleh dipercayai, menghasilkan maklumat yang salah dalam skala.

chatbot microsoft's dikaitkan maklumat palsu kepada sumber

Menurut kajian, kesilapan termasuk tarikh pilihan raya yang salah, calon yang ketinggalan zaman, atau bahkan kontroversi yang dicipta mengenai calon. Selain itu, maklumat yang salah sering dikaitkan dengan sumber yang mempunyai maklumat yang betul mengenai topik itu. ia juga membuat cerita tentang calon yang terlibat dalam tingkah laku yang memalukan, juga mengaitkan maklumat kepada sumber yang bere