bagaimana microsoft s AI chatbot halusinasi maklumat pilihan raya

Tahun depan akan menjadi tahun yang sibuk untuk demokrasi. Pilihan raya besar akan diadakan di Amerika Syarikat, EU, dan Taiwan, antara lain. Sama seperti peluncuran era AI yang menghasilkan semakin pantas sesuatu yang ada yang takut boleh membuktikan merosakkan proses demokrasi.

Salah satu kebimbangan utama tentang generatifAIadalah ia boleh digunakan untuk menyebar disinformasi dengan niat jahat, atau bahawa model-model boleh membuat pernyataan palsu dan mempersembahkannya sebagai fakta,yang dipanggil halusinasi. Satu kajian oleh dua NGO Eropah mendapati bahawa bot bual Microsoft — Bing AI (beroperasi pada GPT-4 OpenAI) — memberikan jawapan yang salah kepada sepertiga daripada soalan berkaitan pilihan raya di Jerman dan Switzerland.

Kajian itu dilaksanakan oleh Algorithm Watch dan AI Forensics. Organisasi-organisasi tersebut menyatakan bahawa mereka telah memujuk bot bual dengan soalan berkaitan calon, maklumat undi dan pengundian, serta permintaan cadangan yang lebih terbuka tentang siapa untukundi apabila tertarik kepada subjek-subjek tertentu seperti alam sekitar.

penyelidikan kami menunjukkan bahawa pelaku jahat bukan satu-satunya sumber maklumat salah; chatbot tujuan umum boleh menjadi ancaman yang sama untuk ekosistem maklumat, mengulas salvatore romano, penyelidik kanan di AI forensik.Microsoftharus mengakui ini, dan mengenali bahawa menandakan kandungan AI generatif yang dibuat oleh orang lain tidaklah mencukupi. Alatan mereka, walaupun merujuk kepada sumber yang boleh dipercayai, menghasilkan maklumat yang salah secara besar-besaran.”

chatbot microsoft's dikaitkan maklumat palsu kepada sumber

Menurut kajian, kesilapan termasuk tarikh pilihan raya yang salah, calon yang ketinggalan zaman, atau bahkan kontroversi yang dicipta mengenai calon. Selain itu, maklumat yang salah sering dikaitkan dengan sumber yang mempunyai maklumat yang betul mengenai topik itu. ia juga membuat cerita tentang calon yang terlibat dalam tingkah laku yang memalukan, juga mengaitkan maklumat kepada sumber yang bere