Microsoft'un AI chatbotunun seçim bilgilerini nasıl halüsinasyonlar yarattığı

Önümüzdeki yıl demokrasi için yoğun bir yıl olacak. Diğer ülkeler arasında ABD, AB ve Tayvan'da büyük seçimler olacak. Tıpkı üretken yapay zeka çağının hızla hızlanmasıyla birlikte bazılarının korkusunun demokratik sürece zarar verebileceği bir şey.

Bu, üretici ile ilgili en önemli endişelerden biri.AiYanlış bilgiyi kötü niyetli bir şekilde yaymak için kullanılabileceği veya modellerin onları gerçek olarak sunarak yanlış ifadeler uydurabileceği,Halüsinasyonlar denilen. iki Avrupa NGO'sunun yaptığı bir çalışmada, Microsoft'un bing ai (openPENNAY's gpt-4) üzerinde çalışan chatbot'unun Almanya ve İsviçre'deki seçimlerle ilgili soruların üçte birine yanlış cevap verdiği ortaya çıktı.

Araştırma Algoritm Watch ve AI Forensics tarafından gerçekleştirildi. Kuruluşlar, chatbot'u adaylarla ilgili sorular, anket ve oylama bilgileri ile birlikte, çevre gibi belirli konularla ilgili olduğunda kimin oy vereceği konusunda daha açık tavsiye istekleri ile teşvik ettiklerini söyledi.

Araştırmamız, kötü niyetli aktörlerin yanlış bilginin tek kaynağı olmadığını gösteriyor; genel amaçlı sohbet botları bilgi ekosistemine aynı derecede tehdit oluşturabilir", diyor ai forensik'te kıdemli araştırmacı olan salvatore romano.MicrosoftBu, başkaları tarafından oluşturulan üretken yapay zeka içeriğini işaretlemekle yetinmediğini kabul etmelidir.

Microsoft'un chatbot'u kaynaklara yanlış bilgi verdi.

Araştırma hatalarına göre, yanlış seçim tarihleri, modası geçmiş adaylar, hatta adaylarla ilgili uydurma tartışmalar dahil. Dahası, yanlış bilgiler genellikle konuyla ilgili doğru bilgilere sahip bir kaynağa atfedildi. Ayrıca adayların skandal niteliğindeki davranışlarda yer aldığı hikayeleri uydurdu, ayrıca bilgil