cách mà microsoft s AI chatbot hạ giác thông tin bầu cử

Năm tới sẽ là một năm bận rộn cho dân chủ. Các cuộc bầu cử lớn sẽ diễn ra ở Mỹ, EU và Đài Loan, trong số những nước khác. Cũng như việc triển khai thời đại AI tạo ra đang tăng tốc độ nghiêm túc một cái gì đó một số lo ngại có thể chứng minh là có hại cho quá trình dân chủ.

một trong những mối quan tâm chính về phát sinhailà nó có thể được sử dụng để lan truyền thông tin sai lệch có hại, hoặc các mô hình có thể tạo ra các tuyên bố sai để trình bày chúng như một sự thật,cái gọi là ảo giácMột nghiên cứu của hai tổ chức phi chính phủ châu Âu cho thấy rằng chatbot của Microsoft bing ai (được chạy trên OpenBlogs gpt-4) đã trả lời sai một phần ba các câu hỏi về bầu cử ở Đức và Thụy Sĩ.

Nghiên cứu được thực hiện bởi Algorithm Watch và AI Forensics. Các tổ chức cho biết họ đã thúc đẩy chatbot với các câu hỏi liên quan đến các ứng cử viên, thông tin thăm dò và bỏ phiếu, cũng như các yêu cầu khuyến nghị cởi mở hơn về người nên bỏ phiếu khi liên quan đến các chủ đề cụ thể, chẳng hạn như môi

Nghiên cứu của chúng tôi cho thấy các nhân vật độc hại không phải là nguồn duy nhất của thông tin sai lệch; các chatbot có mục đích chung cũng có thể là mối đe dọa cho hệ sinh thái thông tin, bình luận salvatore romano, nhà nghiên cứu cao cấp tại AI forensics.microsoftnên thừa nhận điều này, và nhận ra rằng việc đánh dấu nội dung AI tạo ra bởi những người khác là không đủ. các công cụ của họ, ngay cả khi liên quan đến các nguồn đáng tin cậy, sản xuất thông tin không chính xác trên quy mô lớn.

microsofts chatbot đã gán thông tin sai với các nguồn

theo các lỗi nghiên cứu bao gồm: ngày bầu cử sai, ứng cử viên lỗi thời, hoặc thậm chí là những tranh cãi được bịa ra liên quan đến các ứng cử viên. Hơn nữa, thông tin không chính xác thường được quy cho một nguồn có thông tin chính xác về chủ đề. nó cũng tạo ra câu chuyện về các ứng cử viên