چگونه مایکروسافت AI چت بُت توهم می زند اطلاعات انتخابات

سال آینده برای دموکراسی سالی پر مشغله خواهد بود. انتخابات بزرگ در ایالات متحده، اتحادیه اروپا و تایوان، در میان سایر کشورها برگزار خواهد شد. درست همانطور که گسترش عصر هوش مصنوعی مولد به شدت در حال افزایش است چیزی که برخی می ترسند ممکن است به ضرر روند دموکراتیک باشد.

یکی از نگرانی های اصلی در مورد تولید کننده.این که می تواند برای انتشار مخرب اطلاعات غلط استفاده شود، یا اینکه مدل ها می توانند اظهارات نادرستی را به عنوان واقعیت ارائه دهند،به اصطلاح توهماتیک مطالعه از دو سازمان غیر دولتی اروپایی نشان داده است که چت بات مایکروسافت Bing ai (که روی OpenBiss GPT-4) اجرا می شود) به یک سوم سوالات مربوط به انتخابات در آلمان و سوئیس پاسخ نادرستی داده است.

این مطالعه توسط الگوریتم واچ و AI Forensics انجام شد. این سازمان ها گفتند که آنها با سوالات مربوط به نامزدها، اطلاعات نظرسنجی و رای گیری، و همچنین درخواست های توصیه ای باز در مورد اینکه چه کسی را برای رای دادن در مورد موضوعات خاص مانند محیط زیست، به چت بات کمک کردند.

تحقیقات ما نشان می دهد که بازیگران مخرب تنها منبع اطلاعات غلط نیستند؛ چت باتی های عمومی می توانند به همان اندازه برای اکوسیستم اطلاعات تهدیدی باشند، salvatore romano، محقق ارشد AI forensics اظهار داشت.مایکروسافتباید این موضوع را به رسمیت بشناسند و تشخیص دهند که نشانه گذاری محتوای هوش مصنوعی تولید شده توسط دیگران کافی نیست. ابزارهای آنها، حتی زمانی که منابع قابل اعتماد را درگیر می کنند، اطلاعات نادرستی را در مقیاس بزرگ تولید می کنند.

چت باتی مایکروسافت اطلاعات نادرستی را به منابع نسبت داد

بر اساس این مطالعه، اشتباهات شامل تاریخ اشتباه انتخابات، نامزدهای منسوخ شده و حتی بحث های اختراعی در مورد نامزدها بود. علاوه بر این، اطلاعات نادرست اغلب به یک منبع که اطلاعات صحیح در مورد موضوع را داشت، نسبت داده می شد. همچنین داستان هایی در مورد کاندیداها در رفتار های رسوا کننده وجود دارد، همچنین این اطلاعات را