איך מיקרוסופט's AI chatbot הלוסינות מידע בחירות

השנה הקרובה תהיה עמוסה לדמוקרטיה. בחירות גדולות יתקיימו בארה"ב, באיחוד האירופי וטאיוואן, בין היתר. בדיוק בזמן שההפצה של עידן AI הגנרטטיבי צומחת במהירות רצינית משהו שחלקם חוששים שיכול להוכיח מזיק לתהליך הדמ

אחת מההערכות העיקיות ביותר לגבי ייצור תוכןבינה מלאכותיתהיא שזו יכולה לשמש להפצת דезינפורמציה מכוונת, או שהמודלים יכולים לפרסם הצהרות שקריות ולהציג אותן כעובדות,מה שנקרא הזיות.. מחקר של שתי ארגונים לא-ממשלתיים באירופה מצא שרובוט השיחה של מיקרוסופט - AI של בינג (שעובד על GPT-4 של OpenAI) - נתן תשובות שגויות שליש מהשאלות על הבחירות בגרמניה ובסויזרלנד.

המחקר נערך על ידי Algorithm Watch ו-AI Forensics. הארגונים אמרו שהם שאלו את הרובוט בשאלות הקשורים למועמדים, סקרים ומידע על ההצבעה, וכן בבקשות יותר פתוחות של המלצות על מי להצביע לו בהתייחס לנושא מסוים, כמו הסביבה.

"מחקרנו מראה כי שחקנים זדוניים אינם המקור היחיד למידע מוטעה; צ'אט-בוטים למטרות כלליות יכולים להיות מאיימים באותה מידה על מערכת המידע", אמר סלבטור רומנו, חוקר בכיר ב-AI forensics.מיקרוסופטtrebuie להכיר בכך, והכיר בכך שסימון התוכן שיוצר על ידי אחרים אינו מספיק. כלים שלהם, אפילו כאשר הם כוללים מקורות אמינים, יוצרים מידע שגוי ברמה מסיבית."

צ'אט-בוט של מיקרוסופט ייחס מידע כוזב למקורות

לפי המחקר, טעויות כללו תאריכי בחירות שגויים, מועמדים מיושנים, או אפילו מחקרים הממציאים על מועמדים. יתר על כן, המידע הלא נכון היה לעתים קרובות מיוחס למקור שהיה לו את המידע הנכון בנושא.