כיצד צ'טבוט הבינה המלאכותית של מיקרוסופט 'הוזה' מידע בחירות

השנה הבאה תהיה עמוסה לדמוקרטיה. בחירות גדולות יתקיימו בארצות הברית, באיחוד האירופי ובטאיוואן, בין היתר. בדיוק כמו שההובלה של תקופת ה- AI היוצרת מתחילה להאיץ באמת — משהו שאנשים מסוימים חוששים שזה עשוי להיות מזיק לתהליך הדמוקרטי.

אחת מההערכות העיקיות ביותר לגבי ייצור תוכן בינה מלאכותית היא שזו יכולה לשמש להפצת דезינפורמציה מכוונת, או שהמודלים יכולים לפרסם הצהרות שקריות ולהציג אותן כעובדות, היכן שנקראות חלוציות . מחקר של שתי ארגונים לא-ממשלתיים באירופה מצא שרובוט השיחה של מיקרוסופט - AI של בינג (שעובד על GPT-4 של OpenAI) - נתן תשובות שגויות שליש מהשאלות על הבחירות בגרמניה ובסויזרלנד.

המחקר נערך על ידי Algorithm Watch ו-AI Forensics. הארגונים אמרו שהם שאלו את הרובוט בשאלות הקשורים למועמדים, סקרים ומידע על ההצבעה, וכן בבקשות יותר פתוחות של המלצות על מי להצביע לו בהתייחס לנושא מסוים, כמו הסביבה.

“המחקר שלנו מראה שחקים מרושעים אינם המקור היחיד של דעות שגויות; בוטי שיחה כלליים יכולים להיות גם הם איום על מערכת המידע,” העריך סלואטורו רומנו, חוקר בכיר במכון ל- AI Forensics. “ Microsoft trebuie להכיר בכך, והכיר בכך שסימון התוכן שיוצר על ידי אחרים אינו מספיק. כלים שלהם, אפילו כאשר הם כוללים מקורות אמינים, יוצרים מידע שגוי ברמה מסיבית."

הבוט של מיקרוסופט ציטט מידע שגוי מקורות

לפי המחקר, השגיאות כללו 'תאריכי בחירות שגויים, מועמדים מיושנים, או אפילו פולמוסים דמיוניים על המועמדים.'ßerdem, המידע השגוי הוזכר לעתים קרובות כמגיע ממקור שסיפק את המידע הנכון בנושא. הוא גם יצר 'סיפורים על מועמדים שמעורבים בהתנהגות סקנדלית,' והעניק את המידע למקורות אמינים.