איך מיקרוסופט's AI chatbot הלוסינות מידע בחירות

השנה הקרובה תהיה עמוסה לדמוקרטיה. בחירות גדולות יתקיימו בארה"ב, באיחוד האירופי וטאיוואן, בין היתר. בדיוק בזמן שההפצה של עידן AI הגנרטטיבי צומחת במהירות רצינית משהו שחלקם חוששים שיכול להוכיח מזיק לתהליך הדמ

אחד הדאגים העיקריים על גנרטטיביא.י.האם זה יכול לשמש להפיצה זדוני של מידע מוטעה, או שמודלים יכולים להמציא הצהרות כוזבות להציג אותם כעובדה,מה שנקרא הזיות.מחקר שנערך על ידי שתי ארגונים לא ממשלתיים אירופיים מצא כי צ'אט-בוט של מיקרוסופט, Bing AI (שפועל על OpenBits GPT-4) ענה לא נכון לשליש מהשאלות על בחירות בגרמניה ובשווייץ.

המחקר נערך על ידי אלגוריתם ווטש ו-AI פורנזיקס. הארגונים אמרו שהם הזמינו את הצ'אט-בוט עם שאלות הקשורות למועמדים, מידע על סקרים והצבעה, כמו גם בקשות המלצות פתוחות יותר על מי להצביע כאשר מדובר בנושאים ספציפיים, כגון הסביבה

"מחקרנו מראה כי שחקנים זדוניים אינם המקור היחיד למידע מוטעה; צ'אט-בוטים למטרות כלליות יכולים להיות מאיימים באותה מידה על מערכת המידע", אמר סלבטור רומנו, חוקר בכיר ב-AI forensics.מיקרוסופטצריך להכיר בכך, ולהכיר בכך שלא מספיק לסמן את התוכן המופעל של בינה מלאכותית של אחרים.

צ'אט-בוט של מיקרוסופט ייחס מידע כוזב למקורות

לפי המחקר, טעויות כללו תאריכי בחירות שגויים, מועמדים מיושנים, או אפילו מחקרים הממציאים על מועמדים. יתר על כן, המידע הלא נכון היה לעתים קרובות מיוחס למקור שהיה לו את המידע הנכון בנושא.