कैसे Microsoft का AI चैटबॉट चुनाव की जानकारी को 'मतिभ्रम' करता है

आने वाला वर्ष लोकतंत्र के लिए व्यस्त रहेगा। अमेरिका, यूरोपीय संघ और ताइवान में प्रमुख चुनाव होंगे। जिस तरह जनरेटिव एआई युग का रोलआउट बयाना में गति पकड़ रहा है - कुछ डर लोकतांत्रिक प्रक्रिया के लिए हानिकारक साबित हो सकता है।

जनरेटिव के बारे में मुख्य चिंताओं में से एक एअर इंडिया is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, तथाकथित मतिभ्रम. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

अध्ययन एल्गोरिथम वॉच और एआई फोरेंसिक द्वारा आयोजित किया गया था। संगठनों ने कहा कि उन्होंने चैटबॉट को उम्मीदवारों, मतदान और मतदान की जानकारी से संबंधित प्रश्नों के साथ-साथ पर्यावरण जैसे विशिष्ट विषयों से संबंधित होने पर किसे वोट देना है, इस पर अधिक खुली सिफारिश अनुरोधों के साथ प्रेरित किया। 

"हमारे शोध से पता चलता है कि दुर्भावनापूर्ण अभिनेता गलत सूचना का एकमात्र स्रोत नहीं हैं; सामान्य प्रयोजन के चैटबॉट सूचना पारिस्थितिकी तंत्र के लिए उतना ही खतरनाक हो सकते हैं, "एआई फोरेंसिक के वरिष्ठ शोधकर्ता सल्वाटोर रोमानो ने टिप्पणी की। “माइक्रोसॉफ्ट should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

माइक्रोसॉफ्ट के चैटबॉट ने सूत्रों को गलत जानकारी दी

अध्ययन के अनुसार त्रुटियों में "गलत चुनाव तिथियां, पुराने उम्मीदवार, या यहां तक कि उम्मीदवारों से संबंधित विवादों का आविष्कार भी शामिल था। इसके अलावा, गलत जानकारी को अक्सर एक स्रोत के लिए जिम्मेदार ठहराया जाता था जिसके पास विषय पर सही जानकारी होती थी। इसने "उम्मीदवारों के निंदनीय व्यवहार में शामिल होने के बारे में कहानियां" भी बनाईं, जो जानकारी को प्रतिष्ठित स्रोतों के लिए जिम्मेदार ठहराती हैं।