माइक्रोसॉफ्ट की AI चैटबॉट 'चुनाव सूचना' कैसे 'फंसाती' है

आगामी वर्ष लोकतंत्र के लिए एक व्यस्त साबित होगा। मुख्य चुनाव अमेरिका, यूरोपीय संघ और टाइवान में होंगे, इनमें से कुछ। जब generative AI का युग वास्तव में गति जमा रहा है - कुछ लोग डरते हैं कि यह लोकतंत्र की प्रक्रिया के लिए नुकसानदायक साबित हो सकता है।

जनरेटिव के बारे में प्रमुख चिंताओं में से एक एआई यह है कि इसका उपयोग गलत जानकारी के दुष्ट फैलाने के लिए किया जा सकता है, या मॉडल झूठे बयानों को तथ्य के रूप में प्रस्तुत कर सकते हैं, इसे जाना जाता है hallucinations . दो यूरोपीय एनजीओ की एक रिपोर्ट ने पाया कि माइक्रोसॉफ्ट का चैटबॉट — बिंग AI (जो OpenAI के GPT-4 पर चलता है) — जर्मनी और स्विट्जरलैंड के चुनावों के बारे में प्रश्नों के तीस हिस्से के लिए गलत जवाब दिए।

यह अध्ययन Algorithm Watch और AI Forensics द्वारा किया गया था। संगठनों ने कहा कि उन्होंने चैटबॉट को उम्मीदवारों, मतदान और मतदान सूचना से संबंधित प्रश्नों से उत्तेजित किया, तथा वातावरण जैसे विशिष्ट विषयों के साथ संबद्ध होने पर किसके लिए मत देने के बारे में अधिक खुले सुझाव भी मांगे।

“हमारा शोध दर्शाता है कि बदशगुन अभिनेताओं के अलावा मिथ्या जानकारी का स्रोत आम तौर पर chatbots भी बहुत खतरनाक हो सकते हैं,” एआई फोरेंसिक्स के प्रमुख शोधकर्ता सल्वतोरे रोमानो ने टिप्पणी की। “ Microsoft इसे इसकी मान्यता करनी चाहिए, और यह पहचानें कि दूसरों द्वारा बनाई गई जनरेटिव AI की सामग्री को फ्लैग करना पर्याप्त नहीं है। उनके उपकरण, भले ही विश्वसनीय स्रोतों को शामिल करते हों, गलत जानकारी को फैलाने में सक्षम हैं।”

माइक्रोसॉफ्ट की चैटबॉट ने गलत जानकारी स्रोतों से जोड़ी

अध्ययन के अनुसार, त्रुटियों में 'गलत चुनावी तारीखें, पुराने उम्मीदवार, या फिर उम्मीदवारों पर संबंधित काल्पनिक विवाद' शामिल थे। इसके अलावा, गलत जानकारी को अक्सर एक स्रोत के नाम पर दिया गया था, जो विषय पर सही जानकारी रखता था। इसने उम्मीदवारों को घोटाले में जড़े होने के बारे में भी 'कहानियाँ' बनाईं, जिन्हें भी विश्वसनीय स्रोतों पर आधारित कहा गया।