कैसे माइक्रोसॉफ्ट s एआई चैटबॉट चुनाव सूचनाओं को हिल्यूसिनेट करता है

आने वाला वर्ष लोकतंत्र के लिए व्यस्त वर्ष होगा। अमेरिका, यूरोपीय संघ और ताइवान में अन्य देशों के बीच बड़े चुनाव होंगे। जैसे ही जनरेटिव एआई युग का विस्तार गंभीरता से गति पकड़ रहा है कुछ डर है कि यह लोकतांत्रिक प्रक्रिया के लिए हानिकारक साबित हो सकता है।

जनरेटिव के बारे में प्रमुख चिंताओं में से एकएआईयह है कि इसका उपयोग गलत जानकारी के दुष्ट फैलाने के लिए किया जा सकता है, या मॉडल झूठे बयानों को तथ्य के रूप में प्रस्तुत कर सकते हैं,तथाकथित भ्रम. दो यूरोपीय एनजीओ की एक रिपोर्ट ने पाया कि माइक्रोसॉफ्ट का चैटबॉट — बिंग AI (जो OpenAI के GPT-4 पर चलता है) — जर्मनी और स्विट्जरलैंड के चुनावों के बारे में प्रश्नों के तीस हिस्से के लिए गलत जवाब दिए।

यह अध्ययन Algorithm Watch और AI Forensics द्वारा किया गया था। संगठनों ने कहा कि उन्होंने चैटबॉट को उम्मीदवारों, मतदान और मतदान सूचना से संबंधित प्रश्नों से उत्तेजित किया, तथा वातावरण जैसे विशिष्ट विषयों के साथ संबद्ध होने पर किसके लिए मत देने के बारे में अधिक खुले सुझाव भी मांगे।

हमारे शोध से पता चलता है कि दुर्भावनापूर्ण अभिनेता गलत सूचना का एकमात्र स्रोत नहीं हैं; सामान्य प्रयोजन वाले चैटबॉट सूचना पारिस्थितिकी तंत्र के लिए भी उतना ही खतरा हो सकते हैं एआई फोरेंसिक्स के वरिष्ठ शोधकर्ता सैल्वटोरे रोमानो ने टिप्पणी की।माइक्रोसॉफ्टइसे इसकी मान्यता करनी चाहिए, और यह पहचानें कि दूसरों द्वारा बनाई गई जनरेटिव AI की सामग्री को फ्लैग करना पर्याप्त नहीं है। उनके उपकरण, भले ही विश्वसनीय स्रोतों को शामिल करते हों, गलत जानकारी को फैलाने में सक्षम हैं।”

माइक्रोसॉफ्ट के चैटबॉट ने स्रोतों को झूठी जानकारी दी

अध्ययन के अनुसार त्रुटियों में शामिल थे चुनाव की गलत तारीखें, पुराने उम्मीदवार, या यहां तक कि उम्मीदवारों के बारे में आविष्कारित विवाद। इसके अलावा, गलत जानकारी अक्सर एक स्रोत को जिम्मेदार ठहराई जाती थी जिसमें विषय पर सही जानकारी थी। यह भी चुनाव में शामिल उम्मीदवारों के बारे में कहानियां बनाती थी।