कैसे माइक्रोसॉफ्ट s एआई चैटबॉट चुनाव सूचनाओं को हिल्यूसिनेट करता है

आने वाला वर्ष लोकतंत्र के लिए व्यस्त वर्ष होगा। अमेरिका, यूरोपीय संघ और ताइवान में अन्य देशों के बीच बड़े चुनाव होंगे। जैसे ही जनरेटिव एआई युग का विस्तार गंभीरता से गति पकड़ रहा है कुछ डर है कि यह लोकतांत्रिक प्रक्रिया के लिए हानिकारक साबित हो सकता है।

जनरेटिव के बारे में मुख्य चिंताओं में से एकआकि इसका उपयोग दुर्भावनापूर्ण तरीके से गलत सूचना फैलाने के लिए किया जा सकता है, या कि मॉडल झूठे बयान बना सकते हैं, उन्हें तथ्य के रूप में प्रस्तुत करते हैं,तथाकथित भ्रमदो यूरोपीय गैर सरकारी संगठनों के एक अध्ययन में पाया गया है कि माइक्रोसॉफ्ट के चैटबॉट बिंग एआई (ओपनएनी जीपीटी-4 पर चल रहा है) ने जर्मनी और स्विट्जरलैंड में चुनावों के बारे में एक तिहाई सवालों के गलत जवाब दिए।

यह अध्ययन एल्गोरिथ्म वॉच और एआई फोरेंसिक्स द्वारा किया गया था। संगठनों ने कहा कि उन्होंने उम्मीदवारों, मतदान और मतदान की जानकारी से संबंधित प्रश्नों के साथ-साथ पर्यावरण जैसे विशिष्ट विषयों से संबंधित होने पर किसके लिए मतदान करने के लिए अधिक खुली सिफारिश अनुरोधों के साथ चैटबॉट को प्रेरित किया।

हमारे शोध से पता चलता है कि दुर्भावनापूर्ण अभिनेता गलत सूचना का एकमात्र स्रोत नहीं हैं; सामान्य प्रयोजन वाले चैटबॉट सूचना पारिस्थितिकी तंत्र के लिए भी उतना ही खतरा हो सकते हैं एआई फोरेंसिक्स के वरिष्ठ शोधकर्ता सैल्वटोरे रोमानो ने टिप्पणी की।माइक्रोसॉफ्टयह स्वीकार करना चाहिए, और यह स्वीकार करना चाहिए कि दूसरों द्वारा बनाई गई जनरेटिव एआई सामग्री को चिह्नित करना पर्याप्त नहीं है। उनके उपकरण, यहां तक कि जब विश्वसनीय स्रोतों को शामिल करते हैं, तो पैमाने पर गलत जानकारी उत्पन्न करते हैं।

माइक्रोसॉफ्ट के चैटबॉट ने स्रोतों को झूठी जानकारी दी

अध्ययन के अनुसार त्रुटियों में शामिल थे चुनाव की गलत तारीखें, पुराने उम्मीदवार, या यहां तक कि उम्मीदवारों के बारे में आविष्कारित विवाद। इसके अलावा, गलत जानकारी अक्सर एक स्रोत को जिम्मेदार ठहराई जाती थी जिसमें विषय पर सही जानकारी थी। यह भी चुनाव में शामिल उम्मीदवारों के बारे में कहानियां बनाती थी।