नई रिपोर्ट में डीप फेक और गलत सूचना के खतरों पर प्रकाश डाला गया

20 जून 2024। संयुक्त राष्ट्र शिक्षा एवं संस्कृति संगठन (यूनेस्को) ने आगाह किया है कि कृत्रिम बुद्धिमत्ता (एआई) तकनीक का इस्तेमाल होलोकॉस्ट जैसे द्वितीय विश्व युद्ध के अत्याचारों के बारे में गलत सूचना फैलाने के लिए किया जा सकता है, जिसमें होलोकॉस्ट इनकार भी शामिल है।

विश्व यहूदी कांग्रेस के साथ साझेदारी में प्रकाशित एक रिपोर्ट में पाया गया है कि डीप फेक और गलत सूचना जैसी भ्रामक सामग्री का निर्माण ऐतिहासिक साक्ष्यों की सत्यता को कमजोर कर सकता है और यहूदी-विरोधी विचारधारा को बढ़ावा दे सकता है।

रिपोर्ट में इस बात पर प्रकाश डाला गया है कि शिक्षा, अनुसंधान और लेखन में एआई के बढ़ते उपयोग से गलत डेटा फैलने का खतरा बढ़ सकता है।

यूनेस्को की महानिदेशक ऑड्रे अज़ोले ने कहा, "यदि हम एआई के गैर-जिम्मेदाराना उपयोग के माध्यम से होलोकॉस्ट के भयानक तथ्यों को कमजोर, विकृत या गलत साबित होने देते हैं, तो हम यहूदी-विरोधी भावना के विस्फोटक प्रसार का जोखिम उठाते हैं...।"

युवाओं पर विशेष खतरा

रिपोर्ट में चेतावनी दी गई है कि सोशल मीडिया प्लेटफॉर्म पर डीप-फेक छवियों और ऑडियो सामग्री का सामना करने वाले युवा विशेष रूप से कमजोर हैं। संयुक्त राष्ट्र के शोध के अनुसार, 10 से 24 वर्ष की आयु के बीच के चार में से पांच युवा अब शिक्षा, मनोरंजन और अन्य उद्देश्यों के लिए दिन में कई बार एआई का उपयोग करते हैं।

रिपोर्ट में ऐतिहासिक आंकड़े ऐप का एक उदाहरण दिया गया है, जिसने कथित तौर पर उपयोगकर्ताओं को एडॉल्फ हिटलर और जोसेफ गोएबल्स जैसे प्रमुख नाज़ियों के साथ चैट करने की अनुमति दी, और गलत तरीके से दावा किया कि गोएबल्स जैसे व्यक्ति जानबूझकर होलोकॉस्ट में शामिल नहीं थे।

एआई के नैतिक उपयोग की मांग

यूनेस्को ने सरकारों से एआई नैतिकता पर सिफारिशों के कार्यान्वयन में तेजी लाने का आह्वान किया, जिन्हें 2021 में इसके सदस्य राज्यों द्वारा सर्वसम्मति से अपनाया गया था।

संयुक्त राष्ट्र एजेंसी ने तकनीकी कंपनियों से एआई के विकास और उपयोग के लिए नैतिक दिशानिर्देश स्थापित करने का भी आग्रह किया ताकि गलत सूचना के प्रसार को रोका जा सके।