आर्टिफिशियल इंटेलिजेंस के साथ गलत सूचना जेनरेट करने की आसानी को देखते हुए इसके बड़ खतरे हैं। / AI Image

डीपफेक जनरेटिव एआई से जुड़ी तकनीक है, जिसका सबसे ज्यादा गलत इस्तेमाल किया जा रहा है। इस समय कई तरह के टूल्स वीडियो, इमेज और आवाज बदलकर व्यक्ति की गरिमा और निजता को चोट पहुंचा रहे हैं। अमेरिकी उपराष्ट्रपति कमला हैरिस का एक डीप फेक वीडियो सोशल मीडिया प्लेटफॉर्म पर वायरल है। डीपफेक, हैरिस के हॉवर्ड यूनिवर्सिटी में दिए गए भाषण के साथ टिकटॉक पर प्रसारित हो रहे ऑडियो का एक मिश्रण है, जिसका उपयोग हैरिस का मजाक उड़ाने के लिए किया गया है। फुल फैक्ट ( Full Fact ) ने ध्यान दिलाया कि इस वीडियो को बनाने के लिए आर्टिफिशियल इंटेलिजेंस (एआई) का इस्तेमाल किया गया है।

एथनिक मीडिया सर्विसेज की ब्रीफिंग में पैनलिस्टों ने कहा कि 2024 के राष्ट्रपति चुनाव से पहले फेसबुक और अन्य सोशल मीडिया प्लेटफॉर्म पर AI-जनरेटेड कंटेंट की बाढ़ आ गई है। उदाहरण के लिए जनवरी 2024 में न्यू हैम्पशायर के मतदाताओं को 'रोबोकॉल' मिले, जिसमें राष्ट्रपति बाइडेन की AI-जनरेटेड आवाज का क्लोन था, जो उन्हें मतदान केंद्र जाने से रोक रहा था।

फेसबुक के पूर्व कार्यकारी और क्राउडटैंगल के सह-संस्थापक पैनलिस्ट ब्रैंडन सिल्वरमैन ने कहा कि वास्तविक और नकली समाचार के बीच अंतर करना पहले से कहीं ज्यादा मुश्किल होता जा रहा है। सिल्वरमैन, जिन्होंने अतीत में यह खुलासा किया था कि फेसबुक उपयोगकर्ता सोशल मीडिया प्लेटफॉर्म पर अति-पक्षपाती दक्षिणपंथी राजनीति और भ्रामक स्वास्थ्य जानकारी के साथ कितना जुड़े हैं, उन्हें डर है कि कई सोशल मीडिया प्लेटफॉर्म ने चुनाव की अखंडता के काम में अपने निवेश को कम कर दिया है। आर्टिफिशियल इंटेलिजेंस के साथ गलत सूचना उत्पन्न करने की आसानी को देखते हुए इसके बड़े खतरे हैं।

ब्रैंडन सिल्वरमैन ने कहा कि गलत सूचना अभियानों का लक्ष्य यह है कि वह इतनी अधिक अविश्वसनीय सामग्री बनाता है कि समुदाय और मतदाता बिल्कुल नहीं जानते कि किस पर भरोसा करें। सेंटर फॉर काउंटरिंग डिजिटल हेट की हालिया रिपोर्ट में खुलासा हुआ है कि जनरेटिव AI अराजक तत्वों को ऐसे चित्र, ऑडियो और वीडियो बनाने में सक्षम बना रहा है जो लगभग मुफ्त में अभूतपूर्व पैमाने और प्रलोभन के साथ उनके झूठ बताते हैं। यह रिपोर्ट दर्शाती है कि AI-वॉयस क्लोनिंग टूल...चुनावों में दुरुपयोग के लिए पूरी तरह से खुले हैं।

सीसीडीएच के सीईओ इमरान अहमद ने कहा, 'कुछ सबसे लोकप्रिय AI-संचालित वॉयस क्लोनिंग टूल उपयोगकर्ताओं को राजनीतिक नेताओं का आसानी से कॉपी करने की अनुमति देते हैं। इन उपकरणों के लिए सुरक्षा उपाय इतने गंभीर रूप से कम हैं कि इन प्लेटफॉर्म को लगभग किसी भी व्यक्ति द्वारा खतरनाक राजनीतिक गलत सूचना बनाने के लिए आसानी से हेरफेर किया जा सकता है।' ब्रीफिंग में सिल्वरमैन ने कहा, 'बहुत बार मीडिया सूचना इकोसिस्टम में विश्वसनीय स्रोत गलत सूचना के सबसे महत्वपूर्ण प्रसारक होते हैं।'

सिल्वरमैन ने कहा कि फेसबुक में उनके अनुभव ने उन्हें दिखाया कि कुछ राजनीतिक वातावरणों की स्थानीय बारीकियों और संदर्भ को समझने के लिए बहुत कम कर्मचारी समर्पित थे। 2016 में रूस के गलत सूचना कार्यक्रमों ने अश्वेत अमेरिकियों पर फोकस किया, इंस्टाग्राम और ट्विटर खाते बनाए जो अश्वेत आवाजों के रूप में प्रस्तुत किए गए और blacktivist.info, blacktolive.org और blacksoul.us जैसी नकली समाचार वेबसाइटों का निर्माण किया।

ब्रीफिंग के दौरान चीनी डिजिटल जुड़ाव के कार्यक्रम प्रबंधक जिनक्सिया निउ ने कहा कि पिछले 12 महीनों में हमने सभी प्रमुख चीनी भाषा के सोशल मीडिया में गलत सूचना के 600 से अधिक टुकड़ों का दस्तावेजीकरण किया है। निउ ने कहा, 'गलत सामग्री को अंग्रेजी मुख्यधारा के मीडिया में तथ्यात्मक रूप से जांचा और खारिज किया जा सकता है। लेकिन चीनी में उनके अनुवादित संस्करण, अनियंत्रित रहते हैं। हमारे पास हर सामग्री के टुकड़े की जांच करने की क्षमता नहीं है, खासकर AI-जनरेटेड सामग्री की मात्रा के साथ।

यह गलत सूचना भारतीय अमेरिकियों के लिए व्हाट्सएप और यूरोपीय, अफ्रीकी और एशियाई लोगों के लिए टेलीग्राम जैसे एन्क्रिप्टेड मैसेजिंग ऐप पर प्रभावशाली लोगों, दोस्तों और परिवार द्वारा साझा किए गए पोस्ट के माध्यम से फैलती है। चीनी अमेरिकियों के लिए वीचैट और कोरियाई और जापानी अमेरिकियों के लिए सिग्नल जैसे अन्य ऐप हैं जहां उन्होंने गलत सूचना फैलते हुए देखा है।

निउ ने कहा कि ये निजी चैट अनियंत्रित, बिना सेंसर के सार्वजनिक प्रसारण की तरह हो जाते हैं जिन्हें आप अच्छी तरह से इरादे से डेटा और गोपनीयता सुरक्षा के कारण मॉनिटर या दस्तावेज नहीं कर सकते। यह एक ऐसी स्थिति है जहां नकली और खतरनाक जानकारी के साथ हस्तक्षेप करना मुश्किल है। कैलिफोर्निया कॉमन कॉज के कार्यकारी निदेशक जोनाथन मेहता स्टाइन ने कहा कि 'नागरिक बहस एक्स और फेसबुक पर चल रही है।'