संदर्भ:

• अपनी शुरुआत से ही, आर्टिफिशियल इंटेलिजेंस (AI) ने आधुनिक जीवन के कई हिस्सों को परिवर्तित करना जारी रखा है, जिसमें चिकित्सा निदान में सुधार से लेकर आपूर्ति नेटवर्क को सुव्यवस्थित करना जैसे सभी गतिविधयां शामिल है। हालाँकि, इन लाभों के साथ-साथ, AI ने ऐसी तकनीकों को भी जन्म दिया है, जो कई रूपों में महत्वपूर्ण चुनौतियां उत्पन्न करती हैं। ऐसी ही एक तकनीक है डीपफेक, जो अति-यथार्थवादी लेकिन पूरी तरह से मनगढ़ंत ऑडियो और विज़ुअल कंटेंट बनाती है। हाल के वर्षों में यह डीपफेक वैश्विक सरकारों, सुरक्षा एजेंसियों और नागरिक समाजों के लिए एक गंभीर चिंता का विषय बन गया है।

डीपफेक क्या है ?

• डीपफेक की तकनीक
  • डीपफेक उन्नत कृत्रिम बुद्धिमत्ता तकनीकों के माध्यम से उत्पन्न एक सिंथेटिक मीडिया हैं, जिन्हें सामान्यतः जेनरेटिव एडवर्सरियल नेटवर्क (GAN) की सहायता से मशीन लर्निंग (ML) का उपयोग करके बनाया जाता है। GAN प्रक्रिया में, दो न्यूरल नेटवर्क, जनरेटर और डिस्क्रिमिनेटर को एक दूसरे के विपरीत प्रशिक्षित किया जाता है। जनरेटर फ़ोटो, ऑडियो फ़ाइलें या वीडियो क्लिप जैसे सिंथेटिक डेटा बनाता है, जबकि डिस्क्रिमिनेटर नकली डेटा का पता लगाता है। यह पुनरावृत्ति की प्रक्रिया तब तक जारी रहती है, जब तक कि जनरेटर का प्रदर्शन उस मानक तक बेहतर नहीं हो जाता जहाँ डिस्क्रिमिनेटर अब असली और नकली डेटा के बीच अंतर को समाप्त नही आ देता।
• प्रारंभिक विकास और लोकप्रियता
  • 2017 में, फेसऐप टेक्नोलॉजी लिमिटेड ने iOS और Android डिवाइस के लिए “फेसऐप” नामक एक फ़ोटो और वीडियो एडिटिंग ऐप लॉन्च किया, जो फ़ोटो में मानव चेहरों के यथार्थवादी परिवर्तन लाने के लिए AI-संचालित न्यूरल नेटवर्क का उपयोग करता था। अगस्त 2019 में, चीनी फेस-स्वैप एप्लिकेशन ज़ाओ ने उपयोगकर्ताओं को वीडियो क्लिप में मशहूर हस्तियों के चेहरे को अपने चेहरे से बदलने के लिए लोकप्रियता हासिल की।  अपनी अनूठी विशेषताओं के बावजूद, ज़ाओ ने डिजिटल गोपनीयता संबंधी चुनौतियां उत्पन्न की, क्योंकि यह प्राथमिक ऐप स्टोर के माध्यम से उपलब्ध नहीं था।
• विकास और भविष्य की संभावनाएँ
  • वर्ष 2019 में, जापानी स्टार्ट-अप डेटाग्रिड ने गैर-मौजूद मनुष्यों के पूर्ण-शरीर मॉडल बनाने के लिए एक डीपफेक तकनीक विकसित किया। इस तकनीक में डेटाग्रिड का AI एल्गोरिदम, अनंत संख्या में यथार्थवादी दिखने वाले व्यक्तियों को उत्पन्न कर सकता है। यह नए लेकिन गैर-मौजूद चेहरों में बदल सकते हैं और विभिन्न स्थितियों और लुक को दिखाते हैं। डीपफेक व्यक्तियों के भाषण, चेहरे के भाव और अन्य विशेषताओं को पूरी तरह से बदल सकते हैं, जिससे ऐसा लगता है कि वे ऐसी बातें कह रहे हैं या कर रहे हैं जो उन्होंने कभी नहीं कीं। शुरू में इसे एक नवीनतम आविष्कार के रूप में देखा गया था, लेकिन अब इसके दुरुपयोग की संभावना बढ़ती जा रही है।

डीपफेक एक खतरा है

• राजनीतिक स्थिरता के लिए खतरा
  • भारत के ध्रुवीकृत और प्रतिस्पर्धी राजनीतिक परिदृश्य में डीपफेक से राजनीतिक स्थिरता को सर्वाधिक चुनोतियाँ मिल सकती है। डीपफेक तकनीक राजनीतिक विरोधियों को कमजोर कर सकते हैं, गलत सूचनाओं का प्रसार कर सकते हैं और जनमत को प्रभावित कर सकते हैं। इसके अतिरिक्त भड़काऊ बयान देने वाले राजनीतिक नेताओं के मनगढ़ंत वीडियो, हिंसा भड़का सकते हैं, चुनाव बाधित कर सकते हैं या लोकतांत्रिक संस्थाओं में जनता का भरोसा कम कर सकते हैं। इसका मुख्य कारण यह है, कि सोशल मीडिया प्लेटफॉर्म के माध्यम से गलत सूचनाओं का तेजी से प्रसार इस खतरे को बढ़ाता है।
• सामाजिक सामंजस्य और सांप्रदायिक सद्भाव के लिए खतरा
  • भारत में धर्म, भाषा और संस्कृतियों की विविधता सामाजिक सामंजस्य और सांप्रदायिक सद्भाव को बनाए रखने में चुनौतियाँ उत्पन्न करती है। डीपफेक एक समुदाय को दूसरे पर हमला करते हुए दिखाने वाले नकली वीडियो बनाकर सांप्रदायिक तनाव को बढ़ा सकते हैं। यह उल्लेखनीय है कि ऐसी कंटेंट सामग्री तेज़ी से वायरल हो सकती है, जिससे हिंसा और दंगे हो सकते हैं, जैसा कि फरवरी 2020 में नागरिकता संशोधन अधिनियम (CAA) के बारे में गलत सूचना प्रसार के मामले में देखा गया था। इसे साथ ही झूठे सबूतों का मनोवैज्ञानिक प्रभाव अशांति को जन्म दे सकती है, जो कि राष्ट्रीय सुरक्षा और रक्षा के एक संकट है ।
  • 18 फरवरी, 2022 को, यूक्रेनी राष्ट्रपति वोलोडिमिर ज़ेलेंस्की का एक डीपफेक वीडियो, जिसमें यूक्रेन के लोगों को गलत जानकारी दी गई थी, कि उनके सैनिकों ने आत्मसमर्पण कर दिया है; सैन्य संघर्षों के दौरान डीपफेक तकनीक के उपयोग को उजागर करता है। इसके अलावा डीपफेक देश की रक्षा में तैनात सैनिकों का मनोबल गिरा सकते हैं, झूठे आदेश फैला सकते हैं या उनके भीतर भ्रम पैदा कर सकते हैं। एक वरिष्ठ सैन्य अधिकारी को आत्मसमर्पण करते हुए या गलत आदेश जारी करते हुए दिखाने वाला डीपफेक वीडियो मनोबल और परिचालन प्रभावशीलता को तबाह कर सकता है। डीपफेक कूटनीतिक सूचना-संचार को भी प्रभावित कर सकते हैं और झूठे आख्यान बनाकर अंतर्राष्ट्रीय संबंध को प्रभावित कर सकते हैं।
• अर्थव्यवस्था पर प्रभाव
  • अन्य बातों के अलावा डीपफेक के आर्थिक निहितार्थ बहुत महत्वपूर्ण हैं। चूंकि डिजिटल अर्थव्यवस्था में, विश्वास सर्वोपरि है और डीपफेक डिजिटल लेनदेन, इलेक्ट्रॉनिक संचार और वित्तीय बाजारों में विश्वास को समाप्त कर सकते हैं। वर्ष 2019 के एक साइबर घोटाले में, एक जालसाज ने यूलर हर्मीस ग्रुप एसए के सीईओ रुडिगर किर्श को धोखा देने के लिए एआई-सक्षम डीपफेक ऑडियो का उपयोग किया, जिससे हंगरी स्थित एक आपूर्तिकर्ता को €220,000 (लगभग ₹1.7 करोड़) की सामग्री हस्तांतरित की गई थी। इसने वित्तीय धोखाधड़ी के लिए डीपफेक के उपयोग को रेखाँकित किया। साथ ही साथ यह ध्यान देने योग्य है, कि जालसाज अधिकारियों का प्रतिरूपण करने, धोखाधड़ी वाले लेनदेन को अधिकृत करने या स्टॉक की कीमतों को प्रभावित करने वाली गलत सूचना फैलाने के लिए डीपफेक का उपयोग किया जा सकता है, जिससे वित्तीय नुकसान अधिक होता है और आर्थिक प्रणाली में विश्वास कम हो सकता है।

संभावित समाधान और नीतिगत प्रतिक्रियाएँ

• डीपफेक आर्टिफिशियल इंटेलिजेंस के विकास का एक मुख्य कारक है। हाल के वर्षों में AI/मशीन लर्निंग एल्गोरिदम द्वारा उत्पन्न फर्जी खबरें या गलत सूचनाएँ बहुत लोकप्रिय हुई हैं। नवंबर 2018 और 2019 में, तीन वैज्ञानिक पत्रों ने किसी व्यक्ति के बोलने के तरीके के चेहरे के भाव और हरकतों का विश्लेषण करके डीपफेक का पता लगाने और उसका मुकाबला करने के लिए ‘फेस-वॉर्पिंग आर्टिफैक्ट्स और असंगत हेड पोज़’ तकनीक के उपयोग करने का सुझाव दिया। हालाँकि, लंबे समय में, ये तकनीकें काम नहीं कर सकती हैं क्योंकि डीपफेक डेवलपर्स अपने भेदभावपूर्ण तंत्रिका नेटवर्क में सुधार करने और डीपफेक को और बेहतर बनाने की संभावना रखते हैं।
• तकनीकी समाधान
  • AI-आधारित पहचान प्रणालियों में निवेश करना और उन्हें बेहतर बनाना; जो उच्च सटीकता के साथ डीपफेक की पहचान कर सकें, आवश्यक है। इन प्रणालियों को सोशल मीडिया प्लेटफ़ॉर्म और अन्य महत्वपूर्ण डिजिटल बुनियादी ढांचे में एकीकृत किया जाना चाहिए।
• कानून और विनियमन
  • दुर्भावनापूर्ण डीपफेक बनाने और प्रसारित करने को अपराध बनाने वाले मजबूत कानून बनाना महत्वपूर्ण है। इसे ऐसे विनियमों के साथ जोड़ा जाना चाहिए जो डिजिटल प्लेटफ़ॉर्म को हानिकारक डीपफेक सामग्री को तुरंत हटाने के लिए बाध्य करें।
• जन जागरूकता
  • जनता को डीपफेक के अस्तित्व और खतरों के बारे में शिक्षित करने से ऐसी सामग्री पर विश्वास किए जाने और उसके प्रसार की संभावना कम हो सकती है। मीडिया साक्षरता कार्यक्रमों को शिक्षा प्रणाली और सार्वजनिक सूचना अभियानों में एकीकृत किया जाना चाहिए। सरकारों और संगठनों को गलत सूचना के प्रसार के खिलाफ एक 'प्रतिक्रिया' अभियान विकसित करना चाहिए, इसे उपद्रव के बजाय सुरक्षा घटना के रूप में देखना चाहिए।
• अंतर्राष्ट्रीय सहयोग
  • डीपफेक एक वैश्विक घटना है; इसलिए, इनसे प्रभावी ढंग से निपटने के लिए अंतर्राष्ट्रीय सहयोग की आवश्यकता है। भारत को ज्ञान, सर्वोत्तम प्रथाओं और तकनीकी समाधानों को साझा करने के लिए अन्य देशों और अंतर्राष्ट्रीय संगठनों के साथ सहयोग करना चाहिए।
• मनोवैज्ञानिक लचीलापन
  • अन्य सभी कारकों के साथ-साथ जनसंख्या का मनोवैज्ञानिक लचीलापन विकसित करना भी महत्वपूर्ण है। अतः नागरिकों को उनके सामने आने वाली सामग्री का गंभीरता से आकलन करने और असत्यापित जानकारी साझा करने से बचने के लिए प्रशिक्षित किया जाना चाहिए।

निष्कर्ष

• डीपफेक भारत की राष्ट्रीय सुरक्षा के लिए एक अनिवार्य उभरता हुआ खतरा है। इनमें राजनीतिक स्थिरता को कमजोर करने, सामाजिक सद्भाव को बाधित करने और राष्ट्रीय रक्षा से समझौता करने की क्षमता है। इन खतरों को कम करने के लिए तकनीकी, कानूनी और सामाजिक उपायों को शामिल करते हुए एक व्यापक दृष्टिकोण की आवश्यकता है। जैसे-जैसे भारत डिजिटल युग में आगे बढ़ रहा है, उसे सुरक्षित और सामंजस्यपूर्ण भविष्य सुनिश्चित करने के लिए डीपफेक द्वारा उत्पन्न चुनौतियों का समाधान करने में सतर्क और सक्रिय रहना चाहिए।

स्रोत- VIF