सुशीला सिंह

पिछले कुछ दिनों से आप अखबारों, टीवी न्यूज और सोशल मीडिया पर डीपफेक या डीपफेक वीडियो के बारे में बार-बार सुन-देख रहे होंगे। डीपफेक तकनीक के शिकार होने के मामले लगातार सामने आ रहे हैं।

इस तकनीक के गलत इस्तेमाल से जहां आम लोग प्रभावित हो रहे हैं, वहीं हाल के दिनों में सेलिब्रिटीज के भी कई डीपफेक वीडियो वायरल हुए हैं।

इस कड़ी में फि़ल्म अभिनेत्री रश्मिका मंदाना, काजोल, कटरीना का नाम सामने आया वहीं प्रधानमंत्री नरेंद्र मोदी का गरबा करते हुए वायरल हुए वीडियो ने सब को चौंका भी दिया कि क्या ये सच है? लेकिन ये डीपफेक के मामले केवल भारत तक सीमित हो ऐसा नहीं है।

अमेरिका के पूर्व राष्ट्रपति बराक ओबामा से लेकर फे़सबुक जो अब मेटा के नाम से जाना जाता है के प्रमुख मार्क जक़रबर्ग भी इससे अछूते नहीं रहे हैं। ये सभी वीडियो जो आपने देखें हैं ये सभी डीपफ़ेक हैं।

डीपफेक है क्या?

डीपफेक दरअसल आर्टिफिशियल इंटेलीजेंस (एआई) का इस्तेमाल करता है जिसके जरिए किसी की भी फेक (फर्जी) इमेज या तस्वीर बनाई जाती है।

इसमें किसी भी तस्वीर,ऑडियो या वीडियो को फेक(फर्जी) दिखाने के लिए एआई के एक प्रकार डीप लर्निंग का इस्तेमाल होता है और इसलिए इसे डीपफेक कहा जाता है। इसमे से ज़्यादातर पोर्नाग्राफिक या अश्लील होते हैं।

एम्सटर्डम स्थित साइबर सिक्सयोरिटी कंपनी डीपट्रेस के मुताबिक 2017 के आखिर में इसकी शुरुआत के बाद डीपफेक़ का तकनीकी स्तर और इसके सामाजिक प्रभाव में तेज़ी से विकास हुआ।

डीपट्रेस की साल 2019 में छपी इस रिपोर्ट के मुताबिक कुल 14,678 डीपफेक वीडियो ऑनलाइन थे। इनमें से 96 फीसदी वीडियो पोर्नोग्राफिक सामग्री थी और चार फीसदी ऐसे थे जिनमें ये सामग्री नहीं थी।

डीपट्रेस ने जेंडर, राष्ट्रीयता और पेशे के आधार पर जब डीपफेक वीडियो का आकलन किया तो पाया कि डीपफेक पोर्नोग्राफी का इस्तेमाल महिलाओं को नुकसान पहुंचाने के लिए किया जाता है। वहीं डीपफेक पोर्नोग्राफी वैश्विक स्तर पर बढ़ रही है और इन पोर्नोग्राफी वीडियो में मनोरंजन जगत से जुड़ी अभिनेत्रियों और संगीतकारों का इस्तेमाल किया गया था।

वकील पूनीत भसीन कहती हैं कि कुछ साल पहले सुली और बुली बाई के मामले सामने आए थे जिनमें महिलाओं को टारगेट किया गया था। लेकिन डीपफेक में महिलाओं के साथ साथ पुरुषों की भी टारगेट किया गया है। ये अलग बात है कि ज्यादातर मामलों में पुरुष ऐसे फर्जी सामग्री को दरकिनार कर देते हैं।

मुंबई में रहने वाली पुनीत भसीन साइबर लॉ और डेटा प्रोटेक्शन प्राइवेसी की एक्सपर्ट हैं और वे मानती है कि डीपफेक अब समाज में दीमक की तरह से फैल रहा है।

वे कहती हैं, ‘पहले भी लोगों की तस्वीरों को मॉर्फ किया जाता था लेकिन वो पता चल जाता था लेकिन एआई के जरिए जो डीपफेक किया जा रहा है वो इतना परफेक्ट (सटीक) होता है कि सही या गलत में भेद कर पाना मुश्किल होता है। ये किसी के शील का अपमान करने के लिए काफी होता है।’ जानकार बताते हैं कि ये तकनीक इतनी विकसित है कि वीडियो या ऑडियो रियल या वास्तविक नजर आता है।

लेकिन क्या ये केवल वीडियो तक सीमित हैं?

ये तकनीक केवल वीडियो में ही उपयोग में नहीं लाई जाती बल्कि फोटो को भी फेक दिखलाया जाता है और ये पता लगाना इतना मुश्किल होता है कि असल नहीं बल्कि फर्जी है।

वहीं इस तकनीक के ज़रिए ऑडियो का भी डीपफेक किया जाता है। बड़ी हस्तियों की आवाज बदलने के लिए वॉयस स्किन या वॉयस क्लोन्स का इस्तेमाल किया जाता है।

साइबर सिक्योरिटी और एआई विशेषज्ञ पवन दुग्गल कहते हैं, ‘डीपफेक-कंप्यूटर, इलेक्ट्रानिक फॉरमेट और एआई का मिश्रण है। इसे बनाने के लिए किसी तरह के प्रशिक्षण की जरुरत नहीं होती। इसे मोबाइल फोन के जरिए भी बनाया जा सकता है जो एप और टूल के जरिए बनाया जा सकते हैं।’

कौन कर रहा है डीपफेक का उपयोग?

एक सामान्य कंप्यूटर पर अच्छा डीपफेक बनाना मुश्किल है। डीपफ़ेक एक उच्च-स्तरीय डेस्कटॉप पर बेहतरीन फोटो और ग्राफिक्स कार्ड के ज़रिए बनाया जा सकता है।

पवन दुग्गल बताते हैं कि इसका ज़्यादातर इस्तेमाल साइबर अपराधी कर रहे हैं।

वे बताते हैं, ‘ये लोगों के अश्लील वीडियो बनाते हैं और फिर ब्लैक मेल करके फिरौती के लिए इसका इस्तेमाल करते हैं। किसी व्यक्ति की छवि को खऱाब करने के लिए सोशल मीडिया पर डाल देते हैं और इसका उपयोग ख़ासकर सेलीब्रिटीज, राजनीतिज्ञों और बड़ी हस्तियों को नुकसान करने के लिए किया जा रहा है।’

इसका एक और कारण बताते हुए पुनीत भसीन कहती हैं कि लोग ऐसे वीडियो इसलिए भी बनाते हैं क्योंकि ऐसे वीडियो ज़्यादा लोग देखते हैं और उनके व्यू बढ़ते हैं और इससे उनका फायदा होता है।

वहीं पवन दुग्गल ये अशंका जताते हैं कि डीपफेक का इस्तेमाल चुनावों को भी प्रभावित कर सकता है।

उनके अनुसार, ‘राजनेताओं के डीपफेक वीडियो बनाए जा सकते हैं, इससे न केवल उनकी छवि को धूमिल किया जा सकता है लेकिन पार्टी की जीत की संभवनाओं पर भी असर पड़ सकता है।’

चुनावों में डीपफ़ेक वीडियो के उपयोग की बात की जाए तो दिल्ली विधानसभा चुनाव से पहले बीजेपी ने एआई का इस्तेमाल करके पार्टी नेता मनोज तिवारी के डीपफेक वीडियो बनाए थे। इसमें दिखाया गया था कि वो मतदाताओ से दो भाषाओं में बात करके वोट डालने की अपील कर रहे थे।

इस डीपफेक वीडियो में वे हरियाणवी और हिंदी में लोगों से वोट डालने की अपील कर रहे थे।

कानून में क्या है प्रावधान?

भारतीय जनता पार्टी के दिवाली समारोह में प्रधानमंत्री ने एआई का इस्तेमाल कर डीपफेक बनाने पर चिंता जाहिर की थी।

उन्होंने कहा था, ‘डीपफेक भारत के सामने मौजूद सबसे बड़े खतरों में से एक है। इससे अराजकता पैदा हो सकती है।’

केंद्रीय सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव कह चुके है कि सरकार जल्द ही डीपफेक पर सोशल मीडिया से चर्चा करेगी और अगर इन मंचों ने उपयुक्त कदम नहीं उठाए तो उन्हें आईटी अधिनियम के सेफ हार्बर के तहत इम्यूनिटी या सरंक्षण नहीं मिलेगा।’

उन्होंने ये भी कहा कि डीपफेक के मुद्दे पर कंपनियों को नोटिस भी जारी किया गया था और इस सिलसिले में उनके जवाब भी आए हैं।

डीपफेक के मामले सामने आने के बाद इस बात पर बहस तेज हो गई है कि क्या कड़े कानून बनाने की जरूरत है?

वकील पुनीत भसीन कहती हैं कि भारत में आईटी एक्ट के तहत सज़ा का प्रावधान हैं।

वहीं पिछले साल इस सिलसिले में इंटरमिडियरी गाइडलाइन्स भी आई थी जिसमें कहा गया था कि ऐसी सामग्री जिसमें नग्नता, अश्लीलता हो और अगर किसी की मान, प्रतिष्ठा को नुकसान हो रहा हो तो ऐसी सामग्री को लेकर किसी भी प्लेटफॉर्म को शिकायत जाती है तो उन्हें तुरंत हटाने के दिशानिर्देश हैं।

वे कहती हैं, ‘पहले ये प्लेटफॉर्म कहते थे कि वे अमेरिका या जिस देश में है वहां के स्थानीय कानून द्वारा नियमित है। लेकिन अब ये कंपनियां एफआईआर दर्ज कराने के लिए कहती है और फिर सामग्री को प्लेटफॉर्म से हटाने के लिए कोर्ट के ऑर्डर की मांग करती हैं।’

वे आईटी मंत्री के कंपनियों को इम्यूनिटी देने के मामले पर कहती हैं, ‘आईटी एक्ट के सेक्शन 79 के एक अपवाद के तहत कंपनियों को सरंक्षण मिलता था। अगर किसी प्लेटफॉर्म पर सामग्री किसी तीसरी पार्टी ने अपलोड की है लेकिन प्लेटफॉर्म ने सामग्री को सरकुलेट नहीं किया है तो ऐसे में प्लेटफॉर्म को इम्यूनिटी मिलती थी और माना जाता था कि प्लेटफॉर्म जिम्मेदार नहीं है।’

लेकिन इंटरमिडियरी गाइडलाइंस में ये स्पष्ट किया गया कि प्लेटफॉर्म के शिकायत अधिकारी के पास सामग्री को लेकर ऐसी शिकायत आती है तो और कोई कार्रवाई नहीं की जाती है तो सेक्शन 79 के अपवाद के तहत इम्यूनिटी नहीं मिलेगी और इस प्लेटफॉर्म के ख़िलाफ़ भी कार्रवाई होगी।

ऐसे में जिसने सामग्री प्लेटफॉर्म पर डाली है उसके खिलाफ तो मामला बनेगा ही वहीं जिस प्लेटफॉर्म पर अपलोड किया गया उसके खिलाफ भी सजा होगी।

भारत के आईटी एक्ट 2000, के सेक्शन 66 ई में डीपफ़ेक से जुड़े आपराधिक मामलों के लिए सजा का प्रावधान किया गया है।

इसमें किसी व्यक्ति की तस्वीर को खींचना, प्रकाशित और प्रसारित करना, निजता के उल्लंघन में आता है और अगर कोई व्यक्ति ऐसा करता हुआ पाया जाता है तो इस एक्ट के तहत तीन साल तक की सज़ा या दो लाख तक के ज़ुर्माना का प्रावधान किया गया है।

वहीं आईटी एक्ट के सेक्शन 66 डी में ये प्रावधान किया गया है कि अगर कोई किसी संचार उपकरण या कंप्यूटर का इस्तेमाल किसी दुर्भावना के इरादे जैसे धोखा देने या किसी का प्रतिरुपण के लिए करता है तो ऐसे में तीन साल तक की सजा या एक लाख रुपए तक के ज़ुर्माने का प्रावधान है।

भारत के आईटी एक्ट 2000 , के सेक्शन 66 ई में डीपफेक से जुड़े आपराधिक मामलों के लिए सज़ा का प्रावधान किया गया है।

कैसे जानें डीपफेक के बारे में?

किसी भी डीपफेक सामग्री को जानने के लिए कुछ बिंदुओं का इस्तेमाल कर सकते हैं।

आंखों को देखकर-अगर कोई वीडियो डीपफ़ेक है तो उसमें लगा चेहरा पलक नहीं झपक पाएगा।

होठों को ध्यान से देखकर-डीपफेक वीडियो में होठों के मूवमेंट और बातचीत में सामंजस्य नहीं दिखाई देगा।

बाल और दांत के जरिए-डीपफेक में बाल के स्टाइल से जुड़े बदलाव को दिखाना मुश्किल होता है और दांत को देखकर भी पहचाना जा सकता है कि वीडियो डीपफेक है।

जानकारों का मानना है कि डीपफेक एक बड़ी समस्या है और इस पर लगाम लगाने के लिए कड़े कानून बनाए जाने की जरूरत है नहीं तो भविष्य में इसके घातक परिणाम हो सकते हैं। (bbc.com)