हालांकि पुलिस ने यह भी स्पष्ट किया है कि संदिग्ध Deepfake प्रोफ़ाइल के निर्माता नहीं, बल्कि अपलोड करने वाले प्रतीत होते हैं। उन्होंने कहा कि मुख्य साजिशकर्ता की तलाश जारी है।
दिल्ली पुलिस ने एनिमल अभिनेत्री Rashmika Mandanna के डीपफेक मामले में चार संदिग्धों का पता लगाया है, CNN ने बताया।
Deep fake क्या हैं?
डीपफेक को चेहरे की विशेषताओं को समझने के लिए कई चित्रों और वीडियो का उपयोग करके प्रशिक्षित किया जाता है। यह कार्यक्रम, एक तंत्रिका नेटवर्क, दो काम करता है: चेहरे को बदलते हुए वीडियो बनाना और ऐसे संशोधनों को खोजना। Generative Adversarial Network (जीएएन) रस्साकशी में बेहतर होते हैं, जहां एक पक्ष दूसरे को मूर्ख बनाने की कोशिश करता है। जैसे-जैसे सिस्टम बेहतर होता जाता है, यह अधिक कठिन हो जाता है कि कोई वीडियो असली है या इस Intelligent software द्वारा बदला गया है। डॉ. सुनील के शेखावत, सीईओ, सांचीकनेक्ट, एक कंपनी जो गहन तकनीकी क्षेत्र में कई नवोदित उद्यमों के साथ सहयोग करती है
Case background
6 नवंबर को अभिनेत्री Rashmika Mandanna का संशोधित वीडियो सामने आया, जिससे डिजिटल सुरक्षा पर बहस छिड़ गई। वायरल वीडियो में एक्ट्रेस रश्मिका की तरह दिखने वाली एक महिला लिफ्ट में प्रवेश करती है, जो ब्लैक स्विमसूट पहनती है।
वीडियो बहुत जल्दी वायरल हो गया, जिससे बहुत से सोशल मीडिया उपयोगकर्ता इस बात की पुष्टि करने के लिए आगे आए कि यह एक गंभीर झूठ है। बाद में पता चला कि यह वीडियो ब्रिटिश अभिनेत्री ज़ारा पटेल का था।
पुलिस की जांच
24 नवंबर को मामला ठंडे बस्ते में चला गया था क्योंकि सोशल मीडिया प्लेटफॉर्म ने कहा कि वे उस व्यक्ति(ओं) के बारे में जानकारी नहीं दे सकते थे जिन्होंने कथित तौर पर डीपफेक प्रोफाइल बनाया था।
NNI को सूत्रों ने बताया कि आरोपियों ने या तो सोशल मीडिया प्लेटफॉर्म से अपना अकाउंट हटा दिया अधिकारियों ने कहा कि डीपफेक वीडियो अपलोड करने के लिए वर्चुअल प्राइवेट नेटवर्क (वीपीएन) का उपयोग किया गया हो सकता है।
18 नवंबर को, केंद्रीय संचार, इलेक्ट्रॉनिक्स और आईटी मंत्री अश्विनी वैष्णव ने सभी सोशल मीडिया प्लेटफार्मों को एक नोटिस भेजा, जिसमें डीपफेक सामग्री की पहचान करने और उन्हें हटाने के लिए आवश्यक कदम उठाने के निर्देश दिए गए।
अधिकारियों ने कहा कि पुलिस ने कुछ संदेहपूर्ण लोगों को गिरफ्तार किया है। उनमें से किसी ने भी डीपफेक वीडियो नहीं बनाया; इसके बजाय, वे वीडियो साझा करते थे।
Rashmika Mandanna ने ट्वीट करके बताया सारी सच्चाई
I feel really hurt to share this and have to talk about the deepfake video of me being spread online.
— Rashmika Mandanna (@iamRashmika) November 6, 2023
Something like this is honestly, extremely scary not only for me, but also for each one of us who today is vulnerable to so much harm because of how technology is being misused.…
सोशल मीडिया कंपनियों से कोई मदद नहीं
नवंबर में दिल्ली पुलिस की ऑनलाइन उपयोगकर्ताओं के लिए इंटरनेट स्वतंत्रता और सुरक्षा (IFSO) शाखा ने फेसबुक (पूर्व में मेटा) को एक पत्र भेजा था, लेकिन सोशल मीडिया कंपनी ने हटाए गए खाते का विवरण देने से इनकार कर दिया।समाचार एजेंसी ने एएनआई को बताया कि पुलिस GoDaddy (सार्वजनिक रूप से कारोबार करने वाली इंटरनेट डोमेन रजिस्ट्री) से प्रतिक्रिया का इंतजार कर रही है, क्योंकि GoDaddy ने इसी तरह की प्रोफ़ाइल बनाई थी।
दिल्ली पुलिस ने एफआईआर दर्ज की और मामले की जांच की। साथ ही उन्होंने कहा कि इसमें शामिल आरोपियों की पहचान करने के लिए तकनीकी विश्लेषण जारी है।