आए दिन देश में डीपफेक वीडियो सामने आ रहे हैं। इससे प्रधानमंत्री नरेंद्र मोदी भी नहीं बच सके हैं। प्रधानमंत्री नरेंद्र मोदी ने डीपफेक टेक्नोलॉजी को खतरनाक बताते हुए जानकारी दी है कि ऐसे ही एक वीडियो में मुझे गरबा गीत गाते दिखाया गया है। कई वीडियो ऑनलाइन पड़े हुए हैं। पीएम मोदी शुक्रवार 17 नवंबर को बीजेपी मुख्यालय में दीपावली मिलन कार्यक्रम के दौरान संबोधित कर रहे थे।
डीपफेक डिजिटल युग के लिए खतरा
पीएम मोदी ने कहा, डीपफेक डिजिटल युग के लिए एक खतरा है। यह समझना बहुत जरूरी है कि आर्टिफिशियल इंटेलिजेंस (एआई) कैसे काम करता है, क्योंकि इसका उपयोग जानबूझकर गलत जानकारी फैलाने या दुर्भावनापूर्ण इरादे से किया जा सकता है। प्रधानमंत्री ने मीडिया से अपील की कि वह लोगों को एआई के निगेटिव इफेक्ट्स बताए ताकि गलत और नुकसान पहुंचाने वाला कंटेंट फैलने से रोका जा सके।
क्या है डीपफेक
आज के डिजिटल दौर में कई बार गलत खबरें और भ्रामक जानकारियां इंटरनेट की मदद से लोगों तक पहुंचाई जा रही हैं। ऐसे ही वीडियो भी पहुंचाए जाते हैं। इसे डीपफेक कहते हैं। इसमें असली और नकली की पहचान बेहद मुश्किल होती है। इसमें आर्टिफिशियल इंटेलिजेंस तकनीक (AI) और मशीन लर्निंग सॉफ्टवेयर का इस्तेमाल किया जाता है। इनका उपयोग करके मीडिया फाइल जैसे फोटो, ऑडियो और वीडियो की परिवर्तित कॉपी तैयार की जाती है, जो वास्तविक फाइल की तरह ही दिखती है। सरल भाषा में कहें तो डीपफेक, मॉर्फ वीडियो का ही एडवांस रूप है।
क्या है सजा
केंद्र सरकार ने साफ कर दिया है कि डीपफेक बनाने और फैलाने पर एक लाख का जुर्माना और तीन साल की जेल हो सकती है।
रश्मिका मंदाना और काजोल के डीपफेक वीडियो से मचा था बवाल
हाल ही में अभिनेत्री रश्मिका मंदाना और काजोल का एक वीडियो सोशल मीडिया पर वायरल हुआ था। पहले रश्मिका का एक डीपफेक वीडियो आया, जिसमें एआई टेक्नोलॉजी से एक इन्फ्लूएंसर के चेहरे में बड़ी सफाई से रश्मिका का चेहरा मॉर्फ किया गया था। फिर काजोल का वीडियो आया, जिसमें वे ड्रेस चेंज करते हुए दिखीं। फैक्ट चेकिंग प्लेटफॉर्म बूम की मानें तो यह वीडियो काजोल का नहीं, बल्कि किसी सोशल मीडिया इन्फ्लुएंसर का है। इसे जून 2023 में सोशल मीडिया पर ‘गेट रेडी विद मी’ ट्रेंड के तहत अपलोड किया गया था। दोनों ही वीडियो के फेक होने की पुष्टि हुई है।
