कल्पना कीजिए, आप एक ऐसा वीडियो देख रहे हैं जिसमें कोई प्रसिद्ध सेलिब्रिटी कुछ ऐसा कह रहा है जो उसने कभी कहा ही नहीं, या कोई ऐसी घटना दिख रही है जो कभी घटी ही नहीं। यह जादू नहीं, बल्कि तकनीक का खेल है।

‘Deepfakes‘ शब्द ‘डीप लर्निंग’ और ‘फेक’ का मेल है। यह AI द्वारा बनाई गई ऐसी तस्वीरें, वीडियो या ऑडियो होते हैं जो असली और नकली के बीच की रेखा को धुंधला कर देते हैं। कभी असली इंसानों को नकली रूप में दिखाते हैं, तो कभी बिल्कुल नए चेहरे और आवाजें गढ़ देते हैं। यह आधुनिक दौर की ‘सिंथेटिक मीडिया’ है—तकनीक से जन्मा एक नया मीडिया प्रैंक, जो कभी मनोरंजन करता है, तो कभी चिंता का कारण बन जाता है। इसे समझते हुए यूट्यूब ने एक नया कदम उठाया है।

YouTube ने हाल ही में अमेरिका की प्रमुख टैलेंट एजेंसी Creative Artists Agency (CAA) के साथ एक नई पार्टनरशिप का ऐलान किया है। इस पहल का उद्देश्य CAA द्वारा मैनेज किए गए बड़े अमेरिकी सेलिब्रिटी के डीपफेक्स को पहचानना और प्रबंधित करना है। यह पार्टनरशिप 17 दिसंबर को हुई और अगले साल की शुरुआत में लागू होगी। इसके तहत, यूट्यूब “early-stage technology” का उपयोग करेगा जो AI-जनरेट कंटेंट में सेलिब्रिटी की पहचान कर सकेगा।

कैसे काम करेगी यह तकनीक?
यह तकनीक न केवल Deepfake का पता लगाएगी, बल्कि प्रभावित व्यक्तियों को यूट्यूब के प्राइवेसी शिकायत तंत्र के जरिए आसानी से रिमूवल रिक्वेस्ट सबमिट करने की सुविधा भी देगी। यह साझेदारी यूट्यूब के लिए एक पायलट प्रोजेक्ट होगी, जहां सेलिब्रिटी से फीडबैक लेकर तकनीक को और परिष्कृत किया जाएगा। इसके बाद इसे यूट्यूब क्रिएटर्स, अन्य टैलेंट मैनेजर्स और प्रोफेशनल्स के लिए उपलब्ध कराया जाएगा।

क्यों है यह कदम जरूरी?

AI टूल्स के बढ़ते उपयोग ने सेलिब्रिटी Deepfake की समस्या को और गंभीर बना दिया है। जनवरी 2024 में, लोकप्रिय गायिका टेलर स्विफ्ट की अश्लील डीपफेक तस्वीरें इंटरनेट पर फैल गईं। यह मामला इतना बढ़ा कि व्हाइट हाउस को इस तरह के गलत उपयोग के खिलाफ कानून बनाने की अपील करनी पड़ी।

भारत में, अभिनेत्री रश्मिका मंदाना का डीपफेक वीडियो वायरल होने के बाद, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सोशल मीडिया प्लेटफॉर्म्स को 24 घंटे के भीतर ऐसा कंटेंट हटाने का निर्देश दिया।

क्रिकेट दिग्गज सचिन तेंदुलकर ने भी डीपफेक्स की समस्या पर X (पूर्व में ट्विटर) पर ध्यान आकर्षित किया, जब उन्होंने खुद को एक ऑनलाइन बेटिंग गेम को प्रमोट करते हुए डीपफेक वर्जन देखा।

यूट्यूब की हालिया पहलें
यूट्यूब Deepfake की समस्या को गंभीरता से ले रहा है। पिछले साल नवंबर में, प्लेटफॉर्म ने डीपफेक्स रिपोर्ट करने और हटाने का विकल्प पेश किया। हालांकि, यदि संबंधित व्यक्ति सार्वजनिक हस्ती है, तो यूट्यूब यह सुनिश्चित करेगा कि कंटेंट व्यंग्य (सटायर) है या नहीं, इसके बाद ही कार्रवाई होगी।

जनवरी 2024: यूट्यूब ने अपनी उत्पीड़न और साइबरबुलिंग नीति में बदलाव किया। इसके तहत, उन वीडियो को हटाने का निर्णय लिया गया, जिनमें बच्चों या अपराध के पीड़ितों को AI के जरिए उनके अनुभवों को बताते हुए दिखाया गया हो।

जुलाई 2024: यूट्यूब ने अपनी प्राइवेसी गाइडलाइंस में अपडेट किया, जिससे यूजर्स अपने डीपफेक्स को रिपोर्ट कर सकते हैं।

भविष्य की ओर
यूट्यूब और CAA की यह साझेदारी न केवल तकनीकी क्षेत्र में मील का पत्थर साबित हो सकती है, बल्कि यह डिजिटल प्लेटफॉर्म्स पर प्राइवेसी और नैतिकता को भी बढ़ावा देगी। जैसे-जैसे AI तकनीक का उपयोग बढ़ेगा, ऐसे कदम लोगों को सुरक्षित और आश्वस्त महसूस कराने में मदद करेंगे।

यूट्यूब के इस प्लॉन को लेकर आपकी क्या राय है! क्या यह पहल डीपफेक्स की समस्या को प्रभावी ढंग से सुलझा पाएगी? हमें आर्टिकल के नीचे कमंट कर जरूर बताएं।

Vnmtv news