तकनीकी दिग्गज ने कहा कि वह मशीन लर्निंग (एमएल) और मानव मूल्यांकनकर्ताओं के साथ-साथ उपकरणों के संयोजन को तैनात करेगी ताकि यह सुनिश्चित किया जा सके कि उपयोगकर्ताओं को सूचित किया जाए कि वे सिंथेटिक या एआई-जनरेटेड सामग्री देख रहे हैं।
सरकार ने हाल ही में सोशल मीडिया कंपनियों को चेतावनी दी है कि वे उपयोगकर्ताओं को बार-बार याद दिलाएं कि स्थानीय कानून उन्हें डीपफेक पोस्ट करने से रोकते हैं।
ऐसे समय में जब भारत में डीप फेक बढ़ रहे हैं, खतरे की घंटी बज रही है और सरकार को डिजिटल प्लेटफॉर्म पर डीप फेक वीडियो देखने के लिए एक विशेष अधिकारी को नियुक्त करने के लिए प्रेरित किया गया है, Google ने बताया कि वह YouTube पर उन उपयोगकर्ताओं को कैसे संभालेगा जो सिंथेटिक का खुलासा नहीं करते हैं या प्लेटफ़ॉर्म पर कृत्रिम बुद्धिमत्ता (एआई)-जनित सामग्री। कंपनी ने नई दिल्ली में एक प्रेस इवेंट में एबीपी लाइव को बताया कि वह मशीन लर्निंग (एमएल) और ह्यूमन रेटर्स के साथ-साथ टूल के संयोजन को तैनात करेगी ताकि यह सुनिश्चित किया जा सके कि उपयोगकर्ताओं को सूचित किया जाए कि वे सिंथेटिक या एआई-जनरेटेड सामग्री देख रहे हैं।
“..तो पहली बात यह है कि हम बहुत सारे टूल भी ला रहे हैं, जिससे हमें बहुत सारी सामग्री एआई की उम्मीद है ताकि रचनाकारों और भागीदारों को एआई आधारित सामग्री तैयार करने की अनुमति मिल सके। इसलिए जो कुछ भी हमारे टूल का उपयोग करता है उसे अपलोड किया जाएगा प्लेटफ़ॉर्म, हमारे लिए उस सामग्री की पहचान करना बहुत आसान होगा। हम उल्लिखित कुछ नीतियों की पहचान कैसे करेंगे और उन्हें कैसे लागू करेंगे, इसके संदर्भ में, “मशीन लर्निंग और मानव मूल्यांकनकर्ताओं का एक संयोजन होगा।” , “Google के स्वामित्व वाले YouTube में जिम्मेदारी के वैश्विक प्रमुख, निदेशक टिमोथी काट्ज़ ने एबीपी लाइव को बताया।
यह पूछे जाने पर कि YouTube रचनाकारों और समाचार प्लेटफार्मों द्वारा सिंथेटिक सामग्री को कैसे अलग करेगा, शीर्ष कार्यकारी ने कहा कि यह चुनौतीपूर्ण होने वाला है, क्योंकि यह एक विकसित स्थान है।
विशेष रूप से, इस सप्ताह की शुरुआत में, टेक दिग्गज ने घोषणा की थी कि डीपफेक को संबोधित करने के लिए YouTube सामग्री निर्माताओं को अब प्लेटफ़ॉर्म पर साझा की जाने वाली किसी भी संशोधित या सिंथेटिक सामग्री का खुलासा करना होगा। तकनीकी दिग्गज ने कहा कि यह उपयोगकर्ताओं को गोपनीयता अनुरोध प्रक्रिया के माध्यम से YouTube पर एआई-जनरेटेड या अन्य सिंथेटिक सामग्री को हटाने का अनुरोध करने का अधिकार देगा जो किसी पहचानने योग्य व्यक्ति की नकल करता है, जिसमें उनका चेहरा या आवाज शामिल है।
“लेकिन हम सोचते हैं कि क्योंकि हमारे पास YouTube पर अपलोड की जाने वाली सामग्री की इतनी अधिक मात्रा होगी कि हमारे मशीन लर्निंग (एमएल) सिस्टम को वास्तव में मजबूत करना होगा ताकि जब भी संभव हो सामग्री का पता लगाने में सक्षम हो, लेकिन यह यह एक प्रक्रिया होने जा रही है और हम यह सुनिश्चित करना चाहते हैं कि यह बोर्ड भर में लगातार किया जाए, आदि।
यह पूछे जाने पर कि क्या वीडियो स्ट्रीमिंग दिग्गज कंटेंट मॉडरेशन और एआई और एमएल टीमों की संख्या बढ़ाने पर विचार कर रही है, कैटज़ ने जवाब दिया कि यह कंपनी के लिए प्राथमिक फोकस क्षेत्र है।
“…संक्षिप्त उत्तर यह है कि यह हमारे लिए बहुत बड़ा फोकस क्षेत्र है। जिम्मेदारी कंपनी की मूलभूत प्राथमिकता है – विकास के नजरिए से हम जो कुछ भी करते हैं, उसे जिम्मेदारी से करना होता है। जैसा कि हम देखते हैं वहां एक प्रसार और एक चुनौती है, तदनुसार हम यह सुनिश्चित करेंगे कि हमारे पास इसके लिए समर्पित पर्याप्त संसाधन हों।”
सरकार ने हाल ही में मेटा के स्वामित्व वाली फेसबुक और गूगल के यूट्यूब समेत सोशल मीडिया कंपनियों को चेतावनी दी है कि वे उपयोगकर्ताओं को बार-बार याद दिलाएं कि स्थानीय कानून उन्हें डीपफेक और अश्लीलता या गलत सूचना फैलाने वाली सामग्री पोस्ट करने से रोकते हैं। आईटी मंत्रालय ने एक प्रेस विज्ञप्ति में कहा कि सभी प्लेटफार्मों ने अपने सामग्री दिशानिर्देशों को उसके नियमों के साथ संरेखित करने के लिए प्रतिबद्ध किया है।
