एक स्क्रीनशॉट से पता चला कि जब जेमिनी से पूछा गया कि क्या पीएम मोदी ‘फासीवादी’ हैं, तो उन्होंने जवाब देते हुए कहा कि उन पर “उन नीतियों को लागू करने का आरोप लगाया गया है जिन्हें कुछ विशेषज्ञों ने फासीवादी बताया है।”
MeitY के एक वरिष्ठ अधिकारी ने कथित तौर पर खुलासा किया कि यह Google की AI प्रणाली द्वारा पक्षपातपूर्ण प्रतिक्रिया उत्पन्न करने का पहला उदाहरण नहीं है।
स्रोत इनपुट के आधार पर द इंडियन एक्सप्रेस की एक रिपोर्ट के अनुसार, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) प्रधान मंत्री नरेंद्र मोदी के संबंध में अपने एआई प्लेटफॉर्म जेमिनी द्वारा उत्पन्न विवादास्पद और संभावित गैरकानूनी प्रतिक्रियाओं के संबंध में Google को नोटिस जारी करने के लिए तैयार है। एक उच्च-रैंकिंग सरकारी अधिकारी ने कथित तौर पर खुलासा किया कि Google की जेनरेटिव एआई प्रणाली जेमिनी (जिसे पहले बार्ड के नाम से जाना जाता था) ने पहले एक रूढ़िवादी प्रकाशन से एक लेख को सारांशित करने के लिए पूछे जाने पर एक उपयोगकर्ता को अनुचित प्रतिक्रिया प्रदान की थी। पीएम मोदी से संबंधित हालिया समस्याग्रस्त प्रतिक्रियाओं ने मंत्रालय को कार्रवाई करने के लिए प्रेरित किया है।
एक्स (पूर्व में ट्विटर) पर साझा किए गए एक स्क्रीनशॉट से पता चला कि मिथुन से जब पूछा गया कि क्या पीएम मोदी ‘फासीवादी’ हैं, तो उन्होंने जवाब देते हुए कहा कि उन पर “उन नीतियों को लागू करने का आरोप लगाया गया है जिन्हें कुछ विशेषज्ञों ने फासीवादी बताया है।” हालाँकि, जब पूर्व अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प के बारे में इसी तरह का सवाल पूछा गया, तो जेमिनी ने उपयोगकर्ता को सबसे सटीक जानकारी के लिए Google खोज करने के लिए पुनर्निर्देशित किया।
Note how Gemini has been trained, for American non-allies, American allies and Americans? Shame @Google. pic.twitter.com/d0uwXzBPsv
— Arnab Ray (@greatbong) February 22, 2024
घटना पर प्रतिक्रिया देते हुए, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी राज्य मंत्री राजीव चंद्रशेखर ने कहा, “ये कार्रवाई आईटी अधिनियम के मध्यस्थ नियमों (आईटी नियमों) के नियम 3 (1) (बी) का सीधा उल्लंघन है और आपराधिक के कई प्रावधानों का उल्लंघन है।” कोड, “द इंडियन एक्सप्रेस ने रिपोर्ट किया। ये नियम Google जैसे मध्यस्थों के लिए तीसरे पक्ष की सामग्री से प्रतिरक्षा बनाए रखने के लिए बुनियादी उचित परिश्रम को अनिवार्य करते हैं।
यह विकास जेमिनी और चैटजीपीटी जैसे जेनेरिक एआई प्लेटफार्मों को नियंत्रित करने वाले कानूनी ढांचे के संबंध में सरकारी अधिकारियों और प्रौद्योगिकी निगमों के बीच चल रहे संघर्ष को रेखांकित करता है। ऐतिहासिक शख्सियतों और घटनाओं के चित्रण के संबंध में आलोचना के बाद, Google ने हाल ही में अपने जेमिनी एआई टूल द्वारा “कुछ ऐतिहासिक छवि निर्माण चित्रणों में अशुद्धियाँ” के लिए माफी जारी की।
रिपोर्ट के अनुसार, मंत्रालय के एक वरिष्ठ अधिकारी ने खुलासा किया कि Google के AI सिस्टम द्वारा पक्षपातपूर्ण प्रतिक्रिया उत्पन्न करने का यह पहला उदाहरण नहीं है। मंत्रालय ने Google को कारण बताओ नोटिस जारी करने की योजना बनाई है, जिसमें जेमिनी के विवादास्पद आउटपुट के लिए स्पष्टीकरण की मांग की जाएगी। अधिकारी ने नाम न छापने की शर्त पर बताया कि संतोषजनक जवाब देने में नाकाम रहने पर कानूनी नतीजे भुगतने पड़ सकते हैं।
पूछताछ करने पर, जेमिनी ने पीएम मोदी के संबंध में अधिक सूक्ष्म प्रतिक्रिया दी, इस मामले पर आम सहमति की कमी को ध्यान में रखते हुए फासीवाद के आरोपों को स्वीकार किया। प्रतिक्रिया में मोदी के भारतीय जनता पार्टी (भाजपा) के साथ जुड़ाव और उनके शासन पर विपरीत राय का हवाला देते हुए अलग-अलग दृष्टिकोणों पर प्रकाश डाला गया।
हालाँकि, पहले स्क्रीनशॉट के समान, डोनाल्ड ट्रम्प के बारे में पूछे जाने पर जेमिनी ने एक सामान्य प्रतिक्रिया दी।
विशेष रूप से, पिछले साल, एक उपयोगकर्ता ने आरोप लगाया था कि जेमिनी (तब बार्ड) ने गलत सूचना संबंधी चिंताओं का हवाला देते हुए एक रूढ़िवादी आउटलेट के एक लेख का सारांश देने से इनकार कर दिया था। Google ने उस समय स्पष्ट किया था कि बार्ड सार्वजनिक रूप से उपलब्ध डेटा पर प्रशिक्षित एक प्रयोग के रूप में काम करता है और जरूरी नहीं कि यह Google के दृष्टिकोण को प्रतिबिंबित करता हो।
