‘ग्रोक’ एआईले महिलाका नग्न तस्बिर बनाएपछि भारतमा भूकम्प: मस्क भन्छन्, ‘यो कलम समात्नेको दोष हो!’

विश्वप्रसिद्ध अर्बपति एलन मस्कको सामाजिक सञ्जाल ‘एक्स’ (पूर्व ट्वीटर) अहिले भारत सरकारको कडा निसानामा परेको छ। एक्सको ‘ग्रोक’ एआई च्याटबटमार्फत महिलाको अश्लील र आपत्तिजनक तस्बिरहरू बनाइएको तथ्य बाहिरिएपछि भारत सरकारले मस्कको कम्पनीलाई घुँडा टेकाउने गरी कडा निर्देशन जारी गरेको हो।

के हो विवाद?

राज्यसभा सांसद प्रियंका चतुर्वेदीले ‘ग्रोक एआई’ प्रयोग गरी महिलाहरूको फोटोलाई विकृत बनाइएको र उनीहरूलाई जबर्जस्ती ‘बिकिनी अवतार’मा देखाइएको भन्दै प्रविधि मन्त्रालयमा उजुरी दर्ता गरेकी थिइन्। डरलाग्दो कुरा त के छ भने, यो एआई टुलले नाबालिगसँग सम्बन्धित यौनजन्य सामग्रीसमेत उत्पादन गरेको पाइएको थियो।

भारतको सूचना प्रविधि मन्त्रालयले महत्त्वपूर्ण आदेश जारी गर्दै एक्सलाई ७२ घण्टाभित्र ‘एक्सन टेकन रिपोर्ट’ बुझाउन अल्टिमेटम दिएको छ। सरकारले ग्रोक एआईमार्फत भइरहेका नग्नता, यौनजन्य र गैरकानूनी सामग्रीको उत्पादन तत्काल हटाउन र नयाँ राख्न रोक लगाउन आदेश दिएको हो।

खतराको घन्टी

यदि मस्कको कम्पनीले चित्तबुझ्दो सुधार नगरेमा उसले भारतीय कानूनअन्तर्गत पाउँदै आएको ‘सेफ हार्बर’ सुरक्षा गुमाउनेछ। यो सुरक्षा गुम्नु भनेको एक्समा प्रयोगकर्ताले पोस्ट गर्ने कुनै पनि सामग्रीका लागि कम्पनीका मालिक र अधिकारीहरू सिधै कानूनी रूपमा जिम्मेवार हुनु हो। यसअनुसार मस्कविरूद्ध भारतमा फौजदारी मुद्दा चल्न सक्नेछ।

यो प्रकरणामा अहिले भइरहेको बहसलाई एआई नियमनको विश्वव्यापी ‘टेस्ट केस’को रूपमै हेरिएको छ। सरकारले स्पष्ट भनेको छ- ‘तत्काल एक्सन रिपोर्ट नदिए नियम उल्लङ्घन गर्ने प्लेटफर्म र त्यसका जिम्मेवार अधिकारीविरुद्ध विना कुनै पूर्वसूचना कडा कानूनी कारबाही गरिनेछ।’

यद्यपि एक्सले सुरक्षा कमजोरी स्वीकार्दै केही फोटो हटाएको दाबी गरेको छ तर अझै धेरै आपत्तिजनक सामग्री प्लेटफर्ममै उपलब्ध छन्। यो विवादले एलन मस्क र भारत सरकारबीचको सम्बन्धलाई तनावपूर्ण बनाएको छ।

यसैबीच माइक्रोब्लगिङ साइट एक्सका मालिक एलन मस्कले एआई सेवा ‘ग्रोक’ प्रयोग गरेर अवैध सामग्री बनाउने व्यक्तिहरूले पनि अवैध सामाग्री अपलोड गर्नेले जस्तै कानूनी परिणाम भोग्नुपर्ने बताएका छन्।

ग्रोक र कलम उस्तै हुन्: मस्क

मस्कको यो भनाइ इलेक्ट्रोनिक्स र सूचना प्रविधि मन्त्रालयले एक्सलाई तत्काल सबै अश्लील, अभद्र र गैरकानूनी सामग्रीहरू, विशेष गरी ग्रोक एआईद्वारा निर्मित सामग्रीहरू हटाउन वा कानूनी कारबाही भोग्न निर्देशन दिएको भोलिपल्ट आएको हो।

भारतीय पत्रिका द हिन्दूको अनलाइन संस्करणअनुसार सार्वजनिक बहस र विभिन्न संसदीय समितिमा उठेका विषयपछि सांसद प्रियंकाले केन्द्रीय मन्त्री अश्विनी वैष्णवलाई पत्र लेखेकी थिइन्।

एक्सका मालिक एलेन मस्कले ग्रोकलाई कलमसँग पनि तुलना गरेका छन्। ‘केही मानिसहरू ग्रोकले अनुपयुक्त इमेज बनाइरहेको बताउँछन् तर यो नराम्रो कुरा लेखेकोमा कलमलाई दोष दिनु जस्तै हो। कलमले के लेख्ने भन्ने निर्णय गर्दैन बरु यसलाई समात्ने व्यक्तिले गर्छ। ग्रोकले पनि त्यसरी नै काम गर्छ। तपाईंले के पाउनुहुन्छ भन्ने कुरा तपाईंले के राख्नुहुन्छ भन्नेमा भर पर्छ। यस बारे सोच्नुहोस्!,’ मस्कले भनेका छन्।

यी पनि पढ्नुहोस् :