नई दिल्ली: एलन मस्क की कंपनी xAI द्वारा विकसित Grok AI से आपत्तिजनक और अश्लील कंटेंट तैयार होने के मामलों पर भारत सरकार की सख्ती के बावजूद स्थिति में खास सुधार नहीं हुआ है। 2 जनवरी को आईटी मंत्रालय ने सोशल मीडिया प्लेटफॉर्म X को पत्र लिखकर Grok समेत अन्य एआई सेवाओं के दुरुपयोग पर रिपोर्ट मांगी थी। अब सरकार ने X को कार्रवाई और जवाब देने के लिए अतिरिक्त 72 घंटे का समय दिया है।
सरकार की चेतावनी और नोटिस
केंद्र सरकार ने साफ किया है कि Grok AI का उपयोग अश्लील, नग्न और अवैध कंटेंट के प्रसार में हो रहा है। आईटी एक्ट 2000 और आईटी नियम 2021 के उल्लंघन को गंभीर मानते हुए X से तय समयसीमा में ठोस कदम उठाने और विस्तृत रिपोर्ट सौंपने को कहा गया है।
महिलाओं और बच्चों से जुड़े गंभीर आरोप
सरकार के अनुसार, Grok AI के जरिए महिलाओं की तस्वीरों को आपत्तिजनक और अपमानजनक रूप में बदला जा रहा है। कई मामलों में डिजिटल छेड़छाड़ कर यौन रूप से स्पष्ट सामग्री तैयार की गई। बच्चों की तस्वीरों से जुड़े मामलों ने अंतरराष्ट्रीय स्तर पर भी चिंता बढ़ा दी है। यूके और यूरोप के नियामक संस्थान भी X और xAI से जवाब मांग रहे हैं।
X और एलन मस्क की प्रतिक्रिया
सरकारी चेतावनी के बाद X ने कहा कि अवैध कंटेंट बनाने या फैलाने वाले अकाउंट्स पर प्रतिबंध लगाया जाएगा। एलन मस्क ने भी गैरकानूनी एआई कंटेंट को अपराध बताया है। हालांकि, इसके बावजूद प्लेटफॉर्म पर ऐसे कंटेंट के मामले सामने आ रहे हैं, जिससे X की नीतियों और निगरानी तंत्र पर सवाल उठ रहे हैं।
डिजिटल सुरक्षा और कानून की चुनौती
विशेषज्ञों और सरकारी सूत्रों का कहना है कि यह सिर्फ यूजर्स की जिम्मेदारी का मामला नहीं, बल्कि प्लेटफॉर्म की सुरक्षा व्यवस्था की भी बड़ी विफलता है। बिना सहमति किसी की तस्वीर को आपत्तिजनक रूप में बदलना डिजिटल यौन उत्पीड़न की श्रेणी में आता है। भारत के साथ-साथ यूके और यूरोप में भी इस तरह के एआई दुरुपयोग को लेकर चिंता लगातार बढ़ रही है।
