भारत सरकार की Grok AI पर सख्ती: अश्लील सामग्री का निर्माण जारी

Grok AI का दुरुपयोग: भारत सरकार की कार्रवाई

एलन मस्क की कंपनी xAI द्वारा विकसित Grok AI के दुरुपयोग के मामले में भारत सरकार की सख्ती के बावजूद स्थिति में कोई सुधार नहीं हो रहा है। केंद्र ने 2 जनवरी को सोशल मीडिया प्लेटफॉर्म X को पत्र भेजकर Grok और अन्य AI सेवाओं के दुरुपयोग पर रिपोर्ट मांगी थी, लेकिन Grok AI ने अश्लील और आपत्तिजनक सामग्री का निर्माण जारी रखा है। महिलाओं और बच्चों की तस्वीरों के साथ छेड़छाड़ के मामले लगातार सामने आ रहे हैं। आईटी मंत्रालय ने X को 72 घंटे का और समय दिया है।

सरकार की चेतावनी और X को भेजा गया नोटिस

केंद्र सरकार ने X को स्पष्ट रूप से बताया कि Grok और xAI की AI सेवाओं का उपयोग अश्लील, नग्न और अवैध सामग्री बनाने में किया जा रहा है। सरकार ने X से 72 घंटे के भीतर कार्रवाई और अनुपालन रिपोर्ट मांगी थी। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय का कहना है कि IT Act 2000 और IT Rules 2021 का पालन नहीं हो रहा है। लेकिन नोटिस के बावजूद Grok AI से आपत्तिजनक सामग्री का निर्माण नहीं रुका है।

72 घंटे बाद भी कार्रवाई का अभाव

भारत के इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने 2 जनवरी को X को निर्देश दिया था कि वह तुरंत सभी अश्लील और गैरकानूनी सामग्री हटाए। विशेष रूप से Grok AI द्वारा निर्मित सामग्री पर कड़ी नजर रखने को कहा गया था। मंत्रालय ने X से 72 घंटे के भीतर एक्शन टेकन रिपोर्ट (Action Taken Report) जमा करने के लिए कहा था। 6 जनवरी को निर्देश की डेडलाइन समाप्त हो गई, लेकिन Grok AI ने अश्लील सामग्री का निर्माण जारी रखा है। अब सरकार ने X को 72 घंटे का और समय दिया है।

महिलाओं के खिलाफ गंभीर आरोप

सरकार ने अपने निर्देश में कहा था कि Grok AI का उपयोग महिलाओं की तस्वीरों को अश्लील और अपमानजनक तरीके से प्रस्तुत करने के लिए किया जा रहा है। कई मामलों में असली तस्वीरों के साथ डिजिटल छेड़छाड़ कर उन्हें यौन रूप से स्पष्ट बनाया गया है। यह कार्य अक्सर फर्जी अकाउंट्स के माध्यम से किया जा रहा है, जिससे पीड़ितों के लिए शिकायत करना और भी कठिन हो जाता है।

बच्चों की तस्वीरों से जुड़ा अंतरराष्ट्रीय विवाद

Grok AI के माध्यम से बच्चों की तस्वीरों को यौन रूप से प्रस्तुत करने के मामले भी सामने आए हैं। UK की मीडिया रिपोर्ट्स के अनुसार, 10 साल से कम उम्र के बच्चों की तस्वीरों में बदलाव किया गया है। ब्रिटेन के कम्युनिकेशन वॉचडॉग Ofcom और यूरोपीय आयोग ने X और xAI से स्पष्टीकरण मांगा है। AI Forensics की रिपोर्ट में बताया गया है कि Grok से बनी बड़ी संख्या में तस्वीरें अभी भी ऑनलाइन उपलब्ध हैं।

X और एलन मस्क का बयान, लेकिन प्रभाव सीमित

भारत सरकार की चेतावनी के बाद X ने कहा था कि अवैध और अश्लील सामग्री पोस्ट करने वाले अकाउंट्स को हमेशा के लिए बैन किया जाएगा। एलन मस्क ने भी स्वीकार किया कि AI से बना गैरकानूनी सामग्री अपराध है। हालांकि, वास्तविकता यह है कि प्लेटफॉर्म पर ऐसे कंटेंट का प्रसार अब भी जारी है, जिससे X की नीतियों की प्रभावशीलता पर सवाल उठ रहे हैं।

कानून और प्लेटफॉर्म की विफलता

सरकार और विशेषज्ञों का मानना है कि यह मामला केवल उपयोगकर्ता की गलती नहीं है, बल्कि प्लेटफॉर्म की सुरक्षा व्यवस्था की गंभीर विफलता को दर्शाता है। बिना सहमति किसी की तस्वीर को अश्लील रूप में बदलना डिजिटल यौन उत्पीड़न की श्रेणी में आता है। भारत, UK और यूरोप में इसको लेकर चिंताएं बढ़ गई हैं।

अतिरिक्त जानकारी

ये भी पढ़ें: लैपटॉप खरीदने की नहीं पड़ेगी जरूरत! 12 इंच डिस्प्ले और 12,000mAh बैटरी वाला टैबलेट हुआ लॉन्च