भारत में मेटा को डीपफेक और हेरफेर किए गए कंटेंट पर नियंत्रण के लिए निर्देश

भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने मेटा से अनुरोध किया है कि वह अपने एल्गोरिदम में आवश्यक परिवर्तन करे। यह कदम डीपफेक, प्रोपेगैंडा और अन्य प्रकार के हेरफेर किए गए या अवैध कंटेंट को अपने प्लेटफॉर्म पर फैलने से रोकने के लिए उठाया गया है। मंत्रालय ने कंपनी से कंटेंट मॉडरेशन को सुदृढ़ करने, अधिकृत एजेंसियों के अनुरोध पर सामग्री हटाने की प्रक्रिया को तेज करने और भारत की डेटा-लोकलाइजेशन आवश्यकताओं का पालन सुनिश्चित करने के लिए भी कहा है।

सूत्रों के अनुसार, सरकार चाहती है कि मेटा अधिकारियों के साथ मिलकर डीपफेक, मॉर्फ्ड इमेज और गुमराह करने वाली पोस्ट का पता लगाने और उन्हें हटाने की प्रक्रिया को बेहतर बनाए। MeitY और मेटा के बीच हाल ही में हुई बातचीत के बाद यह निर्देश जारी किया गया है। शुक्रवार को हुई बैठक में, मेटा की तकनीकी टीम ने ऑनलाइन हानिकारक कंटेंट का पता लगाने के लिए अपने मौजूदा सिस्टम के बारे में जानकारी साझा की।

अधिकारियों ने मेटा से प्रोपेगैंडा, डीपफेक और हेरफेर किए गए मीडिया के प्रसार को कम करने के लिए विशेष एल्गोरिदम में बदलाव करने पर जोर दिया। मेटा ने अपने सिस्टम में कमियों को स्वीकार किया और सिंथेटिक कंटेंट से निपटने के लिए संभावित तकनीकी उपायों पर चर्चा की। सरकारी सूत्रों के अनुसार, यह निर्देश हाल की बातचीत के बाद आया है, जिसमें मेटा ने अपने सिस्टम में सुधार की आवश्यकता को माना। दोनों पक्षों ने बातचीत जारी रखने पर सहमति जताई है और अगले सप्ताह एक और बैठक की योजना बनाई गई है।

यह घटनाक्रम उस समय सामने आया है जब भारत AI-जनरेटेड और सिंथेटिक कंटेंट से संबंधित नियमों को और सख्त करने की दिशा में कदम बढ़ा रहा है। MeitY के फ्रेमवर्क के तहत, बड़े सोशल मीडिया इंटरमीडियरीज को सिंथेटिक रूप से तैयार जानकारी के संबंध में तकनीकी उपाय करने होंगे, जिसमें यूजर डिक्लेरेशन और ऐसे कंटेंट की स्पष्ट लेबलिंग शामिल है।