‘X’ ने भारतीय कानूनों के आगे घुटने टेके ! Grok AI ने अश्लील कंटेंट पर की बड़ी कार्रवाई

नेशनल डेस्क: सोशल मीडिया की बड़ी कंपनी ‘X’ (पहले ट्विटर) ने भारतीय कानूनों और गाइडलाइंस के पालन के मामले में अपनी गलती मान ली है। एलन मस्क की मालिकी वाली कंपनी ने भारत सरकार को भरोसा दिलाया है कि वह भविष्य में देश के कानूनों के हिसाब से ही काम करेगी।

अब तक की कार्रवाई: सरकारी सूत्रों के मुताबिक, ‘X’ ने अब तक करीब 3,500 कंटेंट पोस्ट ब्लॉक किए हैं और नियमों का उल्लंघन करने वाले 600 अकाउंट डिलीट किए हैं। कंपनी ने यह भी वादा किया है कि वह अपने प्लेटफॉर्म पर किसी भी तरह के अश्लील कंटेंट की इजाज़त नहीं देगी।

विवाद की वजह:

Grok AI का गलत इस्तेमाल: यह पूरा मामला ‘X’ के AI टूल ‘Grok’ से जुड़ा है। मिनिस्ट्री ऑफ़ इलेक्ट्रॉनिक्स एंड इन्फॉर्मेशन टेक्नोलॉजी (MEIT) ने एक नोटिस जारी कर कहा था कि ‘Grok’ का इस्तेमाल करके फेक अकाउंट के ज़रिए महिलाओं की अश्लील, आपत्तिजनक और अपमानजनक तस्वीरें और वीडियो बनाए जा रहे थे। मिनिस्ट्री ने इसे सोशल मीडिया प्लेटफॉर्म के सिक्योरिटी इंतज़ाम की गंभीर नाकामी और IT कानूनों का उल्लंघन बताया था।

सरकार की चेतावनी: सरकार ने ‘X’ को साफ निर्देश दिए थे कि वह Grok से सारा गैर-कानूनी कंटेंट तुरंत हटा दे, ऐसा न करने पर कानूनी कार्रवाई की जाएगी। सरकार ने यह भी साफ कर दिया कि IT एक्ट के सेक्शन 79 के तहत मिलने वाला कानूनी बचाव (जो प्लेटफॉर्म को यूज़र्स के कंटेंट के लिए ज़िम्मेदार नहीं ठहराता) तभी लागू होगा जब कंपनी पूरी सावधानी और नियमों का पालन करेगी।आगे के कदम: ‘X’ को Grok ऐप में तकनीकी कमियों को दूर करने और कंटेंट रेगुलेशन को कड़ा करने के लिए कहा गया है। कंपनी को निर्देश दिया गया है कि वह नियम तोड़ने वाले यूज़र्स के अकाउंट तुरंत सस्पेंड करे और बिना किसी देरी के अश्लील कंटेंट तक पहुंच को ब्लॉक करे।

ग्रोक AI के गलत इस्तेमाल पर केंद्र सरकार सख्त: ‘X’ से मांगी गई एक्शन रिपोर्ट, अश्लील कंटेंट रोकने की दी गई चेतावनी

नेशनल डेस्क: सोशल मीडिया प्लेटफॉर्म ‘X’ के AI टूल ‘ग्रोक’ के गलत इस्तेमाल पर भारत सरकार ने सख्त रुख अपनाया है। केंद्र सरकार ने कंपनी को चिट्ठी लिखकर ग्रोक के ज़रिए फैलाए जा रहे अश्लील और आपत्तिजनक कंटेंट के खिलाफ की गई कार्रवाई की रिपोर्ट मांगी है।

क्या है पूरा मामला? सूत्रों के मुताबिक, एलन मस्क की कंपनी xAI का बनाया यह AI चैटबॉट सवालों के जवाब देने के साथ-साथ तस्वीरें भी बना सकता है। लेकिन हाल ही में ऐसे कई मामले सामने आए हैं, जहां इस टूल का इस्तेमाल अश्लील, न्यूड और सेक्शुअली एक्सप्लिसिट कंटेंट बनाने और शेयर करने के लिए किया गया है। सरकार ने ‘X’ से इस बारे में तुरंत एक्शन लेने को कहा है।

महिलाओं को टारगेट किया जा रहा है: सरकार ने अपनी चिट्ठी में खास तौर पर इस बात का ज़िक्र किया है कि ग्रोक का इस्तेमाल करके अश्लील तस्वीरें और वीडियो बनाकर महिलाओं को अपमानजनक तरीके से दिखाया जा रहा है। हैरानी की बात यह है कि यह काम फेक अकाउंट्स के ज़रिए किया जा रहा है, जो प्लेटफॉर्म के सिक्योरिटी इंतज़ामों की बड़ी नाकामी को दिखाता है। सरकार के मुताबिक, जो महिलाएं सोशल मीडिया पर अपनी तस्वीरें पोस्ट करती हैं, उन्हें इस AI के ज़रिए टारगेट किया जा रहा है और उनकी तस्वीरों के साथ छेड़छाड़ की जा रही है।

कानूनी उल्लंघन का संदर्भ: इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) का मानना है कि ‘X’ प्लेटफॉर्म सूचना प्रौद्योगिकी अधिनियम, 2000 (IT एक्ट) और IT नियम, 2021 के प्रावधानों का ठीक से पालन नहीं कर रहा है। सरकार ने स्पष्ट किया है कि प्लेटफॉर्म पर दिखाया जा रहा कंटेंट देश के लागू कानूनों और शालीनता के मानकों के अनुसार नहीं है।सरकार ने अब ‘X’ से जवाब मांगा है कि उसके पहले के निर्देशों के बाद इस दिशा में क्या कदम उठाए गए हैं।