ग्रोक AI के गलत इस्तेमाल पर केंद्र सरकार सख्त: ‘X’ से मांगी गई एक्शन रिपोर्ट, अश्लील कंटेंट रोकने की दी गई चेतावनी
नेशनल डेस्क: सोशल मीडिया प्लेटफॉर्म ‘X’ के AI टूल ‘ग्रोक’ के गलत इस्तेमाल पर भारत सरकार ने सख्त रुख अपनाया है। केंद्र सरकार ने कंपनी को चिट्ठी लिखकर ग्रोक के ज़रिए फैलाए जा रहे अश्लील और आपत्तिजनक कंटेंट के खिलाफ की गई कार्रवाई की रिपोर्ट मांगी है।
क्या है पूरा मामला? सूत्रों के मुताबिक, एलन मस्क की कंपनी xAI का बनाया यह AI चैटबॉट सवालों के जवाब देने के साथ-साथ तस्वीरें भी बना सकता है। लेकिन हाल ही में ऐसे कई मामले सामने आए हैं, जहां इस टूल का इस्तेमाल अश्लील, न्यूड और सेक्शुअली एक्सप्लिसिट कंटेंट बनाने और शेयर करने के लिए किया गया है। सरकार ने ‘X’ से इस बारे में तुरंत एक्शन लेने को कहा है।
महिलाओं को टारगेट किया जा रहा है: सरकार ने अपनी चिट्ठी में खास तौर पर इस बात का ज़िक्र किया है कि ग्रोक का इस्तेमाल करके अश्लील तस्वीरें और वीडियो बनाकर महिलाओं को अपमानजनक तरीके से दिखाया जा रहा है। हैरानी की बात यह है कि यह काम फेक अकाउंट्स के ज़रिए किया जा रहा है, जो प्लेटफॉर्म के सिक्योरिटी इंतज़ामों की बड़ी नाकामी को दिखाता है। सरकार के मुताबिक, जो महिलाएं सोशल मीडिया पर अपनी तस्वीरें पोस्ट करती हैं, उन्हें इस AI के ज़रिए टारगेट किया जा रहा है और उनकी तस्वीरों के साथ छेड़छाड़ की जा रही है।
कानूनी उल्लंघन का संदर्भ: इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) का मानना है कि ‘X’ प्लेटफॉर्म सूचना प्रौद्योगिकी अधिनियम, 2000 (IT एक्ट) और IT नियम, 2021 के प्रावधानों का ठीक से पालन नहीं कर रहा है। सरकार ने स्पष्ट किया है कि प्लेटफॉर्म पर दिखाया जा रहा कंटेंट देश के लागू कानूनों और शालीनता के मानकों के अनुसार नहीं है।सरकार ने अब ‘X’ से जवाब मांगा है कि उसके पहले के निर्देशों के बाद इस दिशा में क्या कदम उठाए गए हैं।