भारत सरकार ने सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) को अपने आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक के दुरुपयोग को लेकर कड़ी चेतावनी जारी की है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने कंपनी को निर्देश दिया है कि वह अपने एआई सिस्टम की तकनीकी, प्रक्रियात्मक और प्रशासनिक स्तर पर व्यापक समीक्षा करे। सरकार ने यह कदम उन शिकायतों के बाद उठाया है जिनमें यह पाया गया कि ग्रोक का उपयोग करके महिलाओं और बच्चों की आपत्तिजनक और यौन स्पष्टता वाली तस्वीरें तैयार की जा रही हैं। मंत्रालय ने कंपनी को इन निर्देशों पर की गई कार्रवाई की विस्तृत रिपोर्ट अगले 72 घंटों के भीतर प्रस्तुत करने को कहा है।

आईटी मंत्रालय के साइबर लॉ विभाग द्वारा भेजे गए पत्र में स्पष्ट किया गया है कि एक्स को अपने सेवा नियमों और उपयोगकर्ताओं के लिए निर्धारित एआई उपयोग प्रतिबंधों को सख्ती से लागू करना होगा। सरकार ने निर्देश दिया है कि जो खाते ग्रोक के माध्यम से ऐसी अश्लील सामग्री बना रहे हैं, उन्हें तत्काल निलंबित या बंद किया जाए। इसके अलावा, मंत्रालय ने यह भी कहा है कि ऐसी सामग्री जो पहले ही प्लेटफॉर्म पर प्रसारित हो चुकी है या बनाई जा चुकी है, उसे बिना किसी देरी के हटाया जाए या उसकी पहुंच रोकी जाए। यह कार्रवाई आईटी नियम 2021 के तहत निर्धारित समयसीमा के भीतर होनी चाहिए, और कंपनी को यह सुनिश्चित करना होगा कि इस प्रक्रिया में किसी भी प्रकार के डिजिटल साक्ष्य प्रभावित न हों।

सरकार ने यह भी स्पष्ट कर दिया है कि यदि एक्स इन निर्देशों का पालन करने में विफल रहता है, तो उसे गंभीर कानूनी परिणामों का सामना करना पड़ सकता है। इसमें आईटी अधिनियम की धारा 79 के तहत प्राप्त सेफ हार्बर (दायित्व से छूट) का दर्जा खोना शामिल है, जिसके बाद प्लेटफॉर्म पर मौजूद किसी भी अवैध सामग्री के लिए कंपनी को सीधे तौर पर जिम्मेदार ठहराया जा सकेगा। इसके अलावा, भारतीय न्याय संहिता और आईटी अधिनियम की अन्य धाराओं के तहत आपराधिक कार्रवाई भी की जा सकती है। इस मुद्दे पर केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने भी कड़ा रुख अपनाया है। उन्होंने जोर देकर कहा कि सोशल मीडिया प्लेटफॉर्म्स को अपने मंच पर मौजूद सामग्री की पूरी जिम्मेदारी लेनी चाहिए। उन्होंने कहा कि आज के समय में सोशल मीडिया का समाज पर गहरा प्रभाव है, इसलिए इन प्लेटफॉर्मों को ऐसी संवेदनशील और अवैध सामग्री पर हस्तक्षेप करना अनिवार्य है। गौरतलब है कि हाल ही में ऐसी खबरें आई थीं कि ग्रोक चैटबॉट भारत में कुछ साधारण प्रॉम्प्ट (निर्देशों) की मदद से अश्लील तस्वीरें बनाने की अनुमति दे रहा है। हालांकि इस संबंध में एक्स को भेजे गए ईमेल का कंपनी की ओर से अब तक कोई जवाब नहीं मिला है। सरकार का यह सख्त कदम डिजिटल स्पेस को सुरक्षित बनाने और एआई के अनैतिक उपयोग पर लगाम कसने की दिशा में एक महत्वपूर्ण पहल माना जा रहा है।