Misuse of Grok AI : एलॉन मस्क यांच्या ‘X’ (पूर्वीचे ट्विटर) सोशल मीडिया प्लॅटफॉर्मला केंद्र सरकारने मोठा दणका दिला आहे. ग्रोक एआय (Grok AI) या टूलच्या माध्यमातून महिलांचे अश्लील आणि आक्षेपार्ह फोटो-व्हिडीओ तयार केले जात असल्याबद्दल सरकारने तीव्र चिंता व्यक्त केली आहे. हे कृत्य महिलांची गोपनीयता आणि डिजिटल सुरक्षेचे उल्लंघन करणारे असल्याचे सरकारने स्पष्ट केले असून, याप्रकरणी माहिती तंत्रज्ञान मंत्रालयाने ‘X’ ला कारणे दाखवा नोटीस बजावली आहे.
या गंभीर प्रकरणाची दखल शिवसेना (ठाकरे) गटाच्या राज्यसभा खासदार प्रियांका चतुर्वेदी यांनी घेतली होती. त्यांनी केंद्रीय माहिती आणि प्रसारण मंत्री अश्विनी वैष्णव यांना पत्र लिहून डीपफेक तंत्रज्ञानाच्या माध्यमातून महिलांची बदनामी होत असल्याचा मुद्दा मांडला होता. या तक्रारीनंतरच केंद्र सरकारने तत्काळ पावले उचलत इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान कायद्यानुसार ‘X’ वर कारवाईचे निर्देश दिले आहेत.
सरकारने ‘X’ प्लॅटफॉर्मला त्यांच्या तांत्रिक आणि प्रशासकीय चौकटीचा (Governance Framework) आढावा घेण्याचे आदेश दिले आहेत. तसेच, ग्रोकच्या माध्यमातून तयार करण्यात आलेला सर्व बेकायदेशीर मजकूर तातडीने काढून टाकून दोषी वापरकर्त्यांवर कारवाई करण्यास सांगितले आहे. या संदर्भातील सविस्तर अहवाल सादर करण्यासाठी सरकारने कंपनीला केवळ 72 तासांची मुदत दिली आहे.
Have sought urgent attention and intervention of Hon. IT Minister to take the issue of increasing incidents of AI apps being prompted to sexualise and undress women by unauthorised use of their images on social media. There have to be guardrails put in place by features such as… pic.twitter.com/pR5tKzDBwi — Priyanka Chaturvedi?? (@priyankac19) January 2, 2026
दिलेल्या मुदतीत अटींचे पालन न झाल्यास ‘X’ ला गंभीर परिणामांना सामोरे जावे लागेल, असा इशाराही मंत्रालयाने दिला आहे. कोणतीही पूर्वसूचना न देता प्लॅटफॉर्मच्या जबाबदार अधिकाऱ्यांवर आणि कायद्याचे उल्लंघन करणाऱ्या युजर्सवर माहिती तंत्रज्ञान कायदा, आयटी नियम, BNS, BNSS आणि इतर संबंधित कायद्यांनुसार कठोर कायदेशीर कारवाई केली जाणार आहे.
प्रियांका चतुर्वेदी यांनी या कारवाईनंतर आयटी मंत्र्यांचे आभार मानले आहेत. मोठ्या टेक कंपन्यांनी तंत्रज्ञानाच्या जबाबदार वापरासाठी नियम कडक करणे आवश्यक असल्याचे त्यांनी नमूद केले. एआयच्या माध्यमातून महिलांचे कपडे उतरवण्यासारखे विकृत प्रकार समाजस्वास्थ्यासाठी घातक असून, अशा कृत्यात गुंतलेल्या पुरुषांच्या संस्कारांवरही त्यांनी यावेळी प्रखर भाष्य केले आहे.
I would take this opportunity to thank Hon IT Minister for promptly taking note of my letter and for issuing a letter to X platform in the regard of AI led grok generating problematic content of women based on prompts that disrespect woman’s dignity and violates their consent,… pic.twitter.com/kEb1HameMn — Priyanka Chaturvedi?? (@priyankac19) January 2, 2026
