Grok AI Restrictions: जगातील सर्वात श्रीमंत व्यक्ती एलोन मस्क यांची कंपनी 'एक्स' (पूर्वीचे ट्विटर) सध्या कृत्रिम बुद्धिमत्तेच्या (AI) गैरवापरामुळे वादाच्या भोवऱ्यात सापडली आहे. 'एक्स'चा एआय चॅटबॉट 'ग्रोक' (Grok) वापरून महिलांच्या फोटोंचे अश्लील डीपफेक तयार केले जात असल्याच्या तक्रारी वाढल्या होत्या. या प्रकरणाची गंभीर दखल घेत भारत सरकारने दिलेल्या इशाऱ्यानंतर, आता 'एक्स'ने आपल्या धोरणात मोठे बदल केले असून अश्लील प्रतिमा तयार करण्यावर पूर्णपणे बंदी घातली आहे.
प्रीमियम युजर्सनाही नियमांचा दणका
ग्रोकच्या सुरक्षा पथकाने स्पष्ट केले आहे की, हे नवीन निर्बंध केवळ मोफत वापरकर्त्यांसाठीच नसून 'एक्स'चे प्रीमियम सबस्क्रिप्शन असलेल्या वापरकर्त्यांनाही लागू राहतील. आता ग्रोकचा वापर उघड किंवा आक्षेपार्ह कपड्यांमधील खऱ्या व्यक्तींचे फोटो तयार करण्यासाठी करता येणार नाही. डिजिटल माध्यमांतून महिला आणि मुलांविरुद्ध होणारे गुन्हे रोखण्यासाठी हे पाऊल उचलण्यात आले असून, नियमांचे उल्लंघन करणाऱ्यांना थेट जबाबदार धरले जाणार आहे.
भारत सरकार अॅक्शन मोडमध्ये
भारताच्या इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) या वादाची गंभीर दखल घेत 'एक्स'ला कठोर निर्देश दिले होते. मंत्रालयाच्या सायबर कायदा विभागाने भारतीय कायद्यांचे उल्लंघन करणारी सर्व सामग्री विलंब न करता काढून टाकण्याचे आदेश दिले होते. 'आयटी नियम 2021' चे काटेकोर पालन करण्याचे बजावल्यानंतर कंपनीने आपला कारवाई अहवाल सादर केला आहे.
35000 आक्षेपार्ह फोटो हटवली, 600 युजर्स ब्लॉक
दरम्यान, 'एक्स'ने सादर केलेल्या आकडेवारीनुसार, ग्रोकवर तयार करण्यात आलेल्या सुमारे 3,500 अश्लील प्रतिमा आणि आशय प्लॅटफॉर्मवरून हटवण्यात आला आहे. याशिवाय, चॅटबॉटचा गैरवापर करून अश्लील सामग्री तयार करणाऱ्या 600 वापरकर्त्यांना ओळखून त्यांचे अकाऊंट कायमचे ब्लॉक करण्यात आले आहे. या कारवाईमुळे तंत्रज्ञान क्षेत्रातील कंपन्यांना वापरकर्त्यांच्या सुरक्षिततेबाबत अधिक सजग राहण्याचा इशारा मिळाला आहे.
