Grok एआई नीति: xAI द्वारा विकसित और X में शामिल किया गया AI टूल Grok इन दिनों विवादों के घेरे में है। उपयोगकर्ताओं द्वारा इसके गलत इस्तेमाल से उत्पन्न अश्लील तस्वीरों के मामले में कड़ी आलोचना का सामना करते हुए, इस सोशल मीडिया प्लेटफॉर्म ने अब Grok पर नई पाबंदियों का ऐलान किया है। अब यह टूल असली लोगों की तस्वीरों को इस तरह से संपादित नहीं कर सकेगा कि वे भड़काऊ या आपत्तिजनक परिधान में दिखें। यह निर्णय यूके और अमेरिका जैसे कई देशों में उठ रही चिंताओं को देखते हुए लिया गया है, जहां AI टूल्स का गलत इस्तेमाल करके लोगों की तस्वीरों को अश्लील तरीके से प्रस्तुत किया जा रहा था।

कंपनी की स्थिति

X ने घोषणा की है कि कंपनी ने तकनीकी परिवर्तनों को लागू किया है, ताकि Grok असली लोगों की तस्वीरों को इस प्रकार संपादित न कर सके जिससे उन्हें बिकिनी या अन्य भड़काऊ कपड़ों में प्रस्तुत किया जा सके। यह प्रतिबंध सभी उपयोगकर्ताओं पर लागू होगा, चाहे वे मुफ्त उपयोगकर्ता हों या भुगतान करते हुए सब्सक्रिप्शन लेने वाले। टेक कंपनियों पर सरकारी अधिकारियों और नियामकों का दबाव बढ़ रहा है, जिससे AI द्वारा तैयार कंटेंट से होने वाले संभावित नुकसान को रोकने की जरूरत महसूस की जा रही है।

सरकारी एक्शन

xAI पर Grok के ‘स्पाइसी मोड’ फीचर के चलते अंतरराष्ट्रीय स्तर पर दबाव बढ़ता जा रहा था। इस फीचर की मदद से उपयोगकर्ता सामान्य टेक्स्ट के माध्यम से महिलाओं और बच्चों की आपत्तिजनक डीपफेक तस्वीरें बना सकते थे। 10 जनवरी को इंडोनेशिया इस सेवा को पूरी तरह से ब्लॉक करने वाला पहला देश बना। इसके एक दिन बाद, मलेशिया ने भी इसी तरह का निर्णय लिया।

भारत ने रविवार को कहा कि उसकी शिकायतों के बाद X ने हजारों पोस्ट हटाए हैं और कई उपयोगकर्ता खातों पर कार्रवाई की है। इस बीच, ब्रिटेन की मीडिया नियामक संस्था Ofcom ने यह स्वीकार किया है कि वह यह जांच करेगी कि क्या X ने यौनाक्षरों को लेकर ब्रिटेन के कानूनों का उल्लंघन किया है।

फ्रांस में बच्चों से जुड़े मामलों की कमिश्नर सारा एल हेरी ने भी कहा कि उन्होंने Grok से संबंधित मामलों को फ्रांसीसी सरकारी वकील, मीडिया नियामक Arcom और यूरोपीय संघ को भेज दिया है।