एआई के दुरुपयोग पर चिंताओं के बीच इंडोनेशिया ग्रोक पर प्रतिबंध लगाने वाला पहला देश बन गया है

सीबीएस न्यूज की रिपोर्ट के अनुसार, सहमति के बिना कामुक छवियां बनाने के लिए एआई के दुरुपयोग पर बढ़ती वैश्विक चिंताओं के बीच, इंडोनेशिया एलोन मस्क की कंपनी एक्सएआई द्वारा विकसित कृत्रिम बुद्धिमत्ता चैटबॉट ग्रोक तक पहुंच को पूरी तरह से निलंबित करने वाला पहला देश बन गया है।

यह निर्णय उन रिपोर्टों के बाद आया है कि ग्रोक की छवि-निर्माण सुविधा उपयोगकर्ताओं को सरल पाठ संकेतों का उपयोग करके महिलाओं और बच्चों की तस्वीरों को यौन रूप से विचारोत्तेजक छवियों में संपादित करने की अनुमति देती है। सीबीएस न्यूज़ ने सत्यापित किया कि टूल ने महिलाओं की छवियों को बदलकर उन्हें बिकनी या न्यूनतम कपड़ों में दिखाने के अनुरोधों का अनुपालन किया है, जिसमें यूएस फर्स्ट लेडी मेलानिया ट्रम्प जैसी प्रमुख सार्वजनिक हस्तियों की छवियां भी शामिल हैं।

इस कदम की घोषणा करते हुए, इंडोनेशिया के संचार और डिजिटल मामलों के मंत्री मेउत्या हाफिद ने कहा कि निलंबन का उद्देश्य कमजोर समूहों की रक्षा करना है। हाफिद ने कहा, “महिलाओं, बच्चों और जनता को कृत्रिम बुद्धिमत्ता तकनीक का उपयोग करके उत्पन्न नकली अश्लील सामग्री के जोखिम से बचाने के लिए, सरकार ने ग्रोक एप्लिकेशन तक पहुंच को अस्थायी रूप से अवरुद्ध कर दिया है।”

“सरकार गैर-सहमति वाली डीपफेक प्रथाओं को डिजिटल क्षेत्र में मानवाधिकारों, गरिमा और नागरिकों की सुरक्षा के गंभीर उल्लंघन के रूप में देखती है।” जबकि ग्रोक को अन्य देशों में प्रतिबंधों का सामना करना पड़ा है, इंडोनेशिया पूरी तरह से पहुंच से इनकार करने वाला पहला देश है। सीबीएस समाचार की रिपोर्ट के अनुसार, अन्यत्र, सार्वजनिक प्रतिक्रिया के बाद मंच ने अपनी कुछ सुविधाओं को भुगतान करने वाले ग्राहकों तक सीमित कर दिया है, इस कदम की यूरोपीय अधिकारियों और डिजिटल अधिकार प्रचारकों ने आलोचना की है, जो कहते हैं कि यह समस्या का पर्याप्त समाधान नहीं करता है।

मीडिया के सवालों के जवाब में, मस्क के स्वामित्व वाले स्टार्टअप xAI ने सीबीएस न्यूज़ को एक संक्षिप्त बयान जारी किया, जिसमें कहा गया, “विरासत मीडिया झूठ बोलता है,” बिना कोई स्पष्टीकरण दिए। यह प्रतिक्रिया कई आउटलेट्स को भेजा गया एक स्वचालित उत्तर प्रतीत हुआ।

भारत में, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) ने भी कार्रवाई की है, एक्स (पूर्व में ट्विटर) को पत्र लिखकर सूचना प्रौद्योगिकी अधिनियम, 2000 के तहत वैधानिक उचित परिश्रम दायित्वों का पालन करने में विफलता के रूप में वर्णित किया है। मंत्रालय ने ग्रोक जैसे एआई उपकरणों के माध्यम से अश्लील और यौन रूप से स्पष्ट सामग्री की मेजबानी, निर्माण और प्रसार को रोकने के लिए तत्काल कदम सुनिश्चित करने के लिए मंच से कार्रवाई रिपोर्ट मांगी है।

भारतीय परिचालन के लिए एक्स के मुख्य अनुपालन अधिकारी को लिखे अपने पत्र में, एमईआईटीवाई ने मंच को ऐसी सामग्री की अनुमति देने से सख्ती से परहेज करने का निर्देश दिया है जो “अश्लील, अश्लील, अश्लील, अश्लील, यौन रूप से स्पष्ट, पीडोफिलिक, या अन्यथा किसी भी समय लागू कानून के तहत निषिद्ध है।” पत्र में कहा गया है, “इस तरह के उचित परिश्रम दायित्वों का पालन करने में विफलता के परिणामस्वरूप आईटी अधिनियम की धारा 79 के तहत देयता से छूट का नुकसान होगा, और आप आईटी अधिनियम और बीएनएस सहित किसी भी कानून के तहत प्रदान की गई परिणामी कार्रवाई के लिए भी उत्तरदायी होंगे।”

पूरे यूरोप में भी चिंताएं बढ़ गई हैं. ब्रिटेन के प्रधान मंत्री कीर स्टार्मर ने गुरुवार को कहा कि वह “मेज पर सभी विकल्प” चाहते हैं, जिसमें ब्रिटेन में ग्रोक पर संभावित प्रतिबंध भी शामिल है, क्योंकि अधिकारी एआई-जनित डीपफेक सामग्री से उत्पन्न जोखिमों की जांच कर रहे हैं।

संयुक्त राज्य अमेरिका में, रिपब्लिकन सीनेटर टेड क्रूज़ ने एक्स पर एक पोस्ट में स्पष्ट एआई-जनित छवियों के प्रसार की आलोचना करते हुए कहा कि “हाल ही में एआई-जनित कई पोस्ट अस्वीकार्य हैं और मेरे कानून, अब कानून, टेक इट डाउन एक्ट, साथ ही एक्स के नियमों और शर्तों का स्पष्ट उल्लंघन हैं।”
क्रूज़ ने कहा, “ये गैरकानूनी तस्वीरें पीड़ितों की गोपनीयता और गरिमा के लिए गंभीर खतरा पैदा करती हैं। इन्हें हटाया जाना चाहिए और रेलिंग लगाई जानी चाहिए।”

एलोन मस्क ने पिछले हफ्ते ग्रोक की आलोचना का जवाब देते हुए उपयोगकर्ताओं को अवैध गतिविधि के खिलाफ चेतावनी दी थी। उन्होंने कहा कि “अवैध सामग्री बनाने के लिए चैटबॉट का उपयोग करने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो अवैध सामग्री अपलोड करने पर होंगे।”

जैसे-जैसे दुनिया भर में जांच तेज हो रही है, सरकारें और नियामक तेजी से सवाल उठा रहे हैं कि क्या मौजूदा सुरक्षा उपाय एआई उपकरणों के दुरुपयोग को रोकने के लिए पर्याप्त हैं जो यथार्थवादी लेकिन हानिकारक डिजिटल सामग्री उत्पन्न कर सकते हैं।