कैलिफोर्निया के अटॉर्नी जनरल ने एआई-जनित डीपफेक दुरुपयोग को लेकर एलोन मस्क के ग्रोक की जांच शुरू की

ओकलैंड (यूएस), 15 जनवरी (एएनआई): कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने आर्टिफिशियल इंटेलिजेंस मॉडल ग्रोक के पीछे की कंपनी एक्सएआई की जांच शुरू की है, इस चिंता के साथ कि इस उपकरण का उपयोग गैर-सहमति वाली यौन सामग्री को ऑनलाइन उत्पन्न करने और प्रसारित करने के लिए किया जा रहा है।

जांच उन रिपोर्टों का अनुसरण करती है कि ग्रोक का उपयोग महिलाओं और लड़कियों को उनकी सहमति के बिना यौन रूप से स्पष्ट परिदृश्यों में चित्रित करने वाली डीपफेक छवियां बनाने के लिए किया गया है, ऐसी सामग्री जिसका उपयोग कथित तौर पर सोशल मीडिया प्लेटफॉर्म एक्स सहित इंटरनेट पर व्यक्तियों को परेशान करने के लिए किया गया है।

बोंटा ने कहा, “हाल के सप्ताहों में एक्सएआई द्वारा निर्मित और ऑनलाइन पोस्ट की गई गैर-सहमति वाली, यौन रूप से स्पष्ट सामग्री का विवरण देने वाली रिपोर्टों की बाढ़ चौंकाने वाली है। यह सामग्री, जिसमें महिलाओं और बच्चों को नग्न और यौन रूप से स्पष्ट स्थितियों में दर्शाया गया है, का उपयोग इंटरनेट पर लोगों को परेशान करने के लिए किया गया है। मैं एक्सएआई से यह सुनिश्चित करने के लिए तत्काल कार्रवाई करने का आग्रह करता हूं। हमारे पास गैर-सहमति वाली अंतरंग छवियों या बाल यौन शोषण सामग्री के एआई-आधारित निर्माण और प्रसार के लिए शून्य सहिष्णुता है।”

उन्होंने कहा, “आज, मेरा कार्यालय औपचारिक रूप से यह निर्धारित करने के लिए एक्सएआई की जांच की घोषणा करता है कि क्या और कैसे एक्सएआई ने कानून का उल्लंघन किया है। कैलिफोर्निया के शीर्ष कानून प्रवर्तन अधिकारी के रूप में हमारे निवासियों की सुरक्षा के लिए जिम्मेदार होने के नाते, मैं एआई में इस विकास से गहराई से चिंतित हूं और कैलिफोर्निया के निवासियों को सुरक्षित रखने के लिए अपने पास उपलब्ध सभी उपकरणों का उपयोग करूंगा।”

अटॉर्नी जनरल बोंटा ने कृत्रिम बुद्धिमत्ता उपकरणों से उत्पन्न व्यापक जोखिमों के बारे में अपनी चिंता दोहराई और कहा कि उनका कार्यालय एआई सुरक्षा, विशेष रूप से बाल संरक्षण पर केंद्रित है। उन्होंने पहले एआई साथी चैटबॉट्स से बच्चों की सुरक्षा के लिए राज्य कानून का समर्थन किया है और सुरक्षा मुद्दों पर एआई कंपनियों के साथ सीधे बातचीत की है।

सीबीएस न्यूज की रिपोर्ट के अनुसार, सहमति के बिना कामुक छवियां बनाने के लिए एआई के दुरुपयोग पर बढ़ती वैश्विक चिंताओं के बीच, हाल ही में इंडोनेशिया एलन मस्क की कंपनी एक्सएआई द्वारा विकसित कृत्रिम बुद्धिमत्ता चैटबॉट ग्रोक तक पहुंच को पूरी तरह से निलंबित करने वाला पहला देश बन गया है।

भारत में, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) ने भी कार्रवाई की है, एक्स (पूर्व में ट्विटर) को पत्र लिखकर सूचना प्रौद्योगिकी अधिनियम, 2000 के तहत वैधानिक उचित परिश्रम दायित्वों का पालन करने में विफलता के रूप में वर्णित किया है। मंत्रालय ने ग्रोक जैसे एआई उपकरणों के माध्यम से अश्लील और यौन रूप से स्पष्ट सामग्री की मेजबानी, निर्माण और प्रसार को रोकने के लिए तत्काल कदम सुनिश्चित करने के लिए मंच से कार्रवाई रिपोर्ट मांगी है।

एलोन मस्क ने पिछले हफ्ते ग्रोक की आलोचना का जवाब देते हुए उपयोगकर्ताओं को अवैध गतिविधि के खिलाफ चेतावनी दी थी। उन्होंने कहा कि “अवैध सामग्री बनाने के लिए चैटबॉट का उपयोग करने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो अवैध सामग्री अपलोड करने पर होंगे।” (एएनआई)

(यह सामग्री एक सिंडिकेटेड फ़ीड से ली गई है और प्राप्त होने पर प्रकाशित की जाती है। ट्रिब्यून इसकी सटीकता, पूर्णता या सामग्री के लिए कोई जिम्मेदारी या दायित्व नहीं लेता है।)