एलोन मस्क के एक्स ने ग्रोक एआई टूल पर असली लोगों की बिना कपड़ों वाली इमेज बनाने पर प्रतिबंध लगा दिया है

प्लेटफॉर्म ने घोषणा की है कि एलोन मस्क का एक्स अपने एआई टूल ग्रोक को असली लोगों की छवियों को संपादित करने के लिए इस्तेमाल करने से रोक देगा ताकि वे बिकनी और अन्य खुलासा करने वाले पोशाक में दिखाई दे सकें।

यह कदम उसी दिन आया जब कैलिफ़ोर्निया राज्य ने घोषणा की कि वह एक व्यापक घोटाले के हिस्से के रूप में ग्रोक की जांच करेगा, जिसमें आरोप लगाया गया था कि एआई टूल गैर - सहमति वाली यौन छवियों के पीछे है।

एक्स की सुरक्षा टीम ने बुधवार को एक पोस्ट में लिखा, "हमने ग्रोक अकाउंट को बिकनी जैसे कपड़ों को उजागर करने में वास्तविक लोगों की तस्वीरों के संपादन की अनुमति देने से रोकने के लिए तकनीकी उपायों को लागू किया है।" "यह प्रतिबंध पेड सब्सक्राइबर सहित सभी यूज़र पर लागू होता है।"

"इसके अतिरिक्त, इमेज क्रिएशन और X प्लैटफ़ॉर्म पर Grok अकाउंट के ज़रिए इमेज एडिट करने की सुविधा अब सिर्फ़ पेड सब्सक्राइबर्स के लिए उपलब्ध है ," कंपनी ने कहा।" यह पक्का करने में मदद करके सुरक्षा की एक अतिरिक्त परत जोड़ता है कि जो लोग कानून या हमारी नीतियों का उल्लंघन करने के लिए Grok अकाउंट का दुरुपयोग करने का प्रयास करते हैं, उन्हें जवाबदेह ठहराया जा सकता है। "

यह स्पष्ट नहीं है कि क्या ये नीति परिवर्तन वास्तविक लोगों की नग्न छवियां बनाने के अनुरोधों पर लागू होते हैं।

बुधवार को स्टेट अटॉर्नी जनरल रॉब बोन्टा द्वारा घोषित कैलिफ़ोर्निया जांच, कथित ग्रोक घटना पर दुनिया भर में घबराहट का पालन करती है, जिसने हाल के दिनों में मलेशिया और इंडोनेशिया जैसे देशों को चैटबॉट को अवरुद्ध करने के लिए प्रेरित किया है, जबकि यूके जैसे अन्य ने जांच शुरू की है।

बोंटा ने एक बयान में कहा, "हाल के हफ्तों में xAI द्वारा निर्मित और ऑनलाइन पोस्ट की गई गैर - सहमति, यौन रूप से स्पष्ट सामग्री का विवरण देने वाली रिपोर्टों का हिमस्खलन चौंकाने वाला है।" “यह सामग्री, जो नग्न और यौन रूप से स्पष्ट स्थितियों में महिलाओं और बच्चों को दर्शाती है, का उपयोग इंटरनेट पर लोगों को परेशान करने के लिए किया गया है। मैं xAI से यह सुनिश्चित करने के लिए तत्काल कार्रवाई करने का आग्रह करता हूं कि यह आगे न बढ़े।"

बोन्टा ने रॉयटर्स की एक जांच की ओर इशारा किया जिसमें एक्स में उत्पन्न की जा रही गैर - सहमति वाली स्पष्ट छवियों के उदाहरणों की ओर इशारा किया गया, जहां ग्रोक एम्बेडेड है, साथ ही साथ बच्चों की यौन छवियों का निर्माण करने वाले चैटबॉट की ओर इशारा किया गया है।

पेरिस स्थित गैर - लाभकारी एआई फोरेंसिक ने हाल ही में इसी तरह के निष्कर्ष निकाले हैं, जिसमें निष्कर्ष निकाला गया है कि एक्स पर एआई - जनरेट की गई सभी छवियों में से आधे से अधिक वयस्क और बच्चे हैं जिनके कपड़े डिजिटल रूप से हटा दिए गए हैं।

द इंडिपेंडेंट के साथ साझा किए गए एक बयान में एआई फोरेंसिक के एक शोधकर्ता पॉल बुचौड ने कहा, "ग्रोक द्वारा उत्पन्न हजारों छवियों का हमारा विश्लेषण दुर्व्यवहार की सीमा को निर्धारित करता है।"

"महिलाओं की गैर - सहमति वाली यौन कल्पना, कभी - कभी बहुत छोटी दिखाई देती है, असाधारण के बजाय व्यापक है, साथ ही अन्य निषिद्ध सामग्री जैसे कि आईएसआईएस और नाजी प्रचार – सभी सार्थक सुरक्षा तंत्र की कमी का प्रदर्शन करते हैं।"

चिंताएं तब सामने आती हैं जब एआई चैटबॉट दैनिक जीवन और प्रमुख संस्थानों में तेजी से प्रचलित होते जा रहे हैं। इस सप्ताह, पेंटागन ने ग्रोक को अपने कार्यप्रवाह में एकीकृत करने की योजना की घोषणा की।

द इंडिपेंडेंट ने टिप्पणी के लिए xAI से संपर्क किया है।

"मुझे ग्रोक द्वारा उत्पन्न किसी भी नग्न कम उम्र की छवियों के बारे में पता नहीं है ," मस्क ने बुधवार को एक्स पर लिखा।" सचमुच शून्य। "

उन्होंने कहा, "जब छवियां उत्पन्न करने के लिए कहा जाता है, तो यह कुछ भी अवैध बनाने से इनकार कर देगा, क्योंकि Grok के लिए ऑपरेटिंग सिद्धांत किसी भी देश या राज्य के कानूनों का पालन करना है।" "ऐसे समय हो सकते हैं जब Grok की प्रतिकूल हैकिंग कुछ अप्रत्याशित करती है। अगर ऐसा होता है, तो हम बग को तुरंत ठीक कर देंगे।"

ग्रोक पर एक "एनएसएफडब्ल्यू" मोड ने काल्पनिक वयस्कों के ऊपरी शरीर की नग्नता की अनुमति दी थी, "आर - रेटेड फिल्मों में जो देखा जा सकता है उसके अनुरूप ," मस्क ने एक अलग पोस्ट में लिखा, जिसमें कहा गया है कि देश के अनुसार नियम अलग - अलग होते हैं। यह स्पष्ट नहीं है कि वह मोड नए घोषित परिवर्तनों के साथ रहेगा या नहीं।

मस्क ने यूके की तरह एक्स में जांच का निर्देश देने वाले देशों पर आरोप लगाया है कि वे "स्वतंत्र भाषण को दबाना चाहते हैं।"

मस्क उन लोगों में से थे जिन्होंने कैलिफ़ोर्निया के एक कानून को चुनौती दी थी, जिसे पिछले अगस्त में रद्द कर दिया गया था, जिसके लिए सोशल मीडिया प्लेटफार्मों को चुनाव के मौसम के दौरान राजनीतिक उम्मीदवारों के उपयोगकर्ता - जनित डीपफेक को हटाने की आवश्यकता होगी।

मस्क का लंबे समय से राज्य के सांसदों के साथ टकराव रहा है और उन्होंने कैलिफ़ोर्निया के नेताओं की आलोचना की है, और उन्होंने हाल के वर्षों में अपने कई व्यावसायिक हितों को टेक्सास में स्थानांतरित कर दिया है।

स्रोत: Independent Co Uk