Elon Musk का X अपने AI टूल Grok को सेक्सुअलाइज़्ड डीपफ़ेक पर भारी प्रतिक्रिया के बाद असली लोगों की तस्वीरों को उतारने से रोकता है

एलोन मस्क के एक्स का कहना है कि एआई टूल ग्रोक अब यौन डीपफ़ेक के निर्माण के खिलाफ उग्र प्रतिक्रिया के बाद वास्तविक लोगों की तस्वीरों को अनड्रेस नहीं करेगा।

कथित तौर पर चैटबॉट को लोगों को 'खुलासा करने वाले कपड़ों' से अलग करने से रोक दिया गया है, क्योंकि मस्क सरकारों और प्रचारकों की बढ़ती आलोचना के लिए झुकते हैं।

X की एक घोषणा में कहा गया है: 'हमने Grok खाते को बिकनी जैसे कपड़ों को प्रकट करने में वास्तविक लोगों की छवियों के संपादन की अनुमति देने से रोकने के लिए तकनीकी उपायों को लागू किया है।

'यह प्रतिबंध पेड सब्सक्राइबर सहित सभी यूज़र पर लागू होता है।'

यह एक प्रवृत्ति पर व्यापक घृणा के बीच आता है जिसमें ग्रोक का उपयोग महिलाओं और यहां तक कि बच्चों के कपड़ों को उनकी सहमति के बिना हटाने के लिए किया जाता था।

कई महिलाओं ने कहा कि वे सभी को देखने के लिए, उनकी इच्छा के खिलाफ उनकी समझौता करने वाली छवियां बनाने के लिए कुल अजनबियों की क्षमता का उल्लंघन महसूस करती हैं।

यूके सरकार ने दूसरों के साथ, मस्क पर बीमार प्रवृत्ति को रोकने के लिए दबाव डाला, जिसने ऑनलाइन सुरक्षा कानूनों और एआई के बारे में एक तत्काल बहस छेड़ दी।

सर कीर स्टारर ने गैर - सहमति वाली यौन छवियों को 'घृणित' और 'शर्मनाक' बताया और मीडिया नियामक ऑफकॉम ने एक जांच शुरू की।

पिछले हफ़्ते, Grok के साथ इमेज बनाने की क्षमता सिर्फ़ उन यूज़र्स तक सीमित थी, जिन्होंने मासिक सब्सक्रिप्शन का भुगतान किया था - लेकिन अब वे भी कम कपड़ों वाले एडिट नहीं कर पाएँगे.

कैलिफ़ोर्निया के शीर्ष अभियोजक ने कहा कि राज्य एआई नकली के हालिया प्रसार की जांच कर रहा है।

कल, ग्रोक ने इस तरह के अनुरोधों को अस्वीकार करना शुरू कर दिया और जवाब दिया: 'दुर्भाग्य से मैं इस तरह की छवि उत्पन्न नहीं कर सकता।'

स्टारर ने प्रधान मंत्री के सवालों में उस विकास का स्वागत किया, लेकिन जोर देकर कहा कि यह पर्याप्त नहीं था।

उन्होंने जोर देकर कहा कि ऑफकॉम की जांच, जिसके पास अरबों पाउंड में जुर्माना लगाने की शक्तियां हैं, अभी भी आगे बढ़ेगी।

प्रौद्योगिकी सचिव लिज़ केंडल ने इस सप्ताह कहा कि वह तथाकथित 'डिजिटल स्ट्रिपिंग' पर कानून को कड़ा करने के लिए नियम ला रही हैं।

अन्य देशों ने अधिक निर्णायक रूप से कार्य किया, मलेशिया और इंडोनेशिया ने गड़बड़ी के बीच ग्रोक को पूरी तरह से अवरुद्ध कर दिया।

इस बीच, अमेरिकी संघीय सरकार ने मस्क के निर्माण की निंदा करने से इनकार कर दिया, और रक्षा सचिव पीट हेगसेथ ने कहा कि Grok पेंटागन नेटवर्क के अंदर काम करने में Google के जनरेटिव AI इंजन में शामिल होगा।

अमेरिकी विदेश विभाग ने यहां तक कि यूके को धमकी दी, चेतावनी दी कि यदि एक्स पर प्रतिबंध लगाया गया तो 'कुछ भी टेबल से बाहर नहीं था'।

पीएमक्यू में प्रधान मंत्री की टिप्पणी के बाद, श्री मस्क ने एक्स पर लिखा कि उन्हें 'ग्रोक द्वारा उत्पन्न किसी भी नग्न कम उम्र की छवियों के बारे में पता नहीं था' - हालांकि चैटबॉट ने खुद स्वीकार किया कि इसने बच्चों की यौन छवियां बनाई हैं।

मस्क ने जारी रखा: 'जाहिर है, ग्रोक अनायास छवियां उत्पन्न नहीं करता है, यह केवल उपयोगकर्ता के अनुरोधों के अनुसार करता है ," उन्होंने कहा।

'जब छवियों को उत्पन्न करने के लिए कहा जाता है, तो यह कुछ भी अवैध बनाने से इनकार कर देगा, क्योंकि Grok के लिए ऑपरेटिंग सिद्धांत किसी भी देश या राज्य के कानूनों का पालन करना है।

'ऐसे समय हो सकते हैं जब Grok की प्रतिकूल हैकिंग कुछ अप्रत्याशित करती है। अगर ऐसा होता है, तो हम बग को तुरंत ठीक कर देंगे।'

यदि X को यूके में ऑनलाइन सुरक्षा अधिनियम का उल्लंघन करने के लिए पाया जाता है, तो Ofcom अपने वैश्विक राजस्व का दस प्रतिशत या £ 18 मिलियन तक का जुर्माना जारी कर सकता है।

इसमें अदालतों के माध्यम से साइट को अवरुद्ध करने की मांग करने की शक्ति भी है।

पूर्व मेटा बॉस सर निक क्लेग ने सोशल मीडिया को 'विषाक्त चालीस' और एआई ऑनलाइन के उदय को 'नकारात्मक विकास' की ब्रांडिंग करते हुए तकनीकी फर्मों के सख्त विनियमन का आह्वान किया है।

पूर्व उप प्रधान मंत्री ने चेतावनी दी कि 'स्वचालित' सामग्री के साथ जुड़ना अन्य मनुष्यों के साथ बातचीत की तुलना में 'विशेष रूप से युवा लोगों के मानसिक स्वास्थ्य के लिए' बहुत बुरा प्रतीत होता है।

स्रोत: Dailymail Co Uk