Prabhat Times
New Delhi नई दिल्ली। सोशल मीडिया पर अपनी तस्वीरें पोस्ट करने वालों के लिए बुरी खबर है। अपनी खुशी के लिए पोस्ट की गई तस्वीरों का मिसयूज़ हो रहा है।
शरारती लोगों द्वारा एआई टूल ग्रोक के ज़रिए तस्वीरों को बिना कपड़ों को एडिट कर रहा है।
इसे लेकर दुनिया में बवाल हो गया है। फ्रांस, भारत और मलेशिया सहित कई देशों ने जांच के आदेश दे दिए हैं।
AI यानी आर्टिफिशियल इंटेलिजेंस से इंसानों को बड़ी उम्मीद थी. उम्मीद यह कि यह नए दौर की टेक्नोलॉजी साबित होगी, इंसानों के जिंदगी को आसान बनाएगी, जरूरत के वक्त असिस्टेंट के तौर पर काम करेगी, इंसानों की काबिलियत को आगे बढ़ाने का काम करेगी. लेकिन सच्चाई क्या है?
आज AI का इस्तेमाल तस्वीरों से कपड़े उतारने के लिए हो रहा है. क्या बच्चे और क्या महिलाएं, बिना किसी झिझक के एलन मस्क के AI टूल ग्रोक (Grok) को लोग प्रॉम्प्ट दे रहे हैं और वह उनकी तस्वीरों को बगैर कपड़े एडिट करके दे रहा है.
पूरी दुनिया में इसके लिए Grok की कड़ी आलोचना हो रही है. इस ट्रेंड पर एलन मस्क बेशर्मी से हंस चुके हैं, आलोचना के बाद कार्रवाई करने की बात तक कही, लेकिन अभी भी Grok ने अपनी गलती नहीं सुधारी है.
कंट्रोल के बाहर गया Grok?
AI टूल ग्रोक को महिलाओं और छोटे बच्चियों तक के डीपफेक फोटो बनाने के लिए बढ़ती अंतरराष्ट्रीय आलोचनाओं का सामना करना पड़ रहा है. यहां तक कि यूरोपीय संघ ने इसकी निंदा की है और ब्रिटेन ने जांच की चेतावनी भी दी है.
दरअसल ग्रोक पर एक नई फैसिलिटी आई है जिसमें “इमेज एडिट करें” बटन जोड़ा गया है. जैसे ही यह रोलआउट हुआ, यूजर्स ने महिलाओं और बच्चियों की तस्वीर देकर ग्रोक को प्रॉम्प्ट दिए कि “उसे बिकनी पहनाओ” या “उसके कपड़े हटाओ”.
लोग यह सोशल मीडिया प्लेटफॉर्म, X पर ऐसे फोटो डाल रहे और वहीं ग्रोक को यह कमांड दे रहें. जल्द ही पूरे X पर ऐसी तस्वीरें वायरल होने लगीं.
ग्रोक के दिसंबर अपडेट के बाद ये ट्रेंड सामने आया. यूजर्स के लिए तस्वीरें पोस्ट करना और उसमें से कपड़े उतारने के लिए कहना आसान हो गया.
रविवार और सोमवार को भी ग्रोक यूजर्स ने नाबालिगों की ऐसी बिना कपड़ों वाली तस्वीरें बनाना जारी रखा, जिसमें 10 वर्ष से कम उम्र के बच्चों की भी तस्वीरें बनाई गईं.
मस्क के एक बच्चे की मां एशले सेंट क्लेयर ने शिकायत की कि इस AI टूल ने उनकी उस तस्वीर को भी बिकनी में एडिट कर दिया, जो उस समय की है जब वो केवल 14 साल की थीं.
एक्टिव हो गईं दुनिया भर की सरकारें लेकिन ग्रोक नहीं मान रहा
महिलाओं की तस्वीरों की डिजिटल अनड्रेसिंग की होड़ मच गई. इसकी वजह से फ्रांस, भारत और मलेशिया सहित कई देशों से त्वरित जांच के आदेश दे दिए.
यूरोपीय आयोग ने भी सोमवार, 5 जनवरी को कहा कि वह एलन मस्क के स्टार्टअप xAI द्वारा विकसित और उनके सोशल मीडिया प्लेटफॉर्म X में शामिल ग्रोक के बारे में शिकायतों को “बहुत गंभीरता से देख रहा है”.
यूरोपीय संघ के डिजिटल मामलों के प्रवक्ता थॉमस रेग्नियर ने यहां तक कहा यह मसालेदार नहीं है. यह अवैध है. यह भयावह है.
यूके के मीडिया रेगुलेटर ऑफकॉम ने कहा कि उसने “यूके में यूजर्स की सुरक्षा के लिए अपने कानूनी कर्तव्यों का पालन करने के लिए क्या कदम उठाए हैं, यह समझने के लिए X और xAI के साथ तत्काल संपर्क किया था.” 2 जनवरी को, भारत के IT मंत्रालय ने X को 72 घंटे का अल्टीमेटम जारी किया था.
एलन मस्क की बेशर्म हंसी
शुरू में मस्क को इस ट्रेंड पर हंसी आई थी. एक टोस्टर को बिकनी पहनाई तस्वीर वाले पोस्ट के जवाब में शुक्रवार को मस्क ने रोते हुए हंसने वाले इमोजी पोस्ट की थी. उन्हें इस ट्रेंड पर मजा आ रहा था. उन्होंने लिखा: “पता नहीं क्यों, लेकिन मैं इस पर अपनी हंसी नहीं रोक सका.”
लेकिन जब इस ट्रेंड पर दुनिया भर में आक्रोश फैला तो उन्होंने बाद में पोस्ट किया कि “अवैध कंटेंट बनाने के लिए ग्रोक का उपयोग करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे खुद अवैध कंटेट अपलोड कर रहे हैं”.
बाद में X के एक प्रवक्ता ने कहा: “हम बच्चों के जुड़े यौन शोषण के मैटेरियल (CSAM) सहित X पर अवैध कंटेंट के खिलाफ कार्रवाई करते हैं, इसे हटाकर, उन अकाउंट को स्थायी रूप से सस्पेंड करते हैं, और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करते हैं.”
ग्रोक के एक पहले के बयान में घोषणा की गई थी कि उसने “सुरक्षा उपायों में खामियों की पहचान की थी” और “उन्हें तत्काल ठीक कर रहा था” जो AI द्वारा उत्पन्न किया गया था.
लेकिन यह स्पष्ट नहीं था कि कंपनी वास्तव में सुरक्षा संबंधी खामियों को ठीक करने के लिए कार्रवाई कर रही थी या नहीं. वजह यह है कि अभी भी लोग ऐसी तस्वीरों को एडिट करवा रहे हैं.
——————————————————-
ये भी पढ़ें
- जालंधर के 4 बड़े डाक्टरों के खिलाफ FIR दर्ज करने के आदेश, जानें पूरा मामला
- मान सरकार का शिक्षा विज़न का कमाल:25 स्कूलों में AI-आधारित करियर गाइडेंस पायलट प्रोजेक्ट लॉन्च
- फिर बढ़े गोल्ड के रेट, चांदी की कीमतों में उछाल, जानें लेटेस्ट रेट
- पंजाब सरकार का ऐलान! इस दिन से सभी स्कूलों में होगी सर्दियों की छुट्टियां
- कनाडा ने शुरू किया नया प्रोग्राम, अब इन भारतीयों को मिलेगी तुरंत PR
