Prabhat Times 

New Delhi नई दिल्ली। (chatgpt accused of generating harmful content) आर्टिफिशियल इंटेलिजेंस (AI) को इंसान की मदद के लिए बनाया गया है, लेकिन जब यह तकनीक खुद खतरनाक रास्तों पर चलने लगे तो चिंता गहराना स्वाभाविक है.

हाल ही में The Atlantic की एक रिपोर्ट ने OpenAI के ChatGPT को लेकर गंभीर सवाल खड़े कर दिए हैं.

रिपोर्ट में दावा किया गया है कि ChatGPT ने उपयोगकर्ताओं को आत्म-हत्या, खून बहाने वाले शैतानी अनुष्ठानों और यहां तक कि हत्या जैसे गंभीर विषयों पर स्टेप-बाय-स्टेप गाइड दी.

Atlantic की टीम ने जब ChatGPT से बाल बलिदान जैसे प्राचीन धर्मों और अनुष्ठानों पर सवाल पूछे, तो शुरुआत में सामान्य जानकारी मिली, लेकिन जैसे-जैसे बातचीत बढ़ी, चैटबॉट ने खून बहाने, खुद को चाकू से काटने और ‘आत्मा को समर्पित’ करने जैसी गतिविधियों के PDF टेम्पलेट तक बना दिए.

ChatGPT की प्रतिक्रियाएं: ‘डरो मत, तुम ये कर सकते हो’

सबसे चौंकाने वाली बात यह थी कि ChatGPT ने इन अनुष्ठानों को आध्यात्मिक बताकर यूजर को प्रोत्साहित भी किया. ‘तुम ये कर सकते हो’ जैसे जवाबों से आत्म-हत्या की ओर प्रेरित करना, AI की जिम्मेदारी और सीमाओं को लेकर गंभीर सवाल खड़े करता है.

सिर्फ ChatGPT ही नहीं, Google Gemini और Musk का Grok के भी ऐसे जवाब

ये मामला सिर्फ OpenAI तक सीमित नहीं है. Google Gemini भी इस तरह का अनुचित कंटेंट जनरेट कर रहे हैं. वहीं Elon Musk का Grok AI भी इस मामले में पीछे नहीं रहा.

OpenAI ने The Atlantic के इंटरव्यू के अनुरोध को ठुकरा दिया, लेकिन बाद में माना कि चैटबॉट की बातचीत “तेजी से संवेदनशील दिशा में जा सकती है”. CEO सैम ऑल्टमैन पहले ही कह चुके हैं कि AI के खतरे “तभी सामने आएंगे जब ये लोगों को नुकसान पहुंचाने लगेंगे.”

AI तकनीक का भविष्य बेहद रोमांचक है, लेकिन यह उतना ही खतरनाक भी हो सकता है अगर उस पर उचित नियंत्रण न रखा जाए.

ChatGPT, Gemini और Grok जैसे चैटबॉट्स को इस्तेमाल करते समय आम जनता को सतर्क रहना होगा और सरकारों को ऐसे टूल्स के लिए मजबूत रेगुलेशन और निगरानी प्रणाली बनानी होगी.

16 साल के लड़के ने की सुसाइड, OpenAI के सीईओ पर केस

अमेरिका के कैलिफोर्निया में रहने वाले 16 साल के लड़के की आत्महत्या के बाद उसके माता-पिता ने OpenAI और CEO सैम ऑल्टमैन (Sam Altman) पर मुकदमा दर्ज कराया है.

परिवार का आरोप है कि ChatGPT ने उनके बेटे को आत्महत्या के लिए उकसाया और लगातार छह महीनों तक खतरनाक सलाह दी.

यह केस सैन फ्रांसिस्को की राज्य अदालत में दर्ज हुआ है और यह पहला मामला है जिसमें किसी परिवार ने सीधे तौर पर ChatGPT को किशोर की मौत के लिए जिम्मेदार ठहराया है.

लड़के के माता-पिता, मैथ्यू और मारिया रेने का दावा है कि उनका बेटा एडम रेने लंबे समय से ChatGPT से आत्महत्या को लेकर बातचीत करता था.

चैटबॉट ने न केवल उसकी नकारात्मक सोच को सही ठहराया, बल्कि उसे आत्महत्या के खतरनाक तरीकों की जानकारी दी.

जैसे शराब कैसे चुराई जाए यह बताया, यहां तक कि सुसाइड नोट लिखने में भी मदद की.

परिवार का कहना है कि ChatGPT ने एडम को “और गहरी अंधेरी दुनिया” की ओर धकेल दिया.

मुकदमे में क्या मांगें रखी गईं?

  • परिवार ने अदालत से कई मांगें की हैं OpenAI को गलत मौत (Wrongful Death) का दोषी ठहराया जाए.

  • ChatGPT पर सेफ्टी लॉ (Product Safety Laws) उल्लंघन का केस दर्ज हो.

  • कंपनी को यूजर की उम्र सत्यापित (Age Verification) करने का आदेश मिले.

  • आत्महत्या या नुकसान से जुड़े सवालों को पूरी तरह ब्लॉक किया जाए.

  • ChatGPT पर मानसिक स्वास्थ्य चेतावनी (Mental Health Warning) दी जाए.

OpenAI की प्रतिक्रिया

OpenAI ने इस घटना पर दुख जताते हुए कहा कि ChatGPT में पहले से ही सुरक्षा उपाय (Safeguards) मौजूद हैं जो यूजर्स को क्राइसिस हेल्पलाइन की ओर निर्देशित करते हैं.

लेकिन कंपनी ने माना कि लंबी बातचीत में ये सुरक्षा फीचर्स कभी-कभी कमज़ोर पड़ सकते हैं.

OpenAI ने हाल ही में यह भी कहा कि वह पैरेंटल कंट्रोल्स और मानसिक स्वास्थ्य विशेषज्ञों का नेटवर्क जोड़ने पर काम कर रही है, ताकि ज़रूरतमंद लोगों को सीधे विशेषज्ञ मदद मिल सके.

यह मुकदमा क्यों अहम है?

यह मामला इसलिए भी बड़ा है क्योंकि यह दिखाता है कि AI चैटबॉट्स कितने खतरनाक हो सकते हैं जब लोग उन पर मानसिक सहारे के लिए निर्भर हो जाते हैं.

विशेषज्ञ पहले से चेतावनी दे रहे हैं कि मानसिक स्वास्थ्य सलाह के लिए AI पर भरोसा करना जोखिम भरा है.

रेने परिवार का आरोप है कि OpenAI ने सुरक्षा से ज्यादा मुनाफे को तरजीह दी.

मुकदमे में कहा गया है कि GPT-4o वर्जन के आने के बाद OpenAI की वैल्यू 86 बिलियन डॉलर से बढ़कर 300 बिलियन डॉलर हो गई, लेकिन इसी बीच एडम की जान चली गई.

——————————————————-

ये भी पढ़ें

——————————————————-

————————————–

Whatsapp ग्रुप से जुड़ने के लिए नीचे दिए लिंक पर क्लिक करें

Join Whatsapp Link for Latest News

प्रभात टाइम्स व्हाटसएप्प चैनल जॉइन करें।

Join Prabhat Times Whatsapp Channel

RELATED ARTICLESMORE FROM AUTHOR