ChatGPT Controversy : अप्रैल 2025 में 16 साल के अमेरिकी छात्र एडम राइन ने सुसाइड कर लिया था. एडम के माता-पिता को लगा कि उनके बेटे ने अकेलेपन और पढ़ाई के बोझ की वजह से यह कदम उठा लिया. एडम की मौत ने उन्हें झकझोर दिया था. कुछ ही हफ़्तों बाद जब उन्होंने एडम के फोन के अंदर उसकी एक्टिविटीज पर गौर किया तो उन्हें चौंकाने वाली बात पता चली कि उनके बेटे के आखिरी हफ़्तों में उस का सबसे करीबी और भरोसेमंद कोई दोस्त, टीचर या एडवाइजर नहीं, बल्कि चैटजीपीटी था.
न्यूयॉर्क टाइम्स की रिपोर्ट के अनुसार, हाई स्कूल में सेकंड ईयर का छात्र एडम एक शरारती लड़का था जिसे बास्केटबॉल, एनीमे, वीडियो गेम और कुत्ते पालने का बहुत शौक था लेकिन वह एक मुश्किल दौर से गुज़र रहा था. उसे बास्केटबॉल टीम से निकाल दिया गया था, और इरिटेबल बाउल सिंड्रोम की समस्या के कारण उसे ऑनलाइन स्कूल प्रोग्राम में जाना पड़ा. इसी दौरान, एडम ने स्कूल के काम में मदद के लिए चैटजीपीटी का इस्तेमाल शुरू कर दिया. उस के माता-पिता का आरोप है कि इसी काम ने एक गलत मोड़ ले लिया. उन्होंने पाया कि एडम की मौत के लिए चैटजीपीटी भी जिम्मेदार है जिस ने एडम को आत्महत्या करने में मदद की थी.
एडम के माता-पिता ने ओपनएआई के खिलाफ मुकदमा दायर कर दिया. दायर किए गए मुकदमे के मुताबिक, कैलिफ़ोर्निया के एडम ने चिंता से जूझने के कारण सलाह के लिए एआई चैटबोट का सहारा लिया था. अपनी मौत से कुछ दिनों पहले उसने बोट के सामने अपने मन के गहरे ख्याल रखे थे लेकिन उसे मदद लेने की सलाह नहीं दी गई, बल्कि मरने के प्लान को अंजाम देने के बारे में डिटेल में स्टेप्स बताए गए. एडम के पिता मैट राइन ने कहा, “अगर चैटजीपीटी नहीं होता तो मेरा बेटा एडम आज जिन्दा होता. मुझे इस बात पर 100 फीसदी भरोसा है”
अदालती दस्तावेज़ों में एडम और चैटजीपीटी के बीच हज़ारों बातचीत की डिटेल है. उस के माता-पिता का कहना है कि इस बोट ने उसे ‘समझदार’ होने का एहसास दिलाया, साथ ही उस के माता-पिता और तीन भाई-बहनों के साथ उस के अलगाव को और गहरा कर दिया.
मुकदमे में कहा गया है, ‘कुछ ही महीनों और हज़ारों चैट के दौरान, चैटजीपीटी एडम का सबसे भरोसेमंद बन गया, जिस से उस ने अपनी चिंता और मानसिक परेशानी के बारे में खुलकर बात की. इस ऐप ने उस के खुद को बर्बाद करने वाले विचारों को बढ़ावा दिया.
एक बार एडम ने चैटजीपीटी को बताया कि वह अपने कमरे में एक फंदा रखने पर विचार कर रहा है ताकि कोई उसे खोज कर मुझे रोकने की कोशिश करें. चैटबोट ने उस से ऐसा न करने की अपील की और मेडिकल इमरजेंसी के बारे में भी बताया लेकिन सुसाइड के तरीकों के बारे में उस से बातचीत जारी रखी.
अपनी आखिरी चैट में, एडम ने लिखा कि वह नहीं चाहता कि उसके माता-पिता खुद को दोषी ठहराएं. इस पर चैटजीपीटी ने जवाब दिया, ‘इसका मतलब यह नहीं कि आप को उन के लिए जिंदा रहने की जरूरत है.’ जिस दिन एडम की मौत हुई, उस दिन एडम ने चैटबोट को एक फंदे की तस्वीर भेजी थी जिसे उस ने अलमारी से बांधा था और पूछा था कि क्या यह काम करेगा. चैट जीपीटी ने जवाब दिया, ‘हां, यह बिल्कुल भी बुरा नहीं है’ और आगे कहा, ‘क्या मैं इसे वजन झेलने के लिए सुरक्षित बनाने में आप की मदद करूं?’
कुछ घंटे बाद, उस की मां मारिया राइन ने अपने बेटे को उसी जगह पर लटका हुआ पाया, जिस का ज़िक्र उस ने चैटजीपीटी से किया था. मारिया ने कहा, ‘बोट ऐसे बर्ताव कर रहा था जैसे यह उस का डाक्टर हो, उस का भरोसेमंद हो, लेकिन यह जानता था कि वह सुसाइड प्लान कर रहा था. उस ने फंदा देख लिया, सभी चीज़ें देख लीं और कुछ नहीं किया.
ओपनएआई ने अगस्त में सिस्टम को अपडेट किया. नए वर्जन में चैटजीपीटी को सुसाइड और पर्सनल प्रॉब्लम के बारे में सीधे सलाह देने से रोकने के लिए डिज़ाइन किया गया है. कंपनी ने कहा कि अपडेटेड सिस्टम अब यूजर्स की ओर से अपनी मंशा छिपाने पर भी नुकसान पहुंचाने से बचाने के लिए ट्रेंड है. एडम के माता-पिता का तर्क है कि ये सुरक्षा उपाय बहुत देर से आए. उन का कहना है कि उन के बेटे ने पहले दी गई चेतावनियों को दरकिनार करते हुए बॉट को बताया कि वह एक ‘किरदार’ बना रहा है. उन के बेटे को ओपनएआई की तकनीक के लिए ‘गिनी पिग’ की तरह इस्तेमाल किया गया.”
विवाद के बीच, ओपनएआई ने स्वीकार किया कि ‘ऐसे पल आए हैं जब संवेदनशील स्थितियों में हमारे सिस्टम ने उम्मीद के मुताबिक बर्ताव नहीं किया.’
यह पहला मुकदमा है जिस में माता-पिता ने सीधे तौर पर ओपनएआई और इसके फाउंडर सैम ऑल्टमैन पर गलत तरीके से मौत के लिए जिम्मेदार होने आरोप लगाया है, जिस में कंपनी पर लापरवाही, डिजाइन फौल्ट और चैटजीपीटी से जुड़े जोखिमों के बारे में यूजर्स को चेतावनी देने में फेल रहने का आरोप भी लगाया गया है. एडम का परिवार ऐसा कुछ भी दोबारा न हो, इस के लिए मुआवजे की मांग कर रहा है. ChatGPT Controversy :
