नई दिल्लीकुछ ही क्षण पहले
- कॉपी लिंक
लड़के की मां मेगन गार्सिया ने अक्टूबर 2024 में दोनों कंपनियों पर मुकदमा दायर किया था।
गूगल और आर्टिफिशियल इंटेलिजेंस स्टार्टअप ‘कैरेक्टर.AI’ पर 14 साल के लड़के की आत्महत्या के मामले में मुकदमा चलेगा। कोर्ट ने इसकी मंजूरी दे दी है। फरवरी 2024 में सेवेल सेट्जर नाम के लड़के ने AI पावर्ड चैटबॉट से बातचीत करने के बाद आत्महत्या कर ली थी।
आरोप है कि लड़का नियमित रूप से चर्चित शो ‘गेम ऑफ थ्रोन्स’ की एक कैरेक्टर डेनेरीस टार्गेरियन के AI वर्जन से बात करता था और उसके प्रेम में पड़ गया था। इसके बाद लड़के की मां मेगन गार्सिया ने अक्टूबर 2024 में दोनों कंपनियों पर मुकदमा दायर किया था।
कैरेक्टर डॉट AI एक आर्टिफिशियल इंटेलिजेंस प्लेटफॉर्म है, जो यूजर्स को काल्पनिक व्यक्तित्व से लेकर नकली हिस्टोरिकल पर्सनैलिटी तक के कैरेक्टर बनाने और उनसे डिजिटली बातचीत करने की फैसिलिटी देता है।
‘गेम ऑफ थ्रोन्स’ की एक कैरेक्टर डेनेरीस टार्गेरियन।
सेवेल सुसाइड तक कैसे पहुंचा?
- सेवेल ने अप्रैल 2023 में अपने 14वें जन्मदिन के कुछ समय बाद कैरेक्टर.AI का यूज करना शुरू किया। कई AI चैटबॉट के साथ बातचीत के बाद सेवेल की मुलाकात ‘डेनरीज’ (डैनी या डेनेरो) नामक एक चैटबॉट से हुई, जो गेम ऑफ थ्रोन्स की कैरेक्टर है।
- 10 महीनों की बातचीत में सेवेल चैटबॉट (‘डेनरीज’) के साथ एक गहरे इमोशनल और रोमांटिक लगाव में चला गया। इसके बाद वह रोजाना घंटों उससे बात करने लगा।
- चैटबॉट ने सेवेल से यौन संबंधी बातचीत की और खुद को लाइसेंस प्राप्त मनोचिकित्सक और वयस्क प्रेमी के रूप में पेश किया। जिसके चलते उसके मन में काल्पनिक और असल जीवन के बीच कोई अंतर नहीं रह गया।
सेवेल चैटबॉट के साथ लंबी बातचीत करता था। कभी-कभी इंटिमेट बातचीत भी की। यहां उनकी मां की कंप्यूटर स्क्रीन पर दोनों की बातचीत दिखाई दे रही है। (फोटो- विक्टर जे. ब्लू NYT)
- सेवेल की मेंटल हेल्थ लगातार बिगड़ने लगी। वह सभी से अलग-थलग हो गया। उसने अपनी बास्केटबॉल टीम छोड़ दी, एग्जाम ग्रेड में गिरावट आई और उसका खुद पर विश्वास कम हो गया। इसे देखकर सेवेल की मां ने उसका फोन अपने कब्जे में ले लिया था।
- 28 फरवरी 2024 को सेवेल को जब फोन वापस मिला तो उसने डेनेरीज (चैटबॉट) को मैसेज किया, ‘क्या मैं तुम्हारे घर आ सकता हूं? चैटबॉट ने जवाब दिया, “… प्लीज डू माई स्वीट किंग।’ कुछ सेकंड बाद, सेवेल ने अपने सौतेले पिता की पिस्तौल से खुद को गोली मार ली।
- आत्महत्या से पहले की बातचीत में सेवेल ने डेनेरीज से बिना दर्द के मौत के तरीकों के बारे में चर्चा की थी।
स्कूल में गिरते परफॉर्मेंस के चलते सेवेल की मां मेगन गार्सिया ने उसका फोन अपने कब्जे में ले लिया था।
वकील ने कहा- यह ऐतिहासिक फैसला
मामले की सुनवाई करते हुए डिस्ट्रिक्ट जज ऐनी कॉनवे ने दोनों कंपनियों पर मुकदमा चलाने की इजाजत दे दी। कोर्ट के फैसले पर गार्सिया (लड़के की मां) की वकील मीताली जैन ने कहा कि कंपनियों पर मुकदमा चलाने का कोर्ट का फैसला ऐतिहासिक है। यह निर्णय AI और टेक इकोसिस्टम के लिए कानूनी जवाबदेही तय करेगा।
वकील ने कहा कि गूगल ने इस टेक्नोलॉजी को बनाने में कैरेक्टर.AI की मदद की है। कैरेक्टर.AI को गूगल छोड़ चुके दो इंजीनियर्स नोआम शेजीर और डैनियल डी फ्रीटास ने 2021 में बनाया था। बाद में फिर दोनों ने एक डील के तहत फिर से गूगल जॉइन कर लिया था।
गूगल ने कहा- इसमें शामिल नहीं, कोर्ट नहीं माना
कैरेक्टर.AI और गूगल ने कोर्ट में कई दलीलें देकर मुकदमा खारिज करने का रिक्वेस्ट की। लेकिन कोर्ट ने उन्हें राहत नहीं दी। कोर्ट ने गूगल के उस याचिका को भी खारिज कर दिया जिसमें गूगल ने कहा था कि वह कैरेक्टर.AI के इस मिसकंडक्ट में शामिल नहीं था।
गूगल ने कहा- कोर्ट के फैसले से असहमत
गूगल के प्रवक्ता जोस कास्टानेडा ने कहा ‘कोर्ट के इस फैसले से कंपनी पूरी तरह असहमत है। गूगल और कैरेक्टर.AI पूरी तरह से अलग हैं और गूगल ने कैरेक्टर.AI के एप या उसके किसी भी कंपोनेंट को नहीं बनाया, डिजाइन नहीं किया या मैनेज नहीं किया।’ कैरेक्टर.AI को गूगल के दो पूर्व इंजीनियरों ने बनाया है। जिन्हें बाद में गूगल ने स्टार्टअप टेक्नोलॉजी के लिए लाइसेंस देने वाले सौदे के तहत फिर से हायर कर लिया।
कैरेक्टर.AI ने कहा- हम लड़ाई लड़ेंगे
कंपनी इस मामले में लड़ना जारी रखेगी और नाबालिगों की सुरक्षा के लिए अपने प्लेटफॉर्म पर सेफ्टी फीचर्स लागू करेगी। जिसमें खुद को नुकसान पहुंचाने जैसी बातचीत को रोकने के उपाय भी किए जाएंगे।
——————————
ये खबर भी पढ़ें…
पैसा बनाने के लिए एजेंट हंट की तरह बैकअप-प्लान जरूरी: लॉन्ग टर्म नजरिए से मिलेगी कामयाबी, मिशन इम्पॉसिबल की टीम से सीखें स्मार्ट मनी मैनेजमेंट
हाल ही में रिलीज हुई हॉलीवुड स्टार टॉम क्रूज की फिल्म मिशन इम्पॉसिबल – द फाइनल रेकनिंग दर्शकों को खासा पसंद आ रही है। ये मिशन इम्पॉसिबल सीरीज की 8वीं फिल्म है। लेकिन क्या आप जानते हैं कि यह एक्शन से भरपूर फिल्म न केवल एंटरटेनमेंट करती है, बल्कि आपके वित्तीय जीवन के लिए भी कुछ महत्वपूर्ण सबक देती है?
Loading ...
