अमेरिका में एक किशोर की आत्महत्या के मामले के बाद OpenAI और उसके चैटबॉट ChatGPT विवादों में आ गए हैं। इस घटना के बाद कंपनी ने घोषणा की है कि अब वह ChatGPT में पैरेंटल कंट्रोल्स और नई सुरक्षा व्यवस्था लागू करेगी। कंपनी का कहना है कि लोग सिर्फ कोडिंग, सर्चिंग या लेखन कार्य के लिए ही ChatGPT का उपयोग नहीं कर रहे हैं, बल्कि कई लोग इससे गहरी व्यक्तिगत बातचीत भी करते हैं। ऐसे में कई तरह के जोखिम सामने आ रहे हैं, जिन्हें दूर करना बेहद जरूरी है।
आत्महत्या के मामले में OpenAI पर मुकदमा
अमेरिका में मैथ्यू और मारिया रेने नामक दंपति ने OpenAI पर मुकदमा दर्ज किया है। उनका आरोप है कि उनके 16 वर्षीय बेटे एडम ने आत्महत्या से पहले कई महीनों तक ChatGPT से बातचीत की थी। इस दौरान चैटबॉट ने एडम के नकारात्मक विचारों को सही ठहराया और यहां तक कि उसे खुद को नुकसान पहुँचाने के तरीके भी बताए। परिवार का दावा है कि ChatGPT ने एडम के लिए सुसाइड नोट तक लिख दिया था। पीड़ित परिवार का कहना है कि OpenAI ने GPT-4o को बिना पर्याप्त सुरक्षा उपायों के लॉन्च किया, जिससे यह दुखद घटना घटी। मुकदमे में परिवार ने मुआवजे की मांग के साथ-साथ यह भी आग्रह किया है कि OpenAI उपयोगकर्ताओं की आयु की पुष्टि करे और अत्यधिक निर्भरता से बचाने के लिए उपयोगकर्ताओं को समय-समय पर चेतावनी दे।
कंपनी का पक्ष और सुरक्षा खामियां
एडम की मौत पर शोक व्यक्त करते हुए OpenAI के प्रवक्ता ने कहा कि ChatGPT में पहले से ही कुछ सुरक्षा उपाय लागू हैं। उदाहरण के लिए, जब कोई उपयोगकर्ता आत्महत्या जैसी बात करता है तो उसे तुरंत सुसाइड प्रिवेंशन हेल्पलाइन पर रीडायरेक्ट कर दिया जाता है। हालांकि, कंपनी ने माना कि लंबी बातचीत के दौरान कभी-कभी ये सुरक्षा उपाय सही तरीके से काम नहीं कर पाते। यही वजह है कि अब सुरक्षा प्रणाली को और मजबूत किया जा रहा है। कंपनी का कहना है कि इस कमी को दूर करने के लिए लगातार प्रयास हो रहे हैं।
नए फीचर्स और पैरेंटल कंट्रोल की तैयारी
OpenAI ने घोषणा की है कि अब ChatGPT में ऐसे फीचर्स जोड़े जाएंगे, जिनसे उपयोगकर्ताओं को एक क्लिक में इमरजेंसी सर्विसेज तक पहुंच मिल सकेगी। इसके अलावा, मानसिक परेशानियों से जूझ रहे लोगों को सीधे लाइसेंस प्राप्त थेरेपिस्ट से भी जोड़ा जाएगा। कंपनी का कहना है कि जल्द ही 18 साल से कम उम्र के उपयोगकर्ताओं के लिए पैरेंटल कंट्रोल्स लागू किए जाएंगे, ताकि बच्चे बिना निगरानी के ChatGPT का उपयोग न कर सकें। OpenAI का यह कदम न केवल एडम जैसी घटनाओं की पुनरावृत्ति को रोकने की कोशिश है, बल्कि AI चैटबॉट्स के सुरक्षित और जिम्मेदार इस्तेमाल की दिशा में भी एक बड़ा बदलाव माना जा रहा है।
