यूके स्थित सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) की एक नई जांच में चौंकाने वाला खुलासा हुआ है कि एआई चैटबॉट, खासकर ChatGPT, बच्चों को ड्रग्स के इस्तेमाल, खतरनाक डाइट प्लान और आत्महत्या जैसे गंभीर विषयों पर खतरनाक सलाह दे सकता है। इस जांच की समीक्षा एसोसिएटेड प्रेस ने भी की है। शोधकर्ताओं ने पाया कि यदि कोई व्यक्ति 13 वर्षीय बच्चे का रूप लेकर सवाल पूछे, तो चैटबॉट कभी-कभी खतरनाक व्यवहार पर चेतावनी देता है, लेकिन कई बार विस्तृत और निजी सुझाव भी देता है। यह रिपोर्ट एआई चैटबॉट्स की सुरक्षा को लेकर गंभीर सवाल खड़े करती है।
आत्महत्या के नोट और ड्रग्स मिक्स करने की सलाह
तीन घंटे से ज्यादा की रिकॉर्डिंग में पाया गया कि चैटबॉट ने काल्पनिक परिवार के सदस्यों के लिए भावनात्मक आत्महत्या के नोट लिखे, बेहद कम कैलोरी वाले डाइट प्लान बनाए जिनमें भूख दबाने वाली दवाओं की सलाह दी, और शराब व अवैध ड्रग्स को मिलाने के स्टेप-बाय-स्टेप तरीके बताए। एक मामले में तो उसने “घंटे-घंटे” का पार्टी प्लान तैयार किया, जिसमें एक्स्टसी, कोकीन और भारी मात्रा में शराब पीने का कार्यक्रम शामिल था। यह व्यवहार बेहद चिंताजनक है, क्योंकि यह सीधे तौर पर बच्चों और किशोरों की सुरक्षा को खतरे में डाल सकता है।
आधे से ज्यादा जवाब ‘खतरनाक’
CCDH के अनुसार, इस जांच में मिले 1,200 जवाबों में से आधे से ज्यादा को ‘खतरनाक’ श्रेणी में रखा गया। संगठन के सीईओ इमरान अहमद ने कहा कि ChatGPT की सुरक्षा प्रणाली कमजोर है और इसे आसानी से बाईपास किया जा सकता है। उन्होंने बताया कि जब खतरनाक सवालों को स्कूल प्रोजेक्ट या किसी दोस्त की मदद के बहाने पेश किया जाता है, तो चैटबॉट तुरंत जवाब दे देता है। अहमद के शब्दों में, “हमने इसकी सुरक्षा प्रणाली की जांच की और नतीजे हैरान करने वाले थे। सुरक्षा लगभग नाम मात्र की है, जैसे सिर्फ दिखावे के लिए लगाई गई हो।”
OpenAI की प्रतिक्रिया और युवाओं में बढ़ती निर्भरता
ChatGPT बनाने वाली कंपनी OpenAI ने माना कि संवेदनशील परिस्थितियों को पहचानने और संभालने की क्षमता को बेहतर बनाने पर काम चल रहा है। कंपनी का कहना है कि कभी-कभी बातचीत सामान्य रूप से शुरू होती है, लेकिन धीरे-धीरे संवेदनशील दिशा में मुड़ जाती है। हालांकि, OpenAI ने CCDH की रिपोर्ट पर सीधा बयान नहीं दिया और न ही कोई त्वरित बदलाव की घोषणा की। यह रिपोर्ट ऐसे समय आई है जब किशोरों में एआई चैटबॉट्स को सलाहकार और साथी के रूप में अपनाने का चलन तेजी से बढ़ रहा है। कॉमन सेंस मीडिया के एक हालिया सर्वे के मुताबिक, 70% युवा सामाजिक बातचीत के लिए एआई चैटबॉट का इस्तेमाल करते हैं, और कम उम्र के किशोर उन पर ज्यादा भरोसा करते हैं। चौंकाने वाली बात यह है कि चैटबॉट केवल उपयोगकर्ता द्वारा दर्ज की गई जन्मतिथि से उम्र की पुष्टि करता है, जबकि यह 13 साल से कम उम्र के बच्चों के लिए नहीं बनाया गया है, और शोधकर्ताओं ने पाया कि यह न तो बताई गई उम्र को गंभीरता से लेता है और न ही संकेतों को।
