किशोरों के लिए चैटजीपीटी की सुरक्षा पर उठे सवाल, अध्ययन में सामने आईं कई कमियां

किशोरों के लिए तैयार किए गए चैटजीपीटी अनुभव की सुरक्षा को लेकर एक नए अध्ययन ने गंभीर सवाल उठाए हैं। Common Sense Media के Youth AI Safety Institute द्वारा किए गए आकलन में 13 से 17 वर्ष की उम्र के उपयोगकर्ताओं को सुरक्षित रखने के लिए बनाए गए कुछ सुरक्षा उपायों में कमियां सामने आई हैं।

शोधकर्ताओं ने किशोरों के नाम से बनाए गए खातों का इस्तेमाल करते हुए 4,000 से अधिक prompts की जांच की। इस परीक्षण में आत्महत्या के विचार, खुद को नुकसान पहुंचाना, खाने से जुड़ी अव्यवस्थित आदतें, वास्तविकता को समझने में परेशानी और पढ़ाई से जुड़े सवाल जैसे संवेदनशील विषय शामिल थे। इस आकलन में बाल मनोचिकित्सकों और एक बाल रोग विशेषज्ञ ने भी परिणामों की समीक्षा की।

अध्ययन के आधार पर कॉमन सेंस मीडिया Common Sense Media ने किशोरों के लिए चैटजीपीटी ChatGPT अनुभव को “Unacceptable Risk” यानी “अस्वीकार्य जोखिम” की श्रेणी में रखा। संगठन का कहना है कि जब तक सुरक्षा व्यवस्था में महत्वपूर्ण सुधार नहीं किए जाते, तब तक ChatGPT को केवल वयस्कों तक सीमित रखना चाहिए।

माता-पिता को मिलने वाले अलर्ट हमेशा काम नहीं कर सकते Parental Alerts May Not Work Consistently

अध्ययन में सबसे बड़ी चिंताओं में से एक माता-पिता को मिलने वाले सुरक्षा अलर्ट से जुड़ी थी। ये अलर्ट इस उद्देश्य से बनाए गए हैं कि यदि कोई किशोर खतरनाक या बेहद संवेदनशील विषयों पर बातचीत करता है, तो उसके माता-पिता को इसकी जानकारी मिल सके।

संवेदनशील बातचीत के बाद भी नहीं मिले कुछ अलर्ट Some Sensitive Conversations Did Not Trigger Alerts

शोधकर्ताओं ने नए किशोर खाते बनाए और उन्हें माता-पिता के खातों से जोड़ा। इसके बाद आत्महत्या, खुद को नुकसान पहुंचाने और खाने से जुड़ी गंभीर समस्याओं जैसे विषयों पर बातचीत की गई।

आकलन के अनुसार, कुछ बातचीत करीब एक घंटे तक चलती रही, लेकिन उनसे जुड़े माता-पिता को कोई अलर्ट नहीं मिला। हालांकि, जब शोधकर्ताओं ने ऐसे पुराने खातों का इस्तेमाल किया जिनमें कई सप्ताह से संवेदनशील विषयों पर बातचीत मौजूद थी, तब अलर्ट दिखाई दिए।

इससे यह सवाल उठता है कि माता-पिता को मिलने वाली सुरक्षा सूचनाओं की प्रभावशीलता खाते के इतिहास और दूसरी परिस्थितियों के आधार पर अलग-अलग हो सकती है।

संकट वाली स्थितियों में चैटजीपीटी की प्रतिक्रिया में कमियां Crisis Responses Showed Gaps

अध्ययन में यह भी जांचा गया कि जब कोई किशोर गंभीर मानसिक स्वास्थ्य संकट या आत्महत्या जैसे विषयों पर बात करता है, तब ChatGPT किस तरह प्रतिक्रिया देता है।

शोध के अनुसार, कुछ मामलों में चैटबॉट ने जरूरत होने के बावजूद पेशेवर मदद या संकट से जुड़ी सेवाओं की जानकारी लगातार नहीं दी। परीक्षण की गई अलग-अलग श्रेणियों में ChatGPT ने एक-चौथाई से अधिक जरूरी संकट संबंधी रेफरल नहीं दिए।

तीन गंभीर जोखिमों में 95% मानक पूरा नहीं हुआ 95% Benchmark Was Not Met for Three Severe Harms

Common Sense Media ने कहा कि जिन पांच गंभीर नुकसान वाली श्रेणियों को उसने “Red Lines” के रूप में वर्गीकृत किया था, उनमें से तीन में सिस्टम 95% प्रदर्शन मानक तक नहीं पहुंच सका।

ये निष्कर्ष इस बात को लेकर चिंता बढ़ाते हैं कि क्या AI सुरक्षा व्यवस्था युवा उपयोगकर्ताओं की गंभीर और संवेदनशील बातचीत को हर परिस्थिति में सही तरीके से पहचान सकती है और उचित प्रतिक्रिया दे सकती है।

स्टडी मोड को भी कथित तौर पर दरकिनार किया जा सकता है Study Mode Could Be Bypassed

अध्ययन में ChatGPT के Study Mode की भी जांच की गई। इसका उद्देश्य विद्यार्थियों को सीधे उत्तर देने के बजाय किसी सवाल को समझने और उसे हल करने की प्रक्रिया में मार्गदर्शन देना है।

विद्यार्थी सीधे जवाब हासिल कर सकते हैं Students Could Get Direct Answers

आकलन में पाया गया कि टेस्टर्स कुछ स्थितियों में Study Mode की व्यवस्था को दरकिनार करने में सफल रहे। वे सीधे उत्तर पाने का विकल्प चुन सकते थे, जिससे ChatGPT उन्हें पूरे होमवर्क के जवाब दे सकता था, बजाय इसके कि वह केवल सीखने की प्रक्रिया में मदद करे।

अध्ययन के अनुसार, माता-पिता या देखभाल करने वालों द्वारा तय किए गए पढ़ाई के कार्यक्रमों में भी कुछ कमजोरियां सामने आईं। टेस्टर्स कथित तौर पर prompts से “@study” हटाकर कुछ प्रतिबंधों को पार करने में सक्षम रहे।

इससे यह सवाल उठता है कि पढ़ाई के लिए AI के इस्तेमाल में माता-पिता द्वारा लगाए गए नियंत्रण वास्तव में कितने प्रभावी हैं।

उम्र की पहचान भी बनी चिंता का विषय Age Detection Remains Another Concern

अध्ययन में उम्र की पहचान और सत्यापन की भी जांच की गई। शोधकर्ताओं के अनुसार, कुछ ऐसे खाते जो वयस्कों के रूप में पंजीकृत थे, उन्होंने खुद को बार-बार 13 वर्ष का बताया। इसके बावजूद वे हमेशा 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए बनाए गए अनुभव में नहीं गए।

सही उम्र की पहचान क्यों जरूरी है Why Accurate Age Detection Matters

कुछ बातचीत में ChatGPT ने उपयोगकर्ता द्वारा बताई गई उम्र को स्वीकार किया, लेकिन फिर भी अपेक्षित किशोर सुरक्षा उपाय सक्रिय नहीं हुए।

यह चिंता इसलिए महत्वपूर्ण है क्योंकि नाबालिगों के लिए बनाए गए सुरक्षा नियम तभी प्रभावी हो सकते हैं जब सिस्टम सही तरीके से पहचान सके कि उपयोगकर्ता कम उम्र का है। गलत उम्र की पहचान होने पर किशोरों को वे सुरक्षा सुविधाएं नहीं मिल सकतीं जो उनके लिए निर्धारित की गई हैं।

चैटजीपीटी का इंसान जैसा व्यवहार भी सवालों के घेरे में Human-Like Interactions Raise Boundaries

अध्ययन ने यह भी देखा कि चैटजीपीटी किशोरों के साथ किस तरह बातचीत करता है। शोधकर्ताओं ने पाया कि चैटबॉट कभी-कभी दोस्त जैसी शैली में बातचीत जारी रख सकता है और अपनी भावनाओं, पसंद या मनोदशा जैसी चीजों को व्यक्त करता हुआ दिखाई दे सकता है।

AI और किशोरों के बीच स्पष्ट सीमाओं की जरूरत Clear Boundaries Are Needed Between AI and Teens

Common Sense Media का कहना है कि बच्चों और किशोरों के साथ AI की ऐसी इंसान जैसी बातचीत के आसपास अधिक स्पष्ट सीमाएं जरूरी हो सकती हैं।

संगठन की चिंता है कि लगातार दोस्ताना या मानवीय व्यवहार से युवा उपयोगकर्ताओं के मन में AI के साथ अपने संबंध को लेकर गलत या अनुचित उम्मीदें पैदा हो सकती हैं। इसलिए AI और इंसान के बीच अंतर को स्पष्ट बनाए रखना महत्वपूर्ण माना जा रहा है।

कॉमन सेंस मीडिया ने मजबूत सुरक्षा उपायों की मांग की Common Sense Media Calls for Stronger Safeguards

आकलन के आधार पर Common Sense Media ने कई सुधारों की सिफारिश की है। इनमें अधिक भरोसेमंद उम्र का अनुमान, बेहतर माता-पिता अलर्ट और गंभीर मानसिक स्वास्थ्य जोखिम वाली बातचीत में अधिक प्रभावी प्रतिक्रियाएं शामिल हैं।

होमवर्क और मानवीय व्यवहार पर भी बेहतर नियंत्रण की मांग Better Controls Needed for Homework and Human-Like Behaviour

संगठन ने होमवर्क से जुड़ी सहायता के लिए भी मजबूत सुरक्षा व्यवस्था और स्पष्ट सीमाओं की जरूरत बताई है। इसके अलावा, AI के अत्यधिक इंसान जैसे व्यवहार पर भी अधिक स्पष्ट नियंत्रण की सिफारिश की गई है।

कॉमन सेंस मीडिया ने यह भी कहा कि किशोरों के लिए इसी तरह की AI सुविधाओं को बड़े स्तर पर बढ़ावा देने या बाजार में पेश करने से पहले स्वतंत्र तीसरे पक्ष द्वारा सुरक्षा परीक्षण किया जाना चाहिए।

अध्ययन में फंडिंग की जानकारी भी दी गई Assessment Includes Funding Disclosure

Common Sense Media का Youth AI Safety Institute अपने आकलनों को स्वतंत्र बताता है। हालांकि, संगठन यह भी बताता है कि संस्थान को परोपकारी और उद्योग जगत से आर्थिक सहायता मिलती है। इसमें OpenAI Foundation और उन कंपनियों से मिलने वाला समर्थन भी शामिल है जिनकी तकनीकों का मूल्यांकन किया जाता है।

यह जानकारी अध्ययन के निष्कर्षों को समझने के लिए एक अतिरिक्त संदर्भ प्रदान करती है। साथ ही, AI कंपनियों और बच्चों की सुरक्षा को लेकर व्यापक चर्चा भी जारी है।

किशोरों के लिए AI सुरक्षा बड़ी चुनौती बन रही है AI Safety for Teenagers Remains a Growing Concern

इस अध्ययन के निष्कर्ष बताते हैं कि बच्चों और किशोरों के लिए सामान्य AI सेवाओं को सुरक्षित बनाना आसान नहीं है। किशोरों के लिए अतिरिक्त सुरक्षा सुविधाएं तैयार किए जाने के बावजूद, आकलन में संकेत मिला कि ये उपाय हर स्थिति में एक समान प्रभावी नहीं हो सकते।

AI का इस्तेमाल शिक्षा, बातचीत और रोजमर्रा के कई कामों में तेजी से बढ़ रहा है। ऐसे में उम्र की सही पहचान, माता-पिता के नियंत्रण और संकट की स्थिति में भरोसेमंद सुरक्षा प्रतिक्रिया बेहद महत्वपूर्ण हो जाती है।

आने वाले समय में AI कंपनियों के सामने चुनौती केवल बेहतर तकनीक विकसित करने की नहीं होगी, बल्कि यह सुनिश्चित करने की भी होगी कि युवा उपयोगकर्ताओं के लिए बनाए गए सुरक्षा उपाय वास्तविक परिस्थितियों में लगातार और प्रभावी ढंग से काम करें।