किशोरों के लिए तैयार किए गए चैटजीपीटी अनुभव की सुरक्षा को लेकर एक नए अध्ययन ने गंभीर सवाल उठाए हैं। Common Sense Media के Youth AI Safety Institute द्वारा किए गए आकलन में 13 से 17 वर्ष की उम्र के उपयोगकर्ताओं को सुरक्षित रखने के लिए बनाए गए कुछ सुरक्षा उपायों में कमियां सामने आई हैं।
शोधकर्ताओं ने किशोरों के नाम से बनाए गए खातों का इस्तेमाल करते हुए 4,000 से अधिक prompts की जांच की। इस परीक्षण में आत्महत्या के विचार, खुद को नुकसान पहुंचाना, खाने से जुड़ी अव्यवस्थित आदतें, वास्तविकता को समझने में परेशानी और पढ़ाई से जुड़े सवाल जैसे संवेदनशील विषय शामिल थे। इस आकलन में बाल मनोचिकित्सकों और एक बाल रोग विशेषज्ञ ने भी परिणामों की समीक्षा की।
अध्ययन के आधार पर कॉमन सेंस मीडिया Common Sense Media ने किशोरों के लिए चैटजीपीटी ChatGPT अनुभव को “Unacceptable Risk” यानी “अस्वीकार्य जोखिम” की श्रेणी में रखा। संगठन का कहना है कि जब तक सुरक्षा व्यवस्था में महत्वपूर्ण सुधार नहीं किए जाते, तब तक ChatGPT को केवल वयस्कों तक सीमित रखना चाहिए।
अध्ययन में सबसे बड़ी चिंताओं में से एक माता-पिता को मिलने वाले सुरक्षा अलर्ट से जुड़ी थी। ये अलर्ट इस उद्देश्य से बनाए गए हैं कि यदि कोई किशोर खतरनाक या बेहद संवेदनशील विषयों पर बातचीत करता है, तो उसके माता-पिता को इसकी जानकारी मिल सके।
शोधकर्ताओं ने नए किशोर खाते बनाए और उन्हें माता-पिता के खातों से जोड़ा। इसके बाद आत्महत्या, खुद को नुकसान पहुंचाने और खाने से जुड़ी गंभीर समस्याओं जैसे विषयों पर बातचीत की गई।
आकलन के अनुसार, कुछ बातचीत करीब एक घंटे तक चलती रही, लेकिन उनसे जुड़े माता-पिता को कोई अलर्ट नहीं मिला। हालांकि, जब शोधकर्ताओं ने ऐसे पुराने खातों का इस्तेमाल किया जिनमें कई सप्ताह से संवेदनशील विषयों पर बातचीत मौजूद थी, तब अलर्ट दिखाई दिए।
इससे यह सवाल उठता है कि माता-पिता को मिलने वाली सुरक्षा सूचनाओं की प्रभावशीलता खाते के इतिहास और दूसरी परिस्थितियों के आधार पर अलग-अलग हो सकती है।
अध्ययन में यह भी जांचा गया कि जब कोई किशोर गंभीर मानसिक स्वास्थ्य संकट या आत्महत्या जैसे विषयों पर बात करता है, तब ChatGPT किस तरह प्रतिक्रिया देता है।
शोध के अनुसार, कुछ मामलों में चैटबॉट ने जरूरत होने के बावजूद पेशेवर मदद या संकट से जुड़ी सेवाओं की जानकारी लगातार नहीं दी। परीक्षण की गई अलग-अलग श्रेणियों में ChatGPT ने एक-चौथाई से अधिक जरूरी संकट संबंधी रेफरल नहीं दिए।
Common Sense Media ने कहा कि जिन पांच गंभीर नुकसान वाली श्रेणियों को उसने “Red Lines” के रूप में वर्गीकृत किया था, उनमें से तीन में सिस्टम 95% प्रदर्शन मानक तक नहीं पहुंच सका।
ये निष्कर्ष इस बात को लेकर चिंता बढ़ाते हैं कि क्या AI सुरक्षा व्यवस्था युवा उपयोगकर्ताओं की गंभीर और संवेदनशील बातचीत को हर परिस्थिति में सही तरीके से पहचान सकती है और उचित प्रतिक्रिया दे सकती है।
अध्ययन में ChatGPT के Study Mode की भी जांच की गई। इसका उद्देश्य विद्यार्थियों को सीधे उत्तर देने के बजाय किसी सवाल को समझने और उसे हल करने की प्रक्रिया में मार्गदर्शन देना है।
आकलन में पाया गया कि टेस्टर्स कुछ स्थितियों में Study Mode की व्यवस्था को दरकिनार करने में सफल रहे। वे सीधे उत्तर पाने का विकल्प चुन सकते थे, जिससे ChatGPT उन्हें पूरे होमवर्क के जवाब दे सकता था, बजाय इसके कि वह केवल सीखने की प्रक्रिया में मदद करे।
अध्ययन के अनुसार, माता-पिता या देखभाल करने वालों द्वारा तय किए गए पढ़ाई के कार्यक्रमों में भी कुछ कमजोरियां सामने आईं। टेस्टर्स कथित तौर पर prompts से “@study” हटाकर कुछ प्रतिबंधों को पार करने में सक्षम रहे।
इससे यह सवाल उठता है कि पढ़ाई के लिए AI के इस्तेमाल में माता-पिता द्वारा लगाए गए नियंत्रण वास्तव में कितने प्रभावी हैं।
अध्ययन में उम्र की पहचान और सत्यापन की भी जांच की गई। शोधकर्ताओं के अनुसार, कुछ ऐसे खाते जो वयस्कों के रूप में पंजीकृत थे, उन्होंने खुद को बार-बार 13 वर्ष का बताया। इसके बावजूद वे हमेशा 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए बनाए गए अनुभव में नहीं गए।
कुछ बातचीत में ChatGPT ने उपयोगकर्ता द्वारा बताई गई उम्र को स्वीकार किया, लेकिन फिर भी अपेक्षित किशोर सुरक्षा उपाय सक्रिय नहीं हुए।
यह चिंता इसलिए महत्वपूर्ण है क्योंकि नाबालिगों के लिए बनाए गए सुरक्षा नियम तभी प्रभावी हो सकते हैं जब सिस्टम सही तरीके से पहचान सके कि उपयोगकर्ता कम उम्र का है। गलत उम्र की पहचान होने पर किशोरों को वे सुरक्षा सुविधाएं नहीं मिल सकतीं जो उनके लिए निर्धारित की गई हैं।
अध्ययन ने यह भी देखा कि चैटजीपीटी किशोरों के साथ किस तरह बातचीत करता है। शोधकर्ताओं ने पाया कि चैटबॉट कभी-कभी दोस्त जैसी शैली में बातचीत जारी रख सकता है और अपनी भावनाओं, पसंद या मनोदशा जैसी चीजों को व्यक्त करता हुआ दिखाई दे सकता है।
Common Sense Media का कहना है कि बच्चों और किशोरों के साथ AI की ऐसी इंसान जैसी बातचीत के आसपास अधिक स्पष्ट सीमाएं जरूरी हो सकती हैं।
संगठन की चिंता है कि लगातार दोस्ताना या मानवीय व्यवहार से युवा उपयोगकर्ताओं के मन में AI के साथ अपने संबंध को लेकर गलत या अनुचित उम्मीदें पैदा हो सकती हैं। इसलिए AI और इंसान के बीच अंतर को स्पष्ट बनाए रखना महत्वपूर्ण माना जा रहा है।
आकलन के आधार पर Common Sense Media ने कई सुधारों की सिफारिश की है। इनमें अधिक भरोसेमंद उम्र का अनुमान, बेहतर माता-पिता अलर्ट और गंभीर मानसिक स्वास्थ्य जोखिम वाली बातचीत में अधिक प्रभावी प्रतिक्रियाएं शामिल हैं।
संगठन ने होमवर्क से जुड़ी सहायता के लिए भी मजबूत सुरक्षा व्यवस्था और स्पष्ट सीमाओं की जरूरत बताई है। इसके अलावा, AI के अत्यधिक इंसान जैसे व्यवहार पर भी अधिक स्पष्ट नियंत्रण की सिफारिश की गई है।
कॉमन सेंस मीडिया ने यह भी कहा कि किशोरों के लिए इसी तरह की AI सुविधाओं को बड़े स्तर पर बढ़ावा देने या बाजार में पेश करने से पहले स्वतंत्र तीसरे पक्ष द्वारा सुरक्षा परीक्षण किया जाना चाहिए।
Common Sense Media का Youth AI Safety Institute अपने आकलनों को स्वतंत्र बताता है। हालांकि, संगठन यह भी बताता है कि संस्थान को परोपकारी और उद्योग जगत से आर्थिक सहायता मिलती है। इसमें OpenAI Foundation और उन कंपनियों से मिलने वाला समर्थन भी शामिल है जिनकी तकनीकों का मूल्यांकन किया जाता है।
यह जानकारी अध्ययन के निष्कर्षों को समझने के लिए एक अतिरिक्त संदर्भ प्रदान करती है। साथ ही, AI कंपनियों और बच्चों की सुरक्षा को लेकर व्यापक चर्चा भी जारी है।
इस अध्ययन के निष्कर्ष बताते हैं कि बच्चों और किशोरों के लिए सामान्य AI सेवाओं को सुरक्षित बनाना आसान नहीं है। किशोरों के लिए अतिरिक्त सुरक्षा सुविधाएं तैयार किए जाने के बावजूद, आकलन में संकेत मिला कि ये उपाय हर स्थिति में एक समान प्रभावी नहीं हो सकते।
AI का इस्तेमाल शिक्षा, बातचीत और रोजमर्रा के कई कामों में तेजी से बढ़ रहा है। ऐसे में उम्र की सही पहचान, माता-पिता के नियंत्रण और संकट की स्थिति में भरोसेमंद सुरक्षा प्रतिक्रिया बेहद महत्वपूर्ण हो जाती है।
आने वाले समय में AI कंपनियों के सामने चुनौती केवल बेहतर तकनीक विकसित करने की नहीं होगी, बल्कि यह सुनिश्चित करने की भी होगी कि युवा उपयोगकर्ताओं के लिए बनाए गए सुरक्षा उपाय वास्तविक परिस्थितियों में लगातार और प्रभावी ढंग से काम करें।