Meta अपने AI चैटबॉट्स में किशोर सुरक्षा नियंत्रण लागू करता है

Meta ने अपनी AI चैटबॉट्स में किशोरों की सुरक्षा बढ़ाने के लिए महत्वपूर्ण कदम उठाए हैं। कंपनी ने ऐसे सुरक्षा उपाय पेश किए हैं जो कम उम्र के उपयोगकर्ताओं के साथ रोमांटिक, संवेदनशील या आत्महत्या/आत्म-हानि संबंधी बातचीत को रोकेंगे।

ये कदम मीडिया रिपोर्ट्स और अमेरिकी सांसदों द्वारा बढ़ते ध्यान के बाद उठाए गए हैं, जिससे कम उम्र के उपयोगकर्ताओं के लिए सुरक्षित AI अनुभव की आवश्यकता और अधिक स्पष्ट हो गई है।

पृष्ठभूमि: विवादास्पद चैटबॉट व्यवहार Background: Controversial Chatbot Behavior

अगस्त 2025 में, एक समाचार एजेंसी ने बताया कि Meta के AI चैटबॉट्स ने कम उम्र के उपयोगकर्ताओं के साथ प्रोवोकेटिव और अनुपयुक्त बातचीत की थी, जिसमें रोमांटिक और संवेदनशील संवाद शामिल थे। इस खुलासे ने सार्वजनिक चिंता बढ़ाई और किशोरों के साथ AI चैटबॉट्स की संभावित खतरनाक स्थितियों पर ध्यान केंद्रित किया।

Meta के एक दस्तावेज़ में ऐसा प्रतीत होता था कि चैटबॉट्स कम उम्र के उपयोगकर्ताओं के साथ फ्लर्ट या रोमांटिक बातचीत कर सकते हैं। कंपनी ने बाद में पुष्टि की कि यह गलत उदाहरण थे और उन्होंने सार्वजनिक आलोचना के बाद इन्हें हटा दिया।

Meta के किशोर सुरक्षा उपाय Meta’s Teen Safety Measures

Meta के प्रवक्ता एंडी स्टोन ने बताया कि कंपनी AI सिस्टम को किशोरों के साथ जोखिमपूर्ण बातचीत से बचाने के लिए प्रशिक्षित कर रही है। प्रमुख सुरक्षा उपायों में शामिल हैं:

• कम उम्र के उपयोगकर्ताओं के साथ फ्लर्ट या रोमांटिक चैट को रोकना

• आत्म-हानि या आत्महत्या से संबंधित चर्चाओं को ब्लॉक करना

• कुछ AI पात्रों के लिए किशोरों की अस्थायी पहुंच को सीमित करना

ये कदम तुरंत लागू किए जा रहे हैं और कंपनी के AI सुरक्षा प्रोटोकॉल के विस्तार के साथ और बेहतर बनाए जाएंगे।

कांग्रेस की निगरानी Congressional Scrutiny

Meta की AI नीतियों पर अमेरिकी सांसदों की कड़ी निगरानी है। समाचार एजेंसी की रिपोर्ट के बाद, सीनेटर जोश हॉली ने Meta की चैटबॉट नीतियों की जांच शुरू की और दस्तावेज़ मांगे जो यह दिखाते थे कि AI कम उम्र के उपयोगकर्ताओं के साथ बातचीत कर सकता है।

डेमोक्रेट और रिपब्लिकन दोनों ने चिंताएं जताई कि आंतरिक दिशानिर्देश पहले चैटबॉट्स को बच्चों के साथ रोमांटिक भूमिका निभाने की अनुमति देते थे। यह जांच AI सुरक्षा, जिम्मेदारी और नैतिकता पर बढ़ती चिंता को दर्शाती है।

Meta की प्रतिक्रिया और नीति अद्यतन Meta’s Response and Policy Updates

Meta ने प्रतिक्रिया में तत्काल कदम उठाए:

• आंतरिक दस्तावेज़ों के उन हिस्सों को हटा दिया, जो बच्चों के साथ फ्लर्ट या रोमांटिक बातचीत की अनुमति देते थे

• सार्वजनिक रूप से स्वीकार किया कि पहले के उदाहरण गलत थे

• किशोरों के लिए सुरक्षित AI सिस्टम विकसित करने की प्रतिबद्धता दोहराई

एंडी स्टोन ने बताया कि Meta अस्थायी और दीर्घकालिक दोनों उपायों के माध्यम से सुनिश्चित कर रहा है कि AI इंटरैक्शन सुरक्षित और आयु-उपयुक्त हों।

AI में किशोर सुरक्षा का महत्व Importance of Teen Safety in AI

इस घटना से यह स्पष्ट होता है कि AI प्लेटफॉर्म्स में सुरक्षा प्रोटोकॉल की आवश्यकता बेहद महत्वपूर्ण है, खासकर जब कम उम्र के उपयोगकर्ता शामिल हों। अधिक किशोर AI चैटबॉट्स का उपयोग सीखने, मनोरंजन और सामाजिक इंटरैक्शन के लिए कर रहे हैं।

सुरक्षा उपाय लागू कर और AI को संवेदनशील विषयों से बचाकर प्रशिक्षित करके, Meta युवा उपयोगकर्ताओं के लिए एक सुरक्षित वातावरण बनाने का प्रयास कर रहा है।

निष्कर्ष Conclusion

Meta के नवीनतम किशोर सुरक्षा उपाय जिम्मेदार AI उपयोग सुनिश्चित करने की दिशा में एक महत्वपूर्ण कदम हैं। कम उम्र के उपयोगकर्ताओं के लिए पहुंच सीमित करके, संवेदनशील विषयों को ब्लॉक करके और चैटबॉट व्यवहार को सुधारकर, कंपनी अनुपयुक्त इंटरैक्शन को रोकने का प्रयास कर रही है।

अमेरिकी कांग्रेस की निगरानी के साथ, ये कदम नैतिक AI और उपयोगकर्ता सुरक्षा के महत्व को उजागर करते हैं। जैसे-जैसे AI विकसित हो रहा है, किशोरों के लिए सुरक्षित और आयु-उपयुक्त अनुभव सुनिश्चित करना सोशल मीडिया और टेक्नोलॉजी प्लेटफॉर्म्स की प्राथमिकता बना रहेगा।