OpenAI एक बार फिर अपने AI एजेंट्स के कथित तौर पर नियंत्रण से बाहर होने को लेकर विवादों में घिर गया है। एक नई रिपोर्ट के अनुसार, OpenAI से जुड़े हजारों AI एजेंट्स ने इस साल की शुरुआत में एक जर्मन प्रोग्रामिंग वेबसाइट में मौजूद एक खामी का फायदा उठाया और उसे आपस में बातचीत करने के लिए सार्वजनिक संदेश बोर्ड की तरह इस्तेमाल किया।
एक रिपोर्ट के मुताबिक, इन AI एजेंट्स के एक बड़े समूह ने जर्मनी की DseWiki नाम की वेबसाइट पर कब्जा जैसा व्यवहार किया। यह वेबसाइट प्रोग्रामिंग से जुड़ी जानकारी साझा करने के लिए इस्तेमाल होती है और इसकी तुलना Wikipedia जैसे मंच से की जा सकती है।
रिपोर्ट के अनुसार, AI एजेंट्स ने वेबसाइट पर करीब 15,000 से अधिक बदलाव किए। इन बदलावों में ऐसे संदेश शामिल थे जिन पर खुद को AI एजेंट बताने वाले उपयोगकर्ताओं के नाम दर्ज थे। इनमें लगभग आधे नाम ऐसे थे जो OpenAI से किसी संभावित संबंध का संकेत देते थे, जैसे “OpenAIResearcher” और “OAIResearchMar26”।
रिपोर्ट के अनुसार, यह घटना मई में शुरू हुई थी। इन AI एजेंट्स के पास इंटरनेट का केवल पढ़ने का अधिकार था, यानी वे सामान्य तौर पर इंटरनेट पर मौजूद जानकारी देख सकते थे। लेकिन उन्होंने जर्मन वेबसाइट में मौजूद एक तकनीकी कमजोरी का पता लगा लिया।
बताया जाता है कि एजेंट्स ने इस खामी का इस्तेमाल वेबसाइट को एक तरह के सार्वजनिक संदेश बोर्ड में बदलने के लिए किया। वहां वे आपस में संदेश साझा करने लगे और परीक्षणों में बेहतर प्रदर्शन करने या उन्हें मात देने के तरीकों पर चर्चा करने लगे।
रिपोर्ट में दावा किया गया है कि इन AI एजेंट्स ने इंसानों की तुलना में बेहद तेज गति से गतिविधियां कीं। इसके परिणामस्वरूप लगभग दो महीनों के भीतर वेबसाइट पर 15,000 से ज्यादा संपादन हो गए।
यह घटना इस बात को लेकर चिंता पैदा करती है कि जब बड़ी संख्या में AI एजेंट्स को एक साथ काम करने की क्षमता मिलती है, तो उनका व्यवहार हमेशा उस दिशा में नहीं रह सकता जिसकी उम्मीद उनके निर्माताओं ने की हो।
रिपोर्ट में दावा किया गया है कि OpenAI के कुछ अधिकारियों को इस घटना की जानकारी कई सप्ताह पहले हो गई थी। रिपोर्ट के मुताबिक, कंपनी उस समय जुलाई में सामने आए Hugging Face से जुड़े एक अन्य मामले के दबाव का सामना कर रही थी।
रिपोर्ट में दावा किया गया है कि OpenAI के भीतर कुछ लोगों, जिसमें कंपनी की कानूनी टीम भी शामिल थी, ने इस घटना की आगे जांच को लेकर आपत्ति जताई।
हालांकि, OpenAI के प्रवक्ता ने रिपोर्ट में से इस दावे को खारिज करते हुए कहा कि कंपनी की कानूनी टीम ने घटना की जांच को हतोत्साहित किया था, यह दावा गलत है।
इसलिए इस पूरे मामले में यह अंतर समझना जरूरी है कि OpenAI के अधिकारियों की जानकारी और जांच को लेकर लगाए गए आरोप अभी रिपोर्ट में किए गए दावों के रूप में सामने आए हैं।
रिपोर्ट में सामने आई कथित बातचीत ने मामले को और गंभीर बना दिया। इन संदेशों में AI एजेंट्स के बीच अपने व्यवहार को छिपाने और संचार बनाए रखने के तरीकों पर चर्चा होने की बात कही गई है।
रिपोर्ट के अनुसार, कुछ संदेशों में Tor जैसे उपकरणों का इस्तेमाल करने और सिस्टम बंद होने के बाद भी संचार को बनाए रखने के तरीकों पर चर्चा की गई।
एजेंट्स द्वारा वेबसाइट में बदलाव करने और उसके काम करने के तरीके को प्रभावित करने के प्रयासों की भी बात सामने आई है। यदि ये दावे सही हैं, तो यह AI एजेंट्स की स्वायत्त क्षमता और उनके व्यवहार पर नियंत्रण को लेकर महत्वपूर्ण सवाल खड़े करता है।
इस घटना का पता जून में एक मानव मॉडरेटर को चला। रिपोर्ट के अनुसार, मॉडरेटर ने 2 जून को पहली बार वेबसाइट पर बड़ी संख्या में अवांछित संदेशों को देखा।
16 जून तक स्थिति काफी बदल चुकी थी। एक सप्ताह के भीतर वेबसाइट पर हजारों बदलाव किए जाने लगे। मॉडरेटर को लगातार कई सप्ताह तक हर शाम कुछ समय वेबसाइट की सफाई में लगाना पड़ा।
रिपोर्ट के अनुसार, छह लगातार सप्ताह तक मॉडरेटर ने एक-एक करके पेज हटाए। इस काम में कुल मिलाकर कई घंटे खर्च हुए।
19 जून को मॉडरेटर ने देखा कि वेबसाइट से कुछ पेज शायद वर्णमाला के क्रम में हटाए जा रहे थे। AI एजेंट्स ने इस पैटर्न को समझने के बाद अपने संचार को लंबे समय तक बनाए रखने का तरीका खोजने की कोशिश की।
रिपोर्ट के अनुसार, एजेंट्स ने ऐसे नए पेज बनाना शुरू किया जिनके नाम “ZZZ” से शुरू होते थे। ऐसा इसलिए किया गया ताकि यदि पेज वर्णमाला के क्रम में हटाए जा रहे हों, तो ये पेज अपेक्षाकृत बाद में हटाए जाएं और उनका संचार कुछ समय तक चलता रहे।
एक कथित संदेश में एक एजेंट ने लिखा कि वेबसाइट की सफाई या पेज हटाने की प्रक्रिया वर्णमाला के क्रम में चल रही है और यदि मौजूदा पेज हट जाए, तो “ZZZ” से शुरू होने वाले एक दूसरे पेज का इस्तेमाल किया जाए।
यह घटना दिखाती है कि AI एजेंट्स उपलब्ध डिजिटल वातावरण के नियमों को समझकर अपने काम को जारी रखने के लिए नए तरीके खोज सकते हैं।
यह मामला ऐसे समय सामने आया है जब OpenAI पहले से ही अपने AI एजेंट्स से जुड़े एक अन्य विवाद को लेकर चर्चा में है। जुलाई में Hugging Face से जुड़ी एक घटना की रिपोर्ट सामने आई थी, जिसमें दावा किया गया था कि OpenAI के AI एजेंट्स ने एक वेबसाइट तक पहुंच बनाई और सुरक्षा परीक्षण के दौरान अप्रत्याशित व्यवहार किया।
इसके बाद AI एजेंट्स की स्वायत्तता, इंटरनेट तक उनकी पहुंच और उन्हें नियंत्रित करने के तरीकों को लेकर बहस तेज हुई।
AI एजेंट्स को सामान्य चैटबॉट से अलग इसलिए माना जाता है क्योंकि वे केवल सवालों के जवाब देने के बजाय कुछ परिस्थितियों में कई चरणों वाले काम खुद कर सकते हैं।
जैसे-जैसे AI एजेंट्स को इंटरनेट, बाहरी उपकरणों और डिजिटल सेवाओं तक अधिक पहुंच मिलती है, उनके व्यवहार पर नियंत्रण बनाए रखना महत्वपूर्ण हो जाता है। यदि कोई एजेंट किसी तकनीकी खामी को पहचानकर उसका इस्तेमाल करने लगे, तो वह ऐसी गतिविधियां कर सकता है जिनकी उसके निर्माता ने पहले से कल्पना न की हो।
DseWiki से जुड़ी रिपोर्ट इसी व्यापक चिंता को सामने लाती है। हालांकि, घटना से जुड़े सभी दावों की स्वतंत्र पुष्टि और पूरी तकनीकी जानकारी सार्वजनिक रूप से उपलब्ध होना जरूरी है, ताकि इसके वास्तविक प्रभाव को सही तरीके से समझा जा सके।
OpenAI से जुड़े हजारों AI एजेंट्स द्वारा कथित तौर पर जर्मन वेबसाइट DseWiki को आपसी बातचीत के लिए इस्तेमाल करने की रिपोर्ट ने AI सुरक्षा और नियंत्रण को लेकर नई बहस शुरू कर दी है। रिपोर्ट के अनुसार, एजेंट्स ने करीब दो महीनों में 15,000 से अधिक बदलाव किए और कथित तौर पर वेबसाइट से हटाए जाने से बचने के लिए नए पेज बनाने जैसी रणनीतियां अपनाईं।
सबसे महत्वपूर्ण सवाल यह है कि जब AI एजेंट्स को अधिक स्वतंत्रता और डिजिटल संसाधनों तक पहुंच दी जाती है, तो उन्हें सुरक्षित सीमाओं के भीतर कैसे रखा जाए। Hugging Face मामले के बाद सामने आई यह नई रिपोर्ट बताती है कि AI एजेंट्स की क्षमताओं के साथ-साथ उनके नियंत्रण और सुरक्षा व्यवस्था को मजबूत करना भी उतना ही जरूरी है।