एनवीडिया ने AI एजेंट्स की सुरक्षा के लिए लॉन्च किए ओपनशेल और सेंट्री, जानें कैसे करेंगे काम

एनवीडिया ने AI एजेंट्स से जुड़े सुरक्षा जोखिमों को कम करने के लिए नए सॉफ्टवेयर टूल्स का एक सेट पेश किया है। ये टूल्स ऐसे समय में आए हैं जब तकनीकी क्षेत्र में एजेंटिक AI के तेजी से बढ़ते इस्तेमाल के साथ इस बात को लेकर चिंता बढ़ रही है कि स्वायत्त AI सिस्टम कभी-कभी ऐसे काम कर सकते हैं, जिनकी अनुमति उन्हें नहीं दी गई है। कंपनी के अनुसार, नए सुरक्षा उपाय डेवलपर्स और संस्थानों को AI एजेंट्स की गतिविधियों पर निगरानी रखने, उन्हें अलग वातावरण में चलाने और उनकी पहुंच को नियंत्रित करने में मदद कर सकते हैं।

एनवीडिया का कहना है कि उसके नए टूल्स का उद्देश्य AI एजेंट्स को कंप्यूटर सिस्टम पर काम करते समय निर्धारित सीमाओं के भीतर रखना है। कंपनी ने यह भी कहा है कि उसकी तकनीक हाल ही में सामने आए Hugging Face से जुड़े एक सुरक्षा मामले जैसी स्थिति को रोकने में मदद कर सकती थी। हालांकि, इस दावे को Nvidia के अपने आकलन के रूप में देखा जाना चाहिए।

ओपनशेल क्या है और यह AI एजेंट्स को कैसे सुरक्षित रखता है? What is OpenShell and How Does It Protect AI Agents?

एनवीडिया के नए सुरक्षा समाधानों में OpenShell प्रमुख टूल है। इसे इस तरह तैयार किया गया है कि AI एजेंट्स को कंप्यूटर सिस्टम पर काम करते समय एक नियंत्रित और अलग वातावरण में रखा जा सके। इसका मुख्य उद्देश्य एजेंट को उन संसाधनों तक पहुंचने से रोकना है, जिनके इस्तेमाल की उसे अनुमति नहीं दी गई है।

ओपनशेल एनवीडिया OpenShell Nvidia के केंद्रीय प्रोसेसर में उपलब्ध हार्डवेयर क्षमताओं का इस्तेमाल करके AI एजेंट के काम करने वाले वातावरण पर अतिरिक्त नियंत्रण स्थापित करता है। इससे एजेंट के लिए तय सीमाओं को मजबूत किया जा सकता है और उसके अनधिकृत तरीके से दूसरे सिस्टम संसाधनों तक पहुंचने की संभावना को कम किया जा सकता है।

अलग वातावरण में AI एजेंट की निगरानी Monitoring AI Agents in an Isolated Environment

एजेंटिक AI सामान्य AI प्रणालियों की तुलना में अधिक स्वतंत्र तरीके से काम कर सकता है। ऐसे में केवल यह तय करना पर्याप्त नहीं है कि एजेंट को क्या करना है। यह भी जरूरी है कि वह किन संसाधनों का इस्तेमाल कर सकता है और किन तक उसकी पहुंच नहीं होनी चाहिए। OpenShell इसी तरह के नियंत्रण उपलब्ध कराने पर केंद्रित है।

एनवीडिया अन्य प्रोसेसर कंपनियों के साथ भी कर रहा है काम Nvidia Is Also Working With Other Processor Companies

हालांकि OpenShell की शुरुआती व्यवस्था एनवीडिया की हार्डवेयर क्षमताओं का इस्तेमाल करती है, कंपनी ने कहा है कि वह Arm Holdings और Intel के साथ भी काम कर रही है। इसका उद्देश्य इस सुरक्षा व्यवस्था को दूसरे केंद्रीय प्रोसेसर पर भी चलाने में सक्षम बनाना है।

अगर यह सहयोग व्यापक रूप से लागू होता है, तो अलग-अलग कंप्यूटिंग वातावरण में AI एजेंट सुरक्षा तकनीक का इस्तेमाल किया जा सकता है। Nvidia ने इस पहल के लिए Anthropic सहित कई तकनीकी साझेदारों के साथ सहयोग शुरू किया है।

हगिंग फेस सुरक्षा मामले से Nvidia ने जोड़ा अपना सुरक्षा टूल Nvidia Connects Its Tools With the Hugging Face Security Incident

Nvidia ने अपने नए सुरक्षा प्लेटफॉर्म को हाल ही में सामने आए Hugging Face सुरक्षा मामले से भी जोड़ा है। कंपनी के उपाध्यक्ष और Enterprise Computing के महाप्रबंधक Justin Boitano के अनुसार, यदि शुरुआती मॉडल मूल्यांकन के दौरान Nvidia की यह व्यवस्था लागू होती, तो संभावित रूप से उस घटना को रोका जा सकता था।

हालांकि, यह Nvidia का अपना आकलन है। उपलब्ध जानकारी के आधार पर इसे उस विशेष घटना में OpenShell की प्रभावशीलता का स्वतंत्र रूप से प्रमाणित निष्कर्ष नहीं माना गया है। इसलिए इस दावे को कंपनी के दृष्टिकोण के रूप में समझना महत्वपूर्ण है।

सेंट्री AI एजेंट्स के लिए सुरक्षा की एक और परत Sentry Adds Another Layer of Protection for AI Agents

Nvidia ने OpenShell के साथ सेंट्री Sentry नाम का एक अन्य सुरक्षा घटक भी पेश किया है। इसका काम AI एजेंट की गतिविधियों पर नजर रखना और जरूरत पड़ने पर उसके काम में हस्तक्षेप करना है।

Sentry के लिए एक अलग Nvidia चिप का इस्तेमाल किया जाता है। यह चिप एजेंट की गतिविधियों पर निगरानी रखती है और अगर एजेंट अपने निर्धारित वातावरण से बाहर जाने की कोशिश करता है, तो उसे रोकने की प्रक्रिया शुरू कर सकती है।

सुरक्षा सीमाओं को तोड़ने की कोशिश का पता लगाना Detecting Attempts to Bypass Security Restrictions

Sentry ऐसी परिस्थितियों की पहचान करने के लिए तैयार किया गया है, जहां कोई AI एजेंट अपने लिए निर्धारित कंटेनर से बाहर निकलने या सुरक्षा प्रतिबंधों को दरकिनार करने की कोशिश कर सकता है।

अगर संदिग्ध गतिविधि का पता चलता है, तो Sentry एजेंट को उस कंप्यूटिंग वातावरण से अलग कर सकता है, जिस पर वह काम कर रहा है। इसका उद्देश्य उस स्थिति में अतिरिक्त सुरक्षा देना है, जब AI सिस्टम का व्यवहार डेवलपर्स की अपेक्षा से अलग हो जाए।

एजेंटिक AI के बढ़ते इस्तेमाल के बीच बढ़ी सुरक्षा की जरूरत Growing Need for Security as Agentic AI Expands

नए सुरक्षा टूल्स ऐसे समय में आए हैं जब एजेंटिक AI तेजी से विकसित हो रहा है। सामान्य AI सिस्टम मुख्य रूप से दिए गए निर्देशों के आधार पर टेक्स्ट, चित्र या कोड तैयार करते हैं। इसके विपरीत, AI एजेंट कई चरणों वाले काम कर सकते हैं, सॉफ्टवेयर टूल्स का इस्तेमाल कर सकते हैं और डिजिटल वातावरण के साथ सीधे बातचीत कर सकते हैं।

इस अधिक स्वायत्त क्षमता के साथ नए सुरक्षा जोखिम भी सामने आते हैं। यदि किसी एजेंट को कंप्यूटर सिस्टम, एप्लिकेशन या नेटवर्क तक पहुंच दी जाती है, तो यह सुनिश्चित करना जरूरी हो जाता है कि वह निर्धारित सीमाओं के भीतर ही काम करे।

AI एजेंट्स एक-दूसरे के लिए बना सकते हैं सब-एजेंट AI Agents Can Create Additional Sub-Agents

Nvidia के अनुसार, उसकी सुरक्षा व्यवस्था केवल एक AI एजेंट की गतिविधियों को नियंत्रित करने तक सीमित नहीं है। यह उन स्थितियों को भी ध्यान में रखती है, जहां एक एजेंट दूसरे सब-एजेंट्स को बना या सक्रिय कर सकता है।

Nvidia के Senior Director of AI Software Ali Golshan के अनुसार, ऐसा व्यवहार सुरक्षा व्यवस्था को और जटिल बना सकता है। एक मुख्य एजेंट किसी काम को कई दूसरे एजेंट्स में बांट सकता है। ऐसे में सुरक्षा नियंत्रणों को केवल मुख्य एजेंट तक सीमित रखना पर्याप्त नहीं हो सकता।

संदिग्ध गतिविधियों की पहचान के लिए गणितीय तरीके Mathematical Methods to Identify Suspicious Behaviour

Nvidia का कहना है कि उसके सुरक्षा टूल्स संभावित रूप से खतरनाक एजेंट व्यवहार की पहचान करने के लिए गणितीय तरीकों का इस्तेमाल करते हैं। इन तरीकों का उद्देश्य यह पता लगाना है कि कोई AI एजेंट तय की गई सुरक्षा सीमाओं से बचने की कोशिश तो नहीं कर रहा।

उदाहरण के लिए, कोई एजेंट अतिरिक्त प्रक्रियाएं या सब-एजेंट बनाकर मूल सिस्टम पर लगाए गए नियंत्रणों को दरकिनार करने की कोशिश कर सकता है। ऐसे पैटर्न की पहचान करके सुरक्षा ढांचा डेवलपर्स को स्वायत्त गतिविधियों को नियंत्रित करने के अतिरिक्त साधन देता है।

Nvidia का AI सुरक्षा पर इंजीनियरिंग आधारित दृष्टिकोण Nvidia Takes an Engineering-Based Approach to AI Safety

Nvidia के CEO Jensen Huang पहले भी AI सुरक्षा को लेकर व्यापक नियामकीय उपायों के बजाय तकनीकी समाधानों पर जोर देते रहे हैं। कंपनी के नए टूल्स इसी इंजीनियरिंग आधारित दृष्टिकोण को दर्शाते हैं।

OpenShell और Sentry का उद्देश्य AI एजेंट्स की क्षमताओं पर तकनीकी सीमाएं लगाना है। यानी केवल नियम या नीतियां बनाने के बजाय कंप्यूटिंग ढांचे में ही ऐसे सुरक्षा उपाय शामिल किए जाएं, जो एजेंट की अनधिकृत गतिविधियों को सीमित कर सकें।

AI उद्योग में बढ़ रही सुरक्षा संबंधी चिंताएं Growing Security Concerns Across the AI Industry

AI एजेंट्स के बढ़ते इस्तेमाल के साथ उनकी सुरक्षा को लेकर चर्चा भी तेज हुई है। OpenAI और Anthropic जैसी प्रमुख AI कंपनियां भी AI एजेंट्स और साइबर सुरक्षा से जुड़े मामलों की जांच कर रही हैं।

AI सिस्टम अब कोड लिखने, एप्लिकेशन चलाने और कंप्यूटर नेटवर्क के साथ बातचीत करने में सक्षम हो रहे हैं। इसलिए कंपनियों के लिए यह सुनिश्चित करना महत्वपूर्ण हो गया है कि ऐसे सिस्टम अनजाने में संवेदनशील संसाधनों तक पहुंच न बना लें और अपनी निर्धारित सीमाओं से बाहर जाकर काम न करें।

स्वायत्त AI सिस्टम के लिए मजबूत नियंत्रण जरूरी Stronger Controls Are Needed for Autonomous AI Systems

AI एजेंट्स कंपनियों को कई कामों को स्वचालित करने में मदद कर सकते हैं। लेकिन जितनी अधिक स्वतंत्रता इन प्रणालियों को मिलती है, उतने ही अधिक सुरक्षा नियंत्रणों की आवश्यकता होती है।

एजेंट्स को अलग वातावरण में रखना, उनकी गतिविधियों पर निगरानी करना और संसाधनों तक उनकी पहुंच सीमित करना भविष्य में AI ढांचे का महत्वपूर्ण हिस्सा बन सकता है। खासकर उन संस्थानों के लिए यह व्यवस्था महत्वपूर्ण हो सकती है, जहां AI एजेंट्स को संवेदनशील डेटा या महत्वपूर्ण कंप्यूटर प्रणालियों के साथ काम करना हो।

Nvidia का उद्योग स्तर पर सहयोग पर जोर Nvidia Emphasises Industry-Wide Collaboration

Nvidia ने अपने नए सुरक्षा टूल्स को कई तकनीकी साझेदारों के साथ पेश किया है और AI डेवलपर्स तथा अन्य कंपनियों से व्यापक सहयोग का आह्वान किया है।

कंपनी का दृष्टिकोण है कि AI एजेंट्स की सुरक्षा केवल किसी एक कंपनी की जिम्मेदारी नहीं होनी चाहिए। चिप निर्माता, AI प्रयोगशालाएं, सॉफ्टवेयर डेवलपर्स और संस्थागत उपयोगकर्ताओं के बीच सहयोग से ऐसे सुरक्षा मानक विकसित किए जा सकते हैं, जो स्वायत्त AI प्रणालियों के बढ़ते इस्तेमाल के साथ काम कर सकें।

निष्कर्ष Conclusion

Nvidia के OpenShell और Sentry टूल्स AI एजेंट्स को अधिक नियंत्रित और सुरक्षित तरीके से काम कराने के लिए तैयार किए गए हैं। OpenShell एजेंट को अलग वातावरण में रखने पर जोर देता है, जबकि Sentry उसकी गतिविधियों पर निगरानी रखकर संदिग्ध व्यवहार की स्थिति में हस्तक्षेप करने में मदद करता है।

जैसे-जैसे एजेंटिक AI अधिक जटिल और स्वायत्त होता जा रहा है, वैसे-वैसे उसकी सुरक्षा के लिए तकनीकी नियंत्रणों की आवश्यकता भी बढ़ सकती है। Nvidia की यह पहल AI सुरक्षा को कंप्यूटिंग हार्डवेयर, सॉफ्टवेयर और बुनियादी ढांचे के स्तर पर मजबूत करने की दिशा में एक कदम है।