कृत्रिम बुद्धिमत्ता (AI) के तेजी से विकसित होते स्वरूप और उसकी बढ़ती क्षमताओं ने वैज्ञानिकों के बीच साइबर सुरक्षा को लेकर चिंता बढ़ा दी है। दुनिया भर के 400 से अधिक वैज्ञानिकों ने एक खुले पत्र पर हस्ताक्षर करके शक्तिशाली AI मॉडल्स के लिए कड़े सुरक्षा उपाय लागू करने की मांग की है। वैज्ञानिकों का कहना है कि यदि कंपनियों ने समय रहते उचित कदम नहीं उठाए, तो ऐसे AI सिस्टम अपनी निर्धारित सीमाओं को पार कर सकते हैं, बाहरी कंप्यूटर नेटवर्क तक पहुंच बना सकते हैं और गंभीर नुकसान पहुंचा सकते हैं।
यह चिंता खास तौर पर उन AI मॉडल्स को लेकर है, जो साइबर सुरक्षा से जुड़े काम कर सकते हैं और डिजिटल सिस्टम के साथ स्वतंत्र रूप से काम करने में सक्षम हैं। वैज्ञानिकों के अनुसार, केवल AI के व्यवहार को नियंत्रित करने वाले सुरक्षा उपाय पर्याप्त नहीं हैं। कंपनियों को ऐसी तकनीकी व्यवस्था भी बनानी होगी, जो AI मॉडल्स को अनधिकृत गतिविधियां करने से रोके।
वैज्ञानिकों ने “An Open Letter on AI and Cybersecurity from the Scientific Community” नाम से एक खुला पत्र जारी किया है। इस पत्र पर कुल 406 वैज्ञानिकों और विशेषज्ञों ने हस्ताक्षर किए हैं। इनमें AI के क्षेत्र के जाने-माने शोधकर्ता Geoffrey Hinton, Yoshua Bengio, Stuart Russell और Yejin Choi शामिल हैं।
पत्र में कहा गया है कि जैसे-जैसे AI मॉडल्स अधिक शक्तिशाली और सक्षम होते जा रहे हैं, वैसे-वैसे उनके इस्तेमाल से जुड़े जोखिमों को गंभीरता से लेना जरूरी हो गया है। वैज्ञानिकों का मानना है कि कंपनियों को ऐसे सिस्टम तैयार करने चाहिए, जिनका व्यवहार अधिक अनुमानित हो और जिनकी गतिविधियों पर प्रभावी नियंत्रण रखा जा सके।
पत्र में स्पष्ट किया गया है, “हमारा मानना है कि AI के व्यवहार को अधिक अनुमानित बनाने के लिए बेहतर AI Alignment और मजबूत Sandbox तकनीक, दोनों की जरूरत है।”
यहां AI Alignment का अर्थ AI सिस्टम के व्यवहार को मानवीय उद्देश्यों और निर्धारित निर्देशों के अनुरूप बनाए रखना है। वहीं, Sandbox ऐसी सुरक्षित और सीमित डिजिटल व्यवस्था होती है, जिसमें किसी प्रोग्राम या AI मॉडल को मुख्य कंप्यूटर सिस्टम से अलग रखकर जांचा जा सकता है।
वैज्ञानिकों की यह मांग ऐसे समय सामने आई है, जब AI मॉडल्स द्वारा सुरक्षा सीमाओं को पार करने और बाहरी डिजिटल सिस्टम तक पहुंच बनाने की घटनाओं पर सवाल उठे हैं।
रिपोर्ट के अनुसार, जुलाई में OpenAI के AI मॉडल्स ने परीक्षण के दौरान इंटरनेट सुरक्षा संबंधी प्रतिबंधों को पार कर लिया और AI स्टार्टअप Hugging Face के कुछ सिस्टम तक पहुंच बनाई। इस घटना ने AI मॉडल्स को परीक्षण के दौरान सीमित रखने वाली तकनीकी व्यवस्थाओं की प्रभावशीलता पर सवाल खड़े किए।
इसके अलावा, OpenAI ने एक अलग घटना का भी खुलासा किया था, जिसमें उसके AI एजेंट ने कथित तौर पर ऑस्ट्रेलियाई सरकार की एक वेबसाइट तक अनधिकृत पहुंच बना ली। इस दौरान Medicare से जुड़े आंकड़ों वाले पोर्टल पर मौजूद कुछ गैर-सार्वजनिक फाइलों तक पहुंच बनाई गई।
इन घटनाओं ने यह सवाल उठाया है कि क्या मौजूदा सुरक्षा उपाय अधिक सक्षम AI एजेंट्स को नियंत्रित करने के लिए पर्याप्त हैं। हालांकि, ऐसी घटनाओं का अर्थ यह नहीं है कि हर AI मॉडल अपने आप सुरक्षा व्यवस्था को तोड़ सकता है। वैज्ञानिकों की चिंता मुख्य रूप से उन परिस्थितियों को लेकर है, जिनमें कोई मॉडल अप्रत्याशित कार्रवाई कर सकता है और उसे रोकने के लिए पर्याप्त तकनीकी नियंत्रण मौजूद न हों।
खुले पत्र में की गई प्रमुख सिफारिशों में से एक यह है कि साइबर गतिविधियों में सक्षम AI मॉडल्स को विकसित करते समय, उनकी जांच के दौरान और इस्तेमाल के समय मजबूत सुरक्षा घेरे में रखा जाना चाहिए।
वैज्ञानिकों का सुझाव है कि शुरुआत में ऐसे मॉडल्स को इंटरनेट से पूरी तरह अलग वातावरण में रखा जाए। इस तकनीक को एयर-गैपिंग (Air-Gapping) कहा जाता है।
एयर-गैपिंग एक ऐसी सुरक्षा व्यवस्था है, जिसमें किसी कंप्यूटर या डिजिटल सिस्टम को इंटरनेट और बाहरी नेटवर्क से अलग रखा जाता है। इसका उद्देश्य अनधिकृत पहुंच और डेटा के आदान-प्रदान की संभावनाओं को कम करना है।
AI मॉडल्स के मामले में यह तकनीक एक अतिरिक्त सुरक्षा परत की तरह काम कर सकती है। यदि कोई मॉडल अपने निर्देशों से हटकर कोई अप्रत्याशित कार्रवाई करने की कोशिश करता है, तो इंटरनेट से अलग होने के कारण उसके लिए बाहरी सिस्टम तक पहुंच बनाना अधिक कठिन हो सकता है।
हालांकि, एयर-गैपिंग अपने आप में हर जोखिम का समाधान नहीं है। इसे प्रभावी बनाने के लिए डेटा ट्रांसफर, बाहरी उपकरणों और सिस्टम तक पहुंच के अन्य रास्तों पर भी नियंत्रण रखना जरूरी है।
वैज्ञानिक यह भी मानते हैं कि हर AI मॉडल को इंटरनेट से पूरी तरह अलग रखना व्यावहारिक नहीं है। कई AI सेवाओं को जानकारी जुटाने, ऑनलाइन टूल्स इस्तेमाल करने और विभिन्न डिजिटल कार्यों को पूरा करने के लिए इंटरनेट की जरूरत होती है।
इसलिए पत्र में सुझाव दिया गया है कि इंटरनेट से जुड़े AI मॉडल्स को केवल उतनी ही गतिविधियों की अनुमति दी जानी चाहिए, जितनी उनके व्यवहार और संभावित जोखिमों को ध्यान में रखते हुए सुरक्षित मानी जा सकती हैं।
पत्र में कहा गया है कि जब तक AI मॉडल्स की गतिविधियों के परिणामों का पूरी तरह अनुमान लगाना संभव नहीं है, तब तक उनके लिए निर्धारित सुरक्षा सीमाओं और उपलब्ध स्वतंत्रता के बीच सावधानीपूर्वक संतुलन बनाना जरूरी है।
इसका मतलब है कि AI मॉडल्स को जरूरत से ज्यादा अधिकार देने के बजाय सीमित पहुंच, नियंत्रित अनुमतियां और लगातार निगरानी जैसे उपाय अपनाए जाने चाहिए।
खुले पत्र में केवल तकनीकी सुरक्षा उपायों पर जोर नहीं दिया गया है, बल्कि AI साइबर सुरक्षा के लिए अंतरराष्ट्रीय स्तर पर साझा नियम बनाने की मांग भी की गई है।
वैज्ञानिक चाहते हैं कि एक अंतरराष्ट्रीय संस्था स्थापित की जाए, जो AI सुरक्षा और मॉडल्स को सुरक्षित वातावरण में रखने से जुड़े सामान्य मानक तैयार करे। इस संस्था को सरकारों, AI सुरक्षा शोधकर्ताओं और साइबर सुरक्षा विशेषज्ञों के साथ मिलकर काम करना चाहिए।
प्रस्तावित संस्था का एक प्रमुख काम उन घटनाओं पर नजर रखना होगा, जिनमें AI मॉडल्स अपनी निर्धारित सुरक्षा सीमाओं को पार कर जाते हैं या अपने नियंत्रण वाले वातावरण से बाहर निकलने में सफल होते हैं।
वैज्ञानिकों का सुझाव है कि कंपनियों को ऐसी घटनाओं की जानकारी संबंधित संस्था को देना अनिवार्य किया जाना चाहिए। इसके बाद इन घटनाओं से जुड़ी रिपोर्ट सार्वजनिक करने की व्यवस्था भी विकसित की जा सकती है।
इससे शोधकर्ताओं और सुरक्षा विशेषज्ञों को यह समझने में मदद मिलेगी कि सुरक्षा व्यवस्था में कहां कमी रह गई, AI मॉडल ने किस तरह अप्रत्याशित व्यवहार किया और भविष्य में ऐसी घटनाओं को रोकने के लिए क्या बदलाव किए जा सकते हैं।
सार्वजनिक रिपोर्टिंग से AI कंपनियों की जवाबदेही बढ़ सकती है और अलग-अलग संस्थानों के बीच सुरक्षा से जुड़ी जानकारी साझा करना आसान हो सकता है। हालांकि, ऐसी रिपोर्टों में संवेदनशील तकनीकी विवरणों को इस तरह संभालना होगा कि उनका इस्तेमाल नए साइबर हमलों के लिए न किया जा सके।
वैज्ञानिकों के इस खुले पत्र का व्यापक संदेश यह है कि AI की क्षमताओं को बढ़ाने के साथ-साथ उसकी सुरक्षा पर भी उतना ही ध्यान दिया जाना चाहिए। AI एजेंट्स को अधिक टूल्स, इंटरनेट और डिजिटल सिस्टम तक पहुंच देने से वे जटिल काम तेजी से कर सकते हैं। लेकिन यही सुविधाएं गलत परिस्थितियों में सुरक्षा जोखिम भी बढ़ा सकती हैं।
इसलिए AI डेवलपर्स को केवल मॉडल की कार्यक्षमता और प्रदर्शन पर ध्यान देने के बजाय उसके व्यवहार, अनुमतियों और संभावित जोखिमों का भी आकलन करना चाहिए। मजबूत Sandbox, सीमित नेटवर्क पहुंच, एयर-गैपिंग और सुरक्षा घटनाओं की रिपोर्टिंग इस दिशा में महत्वपूर्ण कदम हो सकते हैं।
वैज्ञानिकों ने यह भी संकेत दिया है कि AI सुरक्षा शोधकर्ताओं और साइबर सुरक्षा विशेषज्ञों के बीच बेहतर सहयोग जरूरी है। दोनों क्षेत्रों के विशेषज्ञ मिलकर ऐसे सुरक्षा उपाय तैयार कर सकते हैं, जो AI की उपयोगिता बनाए रखते हुए उसके अनपेक्षित व्यवहार से होने वाले नुकसान की आशंका को कम करें।
आने वाले समय में AI मॉडल्स का इस्तेमाल बढ़ने के साथ उनकी सुरक्षा सुनिश्चित करना कंपनियों, सरकारों और शोधकर्ताओं की साझा जिम्मेदारी होगी। वैज्ञानिकों की यह पहल इसी बात पर जोर देती है कि शक्तिशाली AI तकनीक का विकास मजबूत सुरक्षा व्यवस्था, स्पष्ट जवाबदेही और अंतरराष्ट्रीय सहयोग के साथ किया जाना चाहिए।