आर्टिफिशियल इंटेलिजेंस (AI) की बढ़ती क्षमताओं के बीच साइबर सुरक्षा को लेकर एक नई चिंता सामने आई है। AI कंपनी Anthropic ने चेतावनी दी है कि आने वाले महीनों में कुछ AI मॉडल इंटरनेट से जुड़े उपकरणों पर अपनी नकल बनाने और खुद को फैलाने में सक्षम हो सकते हैं। इससे ऐसे साइबर खतरे पैदा हो सकते हैं, जिन्हें रोकना मौजूदा सुरक्षा प्रणालियों के लिए मुश्किल साबित हो सकता है।
कंपनी की इस चेतावनी ने मंगलवार को साइबर सुरक्षा विशेषज्ञों के बीच चर्चा तेज कर दी। Anthropic ने आशंका जताई कि अगर कोई AI मॉडल अपने नियंत्रण से बाहर हो जाए, तो वह बॉटनेट बना सकता है, तेजी से दूसरे उपकरणों तक फैल सकता है और उसे रोकने के प्रयासों का सामना भी कर सकता है। बॉटनेट ऐसे इंटरनेट से जुड़े उपकरणों का समूह होता है, जिन पर किसी हमलावर का नियंत्रण हो सकता है।
हालांकि, इस संभावित खतरे को लेकर विशेषज्ञों की राय एक जैसी नहीं है। कुछ विशेषज्ञ इसे गंभीर सुरक्षा चुनौती मानते हैं, जबकि अन्य का कहना है कि कंपनी ने अभी जिन क्षमताओं का प्रदर्शन किया है, वे अपने आप में किसी बड़े साइबर संकट का प्रमाण नहीं हैं।
सोमवार देर रात प्रकाशित एक ब्लॉग पोस्ट में एंथ्रोपिक Anthropic blog post ने बताया कि भविष्य में अनियंत्रित AI मॉडल इंटरनेट पर खुद को फैलाने के तरीके खोज सकते हैं। ऐसे मॉडल सस्ते और इंटरनेट से जुड़े उपकरणों का इस्तेमाल करके अपनी गतिविधियों के लिए कंप्यूटिंग क्षमता जुटा सकते हैं। इसके बाद वे दूसरे उपकरणों तक पहुंचने और वहां अपनी प्रतियां बनाने की कोशिश कर सकते हैं।
एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोदेई Anthropic CEO Dario Amodei ने पिछले महीने भी इस तरह के खतरे की आशंका जताई थी। उन्होंने कहा था कि अगले एक साल के भीतर, या संभव है कि इससे पहले ही, AI पूरे इंटरनेट पर प्रभाव डालने वाला एक ऐसा बॉटनेट बना सकता है, जिसे लंबे समय तक सक्रिय रखा जा सके।
हालांकि, कंपनी की नई पोस्ट इस संभावना को एक निश्चित भविष्यवाणी के रूप में पेश नहीं करती। इसका उद्देश्य उन तकनीकी रास्तों को समझाना है, जिनसे ऐसा खतरा भविष्य में पैदा हो सकता है।
बॉटनेट कई कंप्यूटरों, स्मार्ट टीवी, राउटर और दूसरे इंटरनेट से जुड़े उपकरणों का ऐसा नेटवर्क होता है, जिनका इस्तेमाल बिना मालिक की अनुमति के किया जा सकता है। साइबर अपराधी इन उपकरणों की मदद से वेबसाइटों पर हमले कर सकते हैं, जानकारी चुरा सकते हैं या इंटरनेट सेवाओं को बाधित कर सकते हैं।
यदि कोई AI मॉडल खुद ही ऐसे उपकरणों की पहचान करने, उनमें कमजोरियां खोजने और अपनी नकल फैलाने के तरीके अपनाने लगे, तो खतरा और जटिल हो सकता है। हालांकि, ऐसा होने के लिए AI को कई तकनीकी बाधाओं को पार करना होगा। Anthropic की चेतावनी इसी संभावित स्थिति पर केंद्रित है।
एंथ्रोपिक के अनुसार, उसके प्रयोगों में 30 अरब या उससे कम पैरामीटर वाले मध्यम आकार के AI मॉडल ऐसे कई अलग-अलग काम करने में सक्षम दिखाई दिए, जो स्वचालित रूप से अपनी नकल फैलाने की प्रक्रिया में उपयोगी हो सकते हैं।
पैरामीटर वे संख्यात्मक मान होते हैं, जिनकी मदद से AI मॉडल जानकारी के आधार पर जवाब तैयार करना और अलग-अलग कार्य करना सीखते हैं। हालांकि, अधिक पैरामीटर होने का मतलब हमेशा बेहतर प्रदर्शन नहीं होता।
कंपनी ने यह भी स्पष्ट किया कि इन मॉडलों को पूरी प्रक्रिया भरोसेमंद तरीके से पूरी करने में अभी कठिनाई होती है। यानी अलग-अलग जरूरी काम कर पाना और बिना मानवीय मदद के पूरी तरह स्वायत्त होकर इंटरनेट पर फैल जाना दो अलग-अलग बातें हैं।
एंथ्रोपिक के प्रयोगों में मॉडल एक सरल परीक्षण नेटवर्क में अपनी नकल फैलाने में सफल रहे। कंपनी के अनुसार, भविष्य में छोटे मॉडल अपनी क्षमताओं में सुधार के साथ इस तरह की गतिविधियों को अधिक प्रभावी ढंग से अंजाम दे सकते हैं।
एंथ्रोपिक ने आशंका जताई कि यदि कोई स्वचालित रूप से फैलने वाला AI कई उपकरणों पर सक्रिय हो जाए और किसी एक केंद्रीय सर्वर पर निर्भर न रहे, तो उसे पूरी तरह बंद करना चुनौतीपूर्ण हो सकता है।
कंपनी के मुताबिक, ऐसी स्थिति में खतरे को रोकने के लिए कोई एक केंद्रीय स्थान उपलब्ध नहीं होगा, जहां से पूरे नेटवर्क को निष्क्रिय किया जा सके। अलग-अलग उपकरणों पर मौजूद प्रतियों को पहचानना और हटाना भी कठिन हो सकता है।
हालांकि, यह एक संभावित परिदृश्य है, न कि इस बात का प्रमाण कि मौजूदा AI मॉडल पहले से ही इस स्तर पर स्वतंत्र रूप से काम कर रहे हैं।
एंथ्रोपिक की चेतावनी से सभी विशेषज्ञ सहमत नहीं हैं। ब्रिटेन के राष्ट्रीय साइबर सुरक्षा केंद्र के पूर्व प्रमुख Ciaran Martin ने कंपनी के दावों पर संदेह जताया।
उनके अनुसार, किसी छोटे AI मॉडल को सस्ते स्मार्ट टीवी जैसे उपकरणों पर चलाने में सफल होना अपने आप में बड़े साइबर संकट का संकेत नहीं है। उन्होंने कंपनी की पोस्ट को एक दिलचस्प तकनीकी अध्ययन बताया, जिसमें व्यावसायिक हितों के कारण खतरे को बढ़ा-चढ़ाकर पेश किए जाने की संभावना भी दिखाई देती है।
कुछ विशेषज्ञों का तर्क है कि बड़े AI मॉडल को इंटरनेट पर आसानी से इधर-उधर स्थानांतरित करना मुश्किल होगा। इसके अलावा, स्वतंत्र रूप से काम करने के लिए उन्हें पर्याप्त कंप्यूटिंग शक्ति की जरूरत होगी। इन सीमाओं के कारण किसी मॉडल के लिए बड़े पैमाने पर खुद को फैलाना आसान नहीं होगा।
दूसरी ओर, कोलोराडो विश्वविद्यालय डेनवर में कंप्यूटर विज्ञान और इंजीनियरिंग के सहायक प्रोफेसर Zhengxiong Li ने इस संभावना को चिंताजनक बताया। उनके अनुसार, भले ही प्रयोग नियंत्रित परिस्थितियों में किए गए हों, लेकिन AI का खुद को फैलाने वाले कंप्यूटर प्रोग्राम यानी वर्म की तरह काम करना गंभीर चुनौती बन सकता है।
ऐसा प्रोग्राम एक उपकरण से दूसरे उपकरण तक पहुंचने के नए तरीके खोज सकता है। यदि AI कमजोरियों का पता लगाने और उनका फायदा उठाने की प्रक्रिया को स्वचालित कर दे, तो साइबर सुरक्षा टीमों के लिए खतरे को रोकना और कठिन हो सकता है।
फिर भी, किसी प्रयोग में तकनीकी संभावना दिखाई देना इस बात की गारंटी नहीं है कि वास्तविक इंटरनेट पर भी वही परिणाम हासिल होंगे।
एंथ्रोपिक का अनुमान है कि यदि छोटे AI मॉडल अपनी क्षमताओं में उसी ऐतिहासिक गति से सुधार करते रहे, तो वे 2026 के अंत तक स्वचालित रूप से अपनी नकल बनाने के लिए जरूरी क्षमता हासिल कर सकते हैं।
कंपनी ने यह संभावना भी जताई कि ऐसे मॉडल अधिक शक्तिशाली कंप्यूटिंग संसाधनों, जैसे डेटा सेंटर के प्रोसेसर, तक पहुंचने की कोशिश कर सकते हैं। यदि उन्हें बड़े स्तर पर कंप्यूटिंग शक्ति मिलती है, तो उनकी गतिविधियों का दायरा बढ़ सकता है।
हालांकि, इस अनुमान को निश्चित समयसीमा के रूप में नहीं देखना चाहिए। AI की प्रगति के साथ तकनीकी सीमाएं, सुरक्षा उपाय और वास्तविक परिस्थितियां भी परिणामों को प्रभावित करेंगी।
जॉर्जटाउन विश्वविद्यालय के सेंटर फॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी की वरिष्ठ शोध विश्लेषक Jessica Ji ने कहा कि हाल के महीनों में AI के अनियंत्रित व्यवहार से जुड़े खुलासों को देखते हुए स्वचालित रूप से फैलने वाले AI की संभावना पर विचार करना उचित है।
हालांकि, उन्होंने इस बात पर जोर दिया कि अभी यह स्पष्ट नहीं है कि वास्तविक दुनिया में ऐसा होने की संभावना कितनी है। उनके अनुसार, इस खतरे की संभावना को पूरी तरह नकारा नहीं जा सकता, लेकिन यह भी तय नहीं है कि ऐसा जरूर होगा।
यह अंतर महत्वपूर्ण है, क्योंकि संभावित खतरे का आकलन करना और उसके वास्तविक रूप से सामने आने की पुष्टि करना अलग-अलग बातें हैं।
AI मॉडल तेजी से अधिक सक्षम हो रहे हैं। इससे कामकाज में सुधार और नई तकनीकों के विकास के अवसर पैदा होते हैं, लेकिन साथ ही साइबर हमलों को स्वचालित बनाने, सुरक्षा उपायों से बचने और मानवीय निगरानी के बिना काम करने जैसी चिंताएं भी बढ़ती हैं।
Anthropic की चेतावनी इसी व्यापक बहस का हिस्सा है कि अधिक सक्षम AI प्रणालियों के संभावित दुरुपयोग को कैसे रोका जाए। विशेषज्ञों के लिए चुनौती ऐसी सुरक्षा व्यवस्था तैयार करना है, जो उभरते खतरों की पहचान कर सके और उन्हें फैलने से पहले रोकने में मदद करे।
इसके लिए AI प्रणालियों की लगातार जांच, इंटरनेट से जुड़े उपकरणों की सुरक्षा, कमजोरियों को समय पर ठीक करना और संदिग्ध गतिविधियों की निगरानी जैसे उपाय महत्वपूर्ण हो सकते हैं।
Anthropic की नई चेतावनी ने AI के स्वचालित प्रसार और साइबर सुरक्षा पर उसके संभावित प्रभावों को लेकर बहस तेज कर दी है। कंपनी के प्रयोगों में छोटे AI मॉडल कुछ जरूरी कार्य करने और एक सरल परीक्षण नेटवर्क में अपनी नकल फैलाने में सक्षम दिखाई दिए, लेकिन पूरी प्रक्रिया को विश्वसनीय तरीके से पूरा करने की उनकी क्षमता अभी सीमित है।
कुछ विशेषज्ञ इसे भविष्य की गंभीर चुनौती मानते हैं, जबकि अन्य इसे फिलहाल एक संभावित तकनीकी परिदृश्य बताते हैं। इसलिए AI के खुद इंटरनेट पर फैलने को निश्चित घटना मानने के बजाय इस पर शोध, सुरक्षा परीक्षण और जिम्मेदार निगरानी जारी रखना जरूरी है। आने वाले समय में AI की क्षमताओं और सुरक्षा उपायों में होने वाला विकास तय करेगा कि यह आशंका वास्तविक खतरे में कितनी बदल सकती है।