SAFA क्या है? गूगल, ओपनएआई और एंथ्रोपिक क्यों बना रहे हैं फ्रंटियर एआई सेफ्टी बॉडी

गूगल, ओपनएआई और एंथ्रोपिक उन्नत कृत्रिम बुद्धिमत्ता यानी AI प्रणालियों की सुरक्षा के लिए एक स्वतंत्र संगठन बनाने की दिशा में आगे बढ़ रहे हैं। रिपोर्टों के अनुसार, प्रस्तावित संगठन को फिलहाल Standards Authority for Frontier AI यानी SAFA नाम दिया गया है और इसे 2026 के अंत या 2027 की शुरुआत में शुरू किया जा सकता है।

प्रस्तावित संगठन का उद्देश्य अत्याधुनिक यानी फ्रंटियर AI मॉडल की सुरक्षा जांच के लिए साझा मानक तैयार करना होगा। यह संगठन सीधे सरकारी नियंत्रण में काम करने के बजाय उद्योग के नेतृत्व वाली एक स्वतंत्र व्यवस्था के रूप में काम कर सकता है।

इस पहल के पीछे मुख्य विचार यह है कि AI कंपनियों द्वारा किए गए सुरक्षा संबंधी सार्वजनिक वादों को ऐसे स्पष्ट और मापने योग्य मानकों में बदला जाए, जिनका वास्तविक परीक्षण किया जा सके। हालांकि, अभी यह तय नहीं हुआ है कि SAFA स्वयं AI मॉडलों की जांच करेगा या स्वतंत्र मूल्यांकन करने वाले संगठनों के लिए मानक और प्रक्रियाएं तैयार करेगा।

SAFA क्या है और इसका उद्देश्य क्या होगा? What Is SAFA and What Would It Do?

SAFA का प्रस्ताव ऐसे समय में सामने आया है जब AI मॉडल तेजी से अधिक सक्षम हो रहे हैं और उनके सुरक्षित इस्तेमाल को लेकर कंपनियों, शोधकर्ताओं और नीति निर्माताओं के बीच चर्चा बढ़ रही है।

प्रस्तावित संगठन का एक प्रमुख काम साझा सुरक्षा मानक और परीक्षण मानक तैयार करना हो सकता है। इन मानकों की मदद से AI विकसित करने वाली कंपनियां किसी नए और शक्तिशाली मॉडल को बाजार में उपलब्ध कराने से पहले उसकी क्षमताओं और संभावित जोखिमों का आकलन कर सकती हैं।

AI मॉडल के लिए साझा मानक बनाने की योजना Plan to Create Common Standards for AI Models

अगर SAFA स्थापित होता है, तो यह अलग-अलग AI कंपनियों द्वारा इस्तेमाल किए जाने वाले सुरक्षा परीक्षणों के बीच एक समान आधार तैयार कर सकता है।

इसमें यह तय किया जा सकता है कि किसी अत्याधुनिक AI मॉडल को सार्वजनिक रूप से उपलब्ध कराने से पहले किन क्षमताओं और जोखिमों की जांच की जानी चाहिए। इसके अलावा, स्वतंत्र मूल्यांकन करने वाले शोधकर्ताओं और संस्थाओं को भी परीक्षण के लिए जरूरी दिशा-निर्देश और सहायता उपलब्ध कराने की संभावना है।

हालांकि, संगठन के अंतिम अधिकार और जिम्मेदारियां अभी तय नहीं हुई हैं।

श्रीराम कृष्णन के नाम पर भी हो रहा विचार Sriram Krishnan Considered for Leadership Role

रिपोर्टों के अनुसार, Google, OpenAI और Anthropic ने श्रीराम कृष्णन से प्रस्तावित संगठन का नेतृत्व करने के बारे में संपर्क किया है। कृष्णन पहले व्हाइट हाउस में AI नीति सलाहकार के रूप में काम कर चुके हैं।

इसके अलावा, अराती प्रभाकर, जो पहले White House Office of Science and Technology Policy की प्रमुख रह चुकी हैं, के नाम पर भी संगठन के शीर्ष पद के लिए विचार किए जाने की खबर है।

हालांकि, अभी किसी व्यक्ति को SAFA का आधिकारिक प्रमुख नियुक्त नहीं किया गया है। नेतृत्व को लेकर बातचीत अभी प्रस्तावित संगठन की योजना का हिस्सा है।

तकनीकी क्षेत्र और सरकारी नीति से जुड़े अनुभव रखने वाले लोगों के संभावित जुड़ाव से यह संकेत मिलता है कि प्रस्तावित संगठन तकनीकी सुरक्षा मानकों के साथ-साथ AI नीति और शासन से जुड़े पहलुओं पर भी ध्यान दे सकता है।

तीनों कंपनियां पहले से AI Safety पर कर रही हैं चर्चा The Three Companies Have Already Discussed AI Safety

SAFA की योजना अचानक सामने नहीं आई है। Google, OpenAI और Anthropic के बीच AI सुरक्षा को लेकर बातचीत पहले से चल रही है।

OpenAI के वैश्विक नीति प्रमुख क्रिस लेहाने ने सितंबर में बताया था कि OpenAI कई सप्ताह से Google DeepMind और Anthropic के साथ AI सुरक्षा के मुद्दों पर काम कर रहा था। यह जानकारी उस समय सामने आई जब अत्याधुनिक AI प्रणालियों के मूल्यांकन और संभावित जोखिमों को लेकर उद्योग में सहयोग की मांग बढ़ रही थी।

तीनों कंपनियां AI बाजार में एक-दूसरे की प्रतिस्पर्धी हैं। इसलिए सुरक्षा मानकों जैसे क्षेत्र में उनका सहयोग खास तौर पर महत्वपूर्ण माना जा रहा है। हालांकि, यह सहयोग मुख्य रूप से AI सुरक्षा और मूल्यांकन से संबंधित बताया गया है।

डेमिस हसबिस पहले भी दे चुके हैं एआई स्टैंडर्ड्स बॉडी का सुझाव Demis Hassabis Had Earlier Proposed an AI Standards Body

उद्योग के स्तर पर AI के लिए साझा मानक बनाने का विचार नया नहीं है। Google DeepMind के सह-संस्थापक और Alphabet के मुख्य वैज्ञानिक Demis Hassabis पहले भी उन्नत AI के लिए अमेरिका आधारित मानक संगठन बनाने का सुझाव दे चुके हैं।

ऐसी व्यवस्था को सार्वजनिक-निजी साझेदारी या उद्योग के नेतृत्व वाली स्व-नियामक व्यवस्था के रूप में विकसित करने की संभावना पर चर्चा हुई है।

इस विचार की तुलना अमेरिका के वित्तीय क्षेत्र में काम करने वाले FINRA जैसे स्व-नियामक संगठन से की गई है। अंतर यह होगा कि प्रस्तावित AI संगठन पारंपरिक सरकारी नियामक की तरह सीधे कानून लागू करने के बजाय साझा मानक और मूल्यांकन प्रक्रियाएं विकसित करने पर ध्यान दे सकता है।

AI सुरक्षा में सरकार और उद्योग की भूमिका पर बहस Debate Over the Role of Government and Industry in AI Safety

SAFA की संभावित स्थापना ऐसे समय में हो रही है जब AI के नियमन को लेकर सरकार और उद्योग की भूमिका पर व्यापक चर्चा चल रही है।

एक मॉडल में सरकार बाध्यकारी नियम बना सकती है और AI प्रणालियों की सुरक्षा जांच की निगरानी कर सकती है। दूसरी व्यवस्था में उद्योग, स्वतंत्र मूल्यांकन संस्थाएं और तकनीकी विशेषज्ञ मिलकर स्वैच्छिक या उद्योग-आधारित मानक तैयार कर सकते हैं।

अगर SAFA मौजूदा प्रस्ताव के अनुसार स्थापित होता है, तो यह दूसरे मॉडल का उदाहरण होगा। हालांकि, इसका अर्थ यह नहीं है कि संगठन की भूमिका या मानक कानूनी रूप से सभी कंपनियों पर अनिवार्य होंगे। इसके अधिकार और लागू करने की क्षमता अभी स्पष्ट नहीं है।

AI मॉडल की जांच को लेकर बड़ा सवाल Key Questions Remain About AI Model Testing

प्रस्तावित संगठन के सामने एक महत्वपूर्ण सवाल यह है कि AI मॉडल का वास्तविक परीक्षण कौन करेगा।

एक विकल्प यह हो सकता है कि SAFA खुद अत्याधुनिक AI मॉडलों का मूल्यांकन करे। दूसरा विकल्प यह है कि संगठन केवल सुरक्षा मानक और परीक्षण पद्धति तैयार करे और स्वतंत्र संस्थाओं को उनके आधार पर AI मॉडल की जांच करने दे।

पहले मॉडल में एक केंद्रीय संस्था के जरिए समान तरीके से परीक्षण किया जा सकता है। दूसरे मॉडल में कई स्वतंत्र संस्थाएं एक समान मानकों के आधार पर अलग-अलग AI प्रणालियों का मूल्यांकन कर सकती हैं।

SAFA की अंतिम संरचना इस बात को प्रभावित करेगी कि AI कंपनियों, स्वतंत्र शोधकर्ताओं और सरकारी संस्थाओं के साथ उसका संबंध किस प्रकार का होगा।

AI Safety को लेकर चिंता बढ़ रही है Concerns Over AI Safety Are Growing

अत्यधिक सक्षम AI प्रणालियों के संभावित जोखिमों को लेकर दुनिया भर में चर्चा बढ़ रही है। इसी माह Anthropic के CEO Dario Amodei ने फ्रंटियर AI के विकास की गति को लेकर अधिक सावधानी बरतने और सुरक्षा उपायों को मजबूत करने की बात कही है।

OpenAI ने भी हाल में उन्नत AI के लिए तकनीकी सुरक्षा मानकों और अंतरराष्ट्रीय सहयोग की जरूरत पर जोर दिया है। कंपनी ने स्वतंत्र सुरक्षा आकलन और घटना रिपोर्टिंग जैसे क्षेत्रों में साझा मानकों की आवश्यकता की बात रखी है।

इन घटनाक्रमों के बीच स्वतंत्र परीक्षण, पारदर्शिता और साझा सुरक्षा मानकों की भूमिका पर ध्यान बढ़ रहा है।

SAFA से फ्रंटियर एआई के मूल्यांकन को मिल सकता है साझा ढांचा SAFA Could Create a Common Framework for Frontier AI Evaluation

अगर SAFA स्थापित होता है, तो यह अत्याधुनिक AI मॉडलों के मूल्यांकन के लिए एक साझा ढांचा तैयार कर सकता है।

इसमें मापने योग्य सुरक्षा मानक, तीसरे पक्ष द्वारा मूल्यांकन के लिए प्रक्रियाएं और गंभीर AI सुरक्षा घटनाओं की रिपोर्टिंग से जुड़े तरीके शामिल हो सकते हैं।

हालांकि, इसके नेतृत्व, सदस्यता, परीक्षण की जिम्मेदारी, वित्तीय व्यवस्था और सरकारों के साथ संबंध जैसे महत्वपूर्ण मुद्दों पर अभी अंतिम निर्णय नहीं हुआ है। इसलिए फिलहाल SAFA को एक प्रस्तावित उद्योग-आधारित संगठन के रूप में ही देखा जाना चाहिए, न कि पहले से स्थापित नियामक संस्था के रूप में।

AI कंपनियों में सुरक्षा सहयोग की नई दिशा AI Industry Moves Toward Greater Safety Coordination

Google, OpenAI और Anthropic का यह प्रस्ताव दिखाता है कि AI कंपनियों के बीच व्यावसायिक प्रतिस्पर्धा के बावजूद सुरक्षा के कुछ क्षेत्रों में साझा प्रयास की संभावना बनी हुई है।

अत्याधुनिक AI मॉडलों की क्षमताएं बढ़ने के साथ कंपनियों के लिए यह महत्वपूर्ण होता जा रहा है कि उनके सुरक्षा दावों को स्पष्ट मानकों और वास्तविक परीक्षणों से जोड़ा जाए।

रिपोर्टों के अनुसार, SAFA को 2026 के अंत या 2027 की शुरुआत में शुरू करने की योजना पर काम चल रहा है। यदि यह योजना आगे बढ़ती है, तो यह AI सुरक्षा, तकनीकी मानकों और जिम्मेदार AI तैनाती पर चल रही वैश्विक चर्चा में एक नया संस्थागत मॉडल जोड़ सकती है। फिलहाल इसकी स्थापना और अंतिम स्वरूप को लेकर प्रक्रिया जारी है।