क्लाउड एआई बनाने वाली कंपनी एंथ्रोपिक ने आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम में पारदर्शिता और भरोसा बढ़ाने के लिए एक नया ओपन-सोर्स रिसर्च प्रोटोटाइप FlashProve पेश किया है। इस तकनीक की मदद से यूजर्स यह जांच सकेंगे कि AI से मिला जवाब वास्तव में उसी मॉडल ने तैयार किया है या नहीं, जिसका इस्तेमाल करने का दावा किया गया था।
यह पहल AI सेवाओं के इस्तेमाल से जुड़ी एक बड़ी चिंता को दूर करने की कोशिश है। आशंका जताई जाती रही है कि कुछ कंपनियां परिचालन लागत कम करने के लिए ग्राहकों को बताए बिना महंगे और उन्नत AI मॉडल की जगह सस्ते मॉडल का इस्तेमाल कर सकती हैं।
FlashProve इस समस्या से निपटने के लिए क्रिप्टोग्राफिक सत्यापन का तरीका अपनाता है। इसके जरिए यूजर्स यह पुष्टि कर सकेंगे कि जवाब किसी खास AI मॉडल से आया है। इस प्रक्रिया में कंपनी को अपने मॉडल की गोपनीय तकनीक या आंतरिक जानकारी सार्वजनिक करने की जरूरत नहीं होगी।
फ्लैशप्रूव FlashProve एक ऐसी सत्यापन प्रणाली है, जो गणितीय प्रमाण के जरिए यह पता लगाने में मदद करती है कि किसी सवाल का जवाब किस AI मॉडल ने तैयार किया है।
AI सेवाओं का इस्तेमाल बढ़ने के साथ ग्राहक और कारोबारी संस्थान यह जानना चाहते हैं कि उन्हें वास्तव में वही तकनीक मिल रही है, जिसके लिए उन्होंने भुगतान किया है। उदाहरण के लिए, यदि कोई कंपनी किसी उन्नत और महंगे AI मॉडल की सेवा लेती है, तो वह यह सुनिश्चित करना चाहेगी कि उसके सवालों का जवाब उसी मॉडल से मिले, न कि किसी कम खर्चीले विकल्प से।
फ्लैशप्रूव का उद्देश्य AI मॉडल और उससे तैयार जवाब के बीच एक ऐसा संबंध स्थापित करना है, जिसकी स्वतंत्र रूप से जांच की जा सके। इससे AI डेवलपर्स, क्लाउड सेवा देने वाली कंपनियों और AI पर निर्भर व्यवसायों की जवाबदेही बढ़ सकती है।
फ्लैशप्रूव से तैयार जवाब की असलियत जांचने के लिए क्रिप्टोग्राफिक तकनीकों का इस्तेमाल करता है। इसे किसी इलेक्ट्रॉनिक दस्तावेज पर लगाए जाने वाले डिजिटल हस्ताक्षर की तरह समझा जा सकता है, जो दस्तावेज की प्रामाणिकता साबित करने में मदद करता है।
किसी AI मॉडल को उपयोग के लिए उपलब्ध कराने से पहले उसका डेवलपर उससे जुड़ी एक खास डिजिटल पहचान यानी फिंगरप्रिंट प्रकाशित करता है। जब कोई यूजर AI सिस्टम को सवाल भेजता है, तो सर्वर जवाब के साथ एक क्रिप्टोग्राफिक प्रमाण भी देता है। इसके बाद इस प्रमाण की जांच करके पता लगाया जा सकता है कि जवाब तय किए गए मॉडल ने ही तैयार किया है या नहीं।
इस प्रक्रिया में एक खास सुरक्षा तकनीक का इस्तेमाल किया जाता है, जिसे जीरो-नॉलेज सक्सिंक्ट नॉन-इंटरैक्टिव आर्ग्युमेंट ऑफ नॉलेज (zkSNARK) कहा जाता है। आसान शब्दों में, यह ऐसी तकनीक है जो किसी जानकारी की सत्यता साबित करने देती है, लेकिन उस जानकारी से जुड़ी गोपनीय चीजों को उजागर नहीं करती।
इसका एक बड़ा फायदा यह है कि AI मॉडल के गोपनीय वेट्स सार्वजनिक किए बिना भी उसके जवाब का सत्यापन किया जा सकता है। मॉडल वेट्स वे संख्यात्मक मान होते हैं, जो तय करते हैं कि AI सिस्टम जानकारी को कैसे समझेगा और जवाब कैसे तैयार करेगा। ये किसी AI कंपनी की महत्वपूर्ण बौद्धिक संपदा होते हैं।
फ्लैशप्रूव को विकसित करने में Anthropic के साथ कई संस्थानों के शोधकर्ताओं ने सहयोग किया। इनमें मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (MIT), EPFL, StarkWare और Succinct शामिल हैं।
शोधकर्ताओं ने इस तकनीक का परीक्षण Llama 4 Maverick नाम के बड़े AI मॉडल पर किया। इस मॉडल में लगभग 400 अरब पैरामीटर हैं। इस प्रयोग का उद्देश्य यह दिखाना था कि क्रिप्टोग्राफिक सत्यापन बहुत बड़े AI मॉडल के साथ भी काम कर सकता है।
रिपोर्ट किए गए परीक्षण परिणामों के अनुसार, 1,024 टोकन वाले अनुरोध के लिए प्रमाण तैयार करने पर लगभग 19 MB आकार की फाइल बनती है। एक Nvidia H100 ग्राफिक्स प्रोसेसिंग यूनिट (GPU) का इस्तेमाल करके सिस्टम ने करीब 110 टोकन प्रति सेकंड की गति हासिल की।
ये नतीजे तकनीक की संभावनाओं को दिखाते हैं। हालांकि, इससे यह भी पता चलता है कि प्रमाण तैयार करने के लिए अभी काफी कंप्यूटिंग क्षमता की जरूरत पड़ती है।
फ्लैशप्रूव की एक खास बात यह है कि प्रमाण तैयार करने और उसकी जांच करने में लगने वाले संसाधनों में काफी अंतर है। AI सेवा देने वाली कंपनी की ओर से प्रमाण तैयार करने में अधिक कंप्यूटिंग शक्ति की जरूरत होती है, लेकिन यूजर के लिए उसकी जांच करना अपेक्षाकृत आसान है।
परीक्षण के अनुसार, सामान्य कंप्यूटर के CPU की मदद से किसी AI जवाब के क्रिप्टोग्राफिक प्रमाण की जांच लगभग 17 सेकंड में की जा सकती है।
इसका मतलब है कि ग्राहकों को AI मॉडल की पहचान की पुष्टि करने के लिए महंगे ग्राफिक्स कार्ड या विशेष कंप्यूटिंग व्यवस्था की जरूरत नहीं होगी। इससे डेवलपर्स, कंपनियों और शोधकर्ताओं के लिए AI जवाबों का स्वतंत्र सत्यापन करना आसान हो सकता है।
इस तकनीक पर अधिक शोध और विकास को बढ़ावा देने के लिए Anthropic ने FlashProve का कोड और तकनीकी दस्तावेज GitHub पर सार्वजनिक कर दिए हैं।
इस प्रोजेक्ट को Apache 2.0 ओपन-सोर्स लाइसेंस के तहत जारी किया गया है। इस लाइसेंस की शर्तों के अनुसार, डेवलपर्स और शोधकर्ता इसके कोड का अध्ययन कर सकते हैं और तकनीक को आगे विकसित करने में योगदान दे सकते हैं।
कोड सार्वजनिक होने से दूसरी AI कंपनियों और स्वतंत्र डेवलपर्स को भी क्रिप्टोग्राफिक सत्यापन के तरीकों को समझने और उन पर प्रयोग करने का अवसर मिलेगा। इससे भविष्य में AI सेवाओं में पारदर्शिता और जवाबदेही बढ़ाने के नए तरीके विकसित हो सकते हैं।
फ्लैशप्रूव का उपयोग केवल यह जांचने तक सीमित नहीं रह सकता कि कोई कंपनी वादे के मुताबिक AI मॉडल चला रही है या नहीं। भविष्य में इसके दूसरे व्यावहारिक उपयोग भी सामने आ सकते हैं।
उदाहरण के लिए, कोई कंपनी क्रिप्टोग्राफिक प्रमाण के जरिए यह दिखा सकती है कि उसके सॉफ्टवेयर की सुरक्षा जांच किसी खास उन्नत AI मॉडल से कराई गई थी। इसी तरह, वित्तीय तकनीक से जुड़ी कंपनियां और स्टार्टअप यह प्रमाणित करने के लिए ऐसी व्यवस्था अपना सकते हैं कि कोई महत्वपूर्ण आकलन या कारोबारी निर्णय किसी निर्धारित AI सिस्टम के जरिए किया गया था।
ऐसे क्षेत्रों में यह तकनीक उपयोगी हो सकती है, जहां पारदर्शिता, जवाबदेही और भरोसेमंद सत्यापन बहुत जरूरी हैं।
अपनी संभावनाओं के बावजूद FlashProve अभी शुरुआती चरण का रिसर्च प्रोटोटाइप है। यह फिलहाल व्यावसायिक रूप से उपलब्ध उत्पाद नहीं है। वर्तमान व्यवस्था में यह अधिकतम 1,024 टोकन तक की बातचीत को सपोर्ट करता है। इसलिए लंबे AI संवादों में इसका इस्तेमाल सीमित हो सकता है।
इसकी दूसरी बड़ी चुनौती कंप्यूटिंग लागत है। रिपोर्ट के अनुसार, क्रिप्टोग्राफिक प्रमाण तैयार करने में सामान्य AI प्रक्रिया की तुलना में लगभग 72 से 95 गुना अधिक कंप्यूटिंग समय लग सकता है। इससे बड़े स्तर पर इसका व्यावसायिक इस्तेमाल महंगा हो सकता है।
Anthropic ने यह भी संकेत दिया है कि फिलहाल उसकी FlashProve को किसी लाइव व्यावसायिक उत्पाद या API का हिस्सा बनाने की योजना नहीं है। इसलिए इसे रोजमर्रा की AI सेवाओं में उपयोगी बनाने से पहले तकनीक पर और शोध तथा प्रदर्शन में सुधार की जरूरत होगी।
Anthropic का FlashProve AI तकनीक में पारदर्शिता और भरोसा बढ़ाने की दिशा में एक महत्वपूर्ण शोध पहल है। क्रिप्टोग्राफिक सत्यापन और जीरो-नॉलेज प्रूफ की मदद से यह तकनीक यूजर्स को AI मॉडल की पहचान जांचने का अवसर दे सकती है, जबकि कंपनियों की गोपनीय तकनीक सुरक्षित रह सकती है।
हालांकि, अधिक कंप्यूटिंग लागत और मौजूदा तकनीकी सीमाओं के कारण इसका व्यापक व्यावसायिक इस्तेमाल अभी दूर हो सकता है। फिर भी, भविष्य में ऐसी तकनीकें AI सेवाओं में भरोसा और जवाबदेही बढ़ाने में महत्वपूर्ण भूमिका निभा सकती हैं।