AI से मानवता को खतरे की चेतावनी, अमेरिकी सांसदों ने मजबूत निगरानी की मांग उठाई

अमेरिका में कृत्रिम बुद्धिमत्ता यानी AI को लेकर नियमन और सुरक्षा की बहस एक बार फिर तेज हो गई है। AI कंपनी Anthropic से जुड़े कुछ शोधकर्ताओं की चेतावनियों के बाद अमेरिकी सांसद सरकार से उन्नत AI प्रणालियों की निगरानी और सुरक्षा व्यवस्था को और मजबूत करने की मांग कर रहे हैं।

चिंता का मुख्य कारण यह है कि आने वाले वर्षों में AI प्रणालियां लगातार अधिक सक्षम और स्वायत्त हो सकती हैं। कुछ शोधकर्ताओं का मानना है कि यदि ऐसी शक्तिशाली प्रणालियों को पर्याप्त सुरक्षा उपायों और निगरानी के बिना विकसित किया गया, तो इनके कारण गंभीर और व्यापक नुकसान का खतरा पैदा हो सकता है।

यह बहस ऐसे समय में सामने आई है जब AI कंपनियां अधिक सक्षम मॉडल और AI एजेंट विकसित करने की दिशा में तेजी से आगे बढ़ रही हैं। अमेरिकी सांसद अब इस बात पर विचार कर रहे हैं कि मौजूदा सुरक्षा नियम इन तेजी से बदलती तकनीकों के लिए पर्याप्त हैं या नहीं।

एंथ्रोपिक शोधकर्ताओं ने जताई मानवता के लिए गंभीर चिंता Anthropic Researchers Warn of Potential Existential Risks

AI सुरक्षा से जुड़ी चिंताओं को उस समय और बल मिला जब Anthropic के शोधकर्ता Anthropic researcher Jacob Coxon ने कंपनी से इस्तीफा दिया। इस्तीफे के दौरान उन्होंने कहा कि उन्नत AI विकसित करने वाले कुछ लोग वास्तव में यह मानते हैं कि आने वाले वर्षों में यह तकनीक विनाशकारी नुकसान का कारण बन सकती है।

Anthropic के वैज्ञानिक Evan Hubinger ने भी इसी तरह की चिंता व्यक्त की है। उनका मानना है कि अगले दशक के भीतर उन्नत AI से मानवता के अस्तित्व के लिए गंभीर खतरा पैदा होने की संभावना को नजरअंदाज नहीं किया जा सकता।

तेजी से विकसित हो रही AI प्रणालियां चिंता का कारण Rapidly Advancing AI Systems Raise Concerns

इन शोधकर्ताओं की चेतावनियां केवल भविष्य की आशंकाओं तक सीमित नहीं हैं। AI एजेंटों के कुछ ऐसे व्यवहारों की रिपोर्ट सामने आती रही है, जिनमें उन्होंने अप्रत्याशित तरीके से बाहरी प्रणालियों के साथ संपर्क करने या उन्हें प्रभावित करने की कोशिश की।

ऐसी घटनाओं ने यह सवाल खड़ा किया है कि क्या मौजूदा सुरक्षा परीक्षण और नियामकीय ढांचा इतनी तेजी से विकसित हो रही AI तकनीक को नियंत्रित करने के लिए पर्याप्त है।

अमेरिकी सांसदों में बढ़ रही AI निगरानी की मांग US Lawmakers Push for Stronger AI Oversight

AI से जुड़े संभावित खतरों को लेकर अमेरिका में दोनों प्रमुख राजनीतिक दलों के सांसदों के बीच चिंता बढ़ रही है। यह महत्वपूर्ण इसलिए है क्योंकि AI नियमन को लेकर अमेरिका में अब तक तकनीकी विकास और सरकारी नियंत्रण के बीच संतुलन को लेकर व्यापक बहस होती रही है।

सीनेटर मार्क केली ने जताई चिंता Senator Mark Kelly Calls for Greater Attention to AI Risks

एरिजोना के सीनेटर Mark Kelly ने कहा है कि वॉशिंगटन को AI से जुड़े जोखिमों को अधिक गंभीरता से लेना चाहिए। उनका रुख इस बात को दर्शाता है कि AI की अनियंत्रित या पर्याप्त परीक्षण के बिना की गई प्रगति को लेकर राजनीतिक स्तर पर चिंता बढ़ रही है।

टेक्सास के सीनेटर Ted Cruz ने भी ऐसी प्रस्तावित विधायी पहलों का उल्लेख किया है, जिनका उद्देश्य AI से जुड़े विनाशकारी जोखिमों से निपटना है।

वहीं, फ्लोरिडा की प्रतिनिधि Anna Paulina Luna ने हाउस स्पीकर Mike Johnson से AI से जुड़े मुद्दों पर विशेष सत्र बुलाने की मांग की है।

एंथ्रोपिक ने सुरक्षा परीक्षण जारी रखने की बात कही Anthropic Says AI Safety Testing Will Continue

शोधकर्ताओं की चिंताओं के बीच Anthropic ने AI सुरक्षा को लेकर अपनी प्रतिबद्धता दोहराई है। कंपनी का कहना है कि वह अपने AI मॉडल की ऐसी क्षमताओं के लिए व्यापक परीक्षण जारी रखेगी, जिनसे गंभीर नुकसान की आशंका हो सकती है।

साइबर सुरक्षा और जैविक क्षेत्र पर विशेष ध्यान Focus on Cybersecurity and Biological Risks

कंपनी विशेष रूप से साइबर सुरक्षा और जीवविज्ञान जैसे क्षेत्रों में AI की क्षमताओं पर ध्यान दे रही है। इन क्षेत्रों में अत्यधिक सक्षम AI का गलत इस्तेमाल गंभीर परिणाम पैदा कर सकता है।

Anthropic ने यह भी संकेत दिया है कि AI उद्योग की अन्य कंपनियों के साथ मिलकर नई AI क्षमताओं को बाजार में लाने की गति को जिम्मेदारी के साथ तय करने पर काम किया जा सकता है।

AI सुरक्षा शोधकर्ताओं का बड़ी कंपनियों से अलग होना AI Safety Researchers Leave Major Technology Companies

AI सुरक्षा को लेकर चिंता केवल Anthropic तक सीमित नहीं है। दूसरी बड़ी तकनीकी कंपनियों से जुड़े कुछ शोधकर्ताओं ने भी उन्नत AI के संभावित खतरों को लेकर सवाल उठाए हैं।

Josh Engels, जो पहले Google DeepMind में AI सुरक्षा शोधकर्ता रह चुके हैं, ने चेतावनी दी है कि तेजी से सक्षम हो रही AI प्रणालियों के लिए उद्योग में पर्याप्त सुरक्षा उपाय और स्वतंत्र निगरानी मौजूद नहीं हैं।

इसी तरह Anthropic की सुरक्षा शोध टीम का नेतृत्व कर चुके Joe Benton ने भी चिंता जताई है कि AI का विकास समाज द्वारा पर्याप्त सुरक्षा व्यवस्था तैयार करने की क्षमता से अधिक तेजी से आगे बढ़ सकता है।

दोनों शोधकर्ता अब METR नामक गैर-लाभकारी संस्था से जुड़े हैं। यह संस्था AI की क्षमताओं का अध्ययन करती है और यह समझने का प्रयास करती है कि उन्नत AI प्रणालियां कब समाज के लिए गंभीर जोखिम पैदा कर सकती हैं।

OpenAI भी AI विकास की गति को लेकर सतर्क OpenAI Also Considers the Pace of AI Development

AI सुरक्षा को लेकर सवालों का सामना OpenAI को भी करना पड़ा है। कंपनी के मुख्य कार्यकारी अधिकारी Sam Altman ने कथित तौर पर कर्मचारियों से कहा है कि कुछ क्षेत्रों में AI विकास की गति को धीमा करने पर विचार किया जा सकता है।

OpenAI पहले भी अपने कुछ मॉडल विकास क्षेत्रों में अधिक सावधानी बरतने के संकेत दे चुका है। कंपनी ने अमेरिका में अनिवार्य राष्ट्रीय AI सुरक्षा मानकों का समर्थन भी किया है।

यह रुख इस बात की ओर संकेत करता है कि AI कंपनियों के बीच भी यह चर्चा बढ़ रही है कि शक्तिशाली AI प्रणालियों के विकास के साथ सुरक्षा परीक्षण और सरकारी निगरानी को किस तरह जोड़ा जाए।

AI सुरक्षा कानून बनाने की दिशा में आगे बढ़ रहे सांसद Lawmakers Work on New AI Safety Legislation

Anthropic के शोधकर्ताओं की चेतावनियों के बाद AI से जुड़े नए कानूनों पर काम कर रहे अमेरिकी सांसदों पर भी दबाव बढ़ा है।

सीनेट के बहुमत नेता John Thune और डेमोक्रेटिक सीनेटर Amy Klobuchar AI उत्पादों के नियमन और संभावित विनाशकारी जोखिमों से निपटने के लिए कानून पर काम कर रहे हैं।

Klobuchar का तर्क है कि अत्यधिक सक्षम AI उपकरण बनाने वाली कंपनियों को अपने उत्पादों को आम लोगों के लिए उपलब्ध कराने से पहले सरकारी विशेषज्ञों के साथ मिलकर उनका परीक्षण और सत्यापन करना चाहिए।

स्वतंत्र विशेषज्ञों की भूमिका बढ़ाने की तैयारी Greater Role for Independent Experts

प्रस्तावित व्यवस्था में सरकारी संस्थाओं और स्वतंत्र विशेषज्ञों को AI प्रणालियों की क्षमताओं तथा सुरक्षा का मूल्यांकन करने में अधिक भूमिका दी जा सकती है। इससे कंपनियों द्वारा अपने उत्पादों की सुरक्षा का केवल स्वयं आकलन करने पर निर्भरता कम हो सकती है।

AI उत्पादों के स्वतंत्र ऑडिट को मिल रहा समर्थन Independent AI Audits Gain Support

AI सुरक्षा बहस में स्वतंत्र ऑडिट भी एक महत्वपूर्ण मुद्दा बनकर सामने आया है। कैलिफोर्निया ने हाल ही में ऐसा कानून बनाया है, जिसके तहत AI उत्पादों का मूल्यांकन स्वतंत्र ऑडिटर द्वारा किए जाने से जुड़ी आवश्यकताएं तय की गई हैं।

इस व्यवस्था का उद्देश्य यह सुनिश्चित करना है कि AI कंपनियों के मॉडल और उत्पादों की सुरक्षा की जांच केवल उन्हीं कंपनियों के आंतरिक आकलन पर निर्भर न रहे।

OpenAI ने कैलिफोर्निया के इस कानून का समर्थन किया है। इससे पता चलता है कि AI उद्योग में भी स्वतंत्र निगरानी और बाहरी मूल्यांकन की आवश्यकता को लेकर समर्थन बढ़ रहा है।

कांग्रेस में सांसदों के एक द्विदलीय समूह ने भी सबसे शक्तिशाली AI मॉडल विकसित करने वाली कंपनियों के लिए स्वतंत्र सुरक्षा ऑडिट अनिवार्य करने का प्रस्ताव रखा है।

वाणिज्य विभाग की भूमिका Role of the Department of Commerce

प्रस्ताव के तहत स्वतंत्र ऑडिटर को अमेरिकी वाणिज्य विभाग से मान्यता मिल सकती है। विभाग AI सुरक्षा की निगरानी के लिए एक विशेष जिम्मेदारी भी निर्धारित कर सकता है।

ऐसी व्यवस्था लागू होने पर शक्तिशाली AI प्रणालियों के विकास और इस्तेमाल पर बाहरी निगरानी मजबूत हो सकती है।

विशेषज्ञों ने तीसरे पक्ष की जांच का समर्थन किया Experts Support Third-Party AI Testing

तकनीकी कानून के विशेषज्ञ भी AI प्रणालियों की स्वतंत्र जांच को जरूरी मान रहे हैं। George Washington University की तकनीकी कानून की प्रोफेसर Alicia Solow-Niederman का मानना है कि प्रभावी निगरानी व्यवस्था में उन्नत AI प्रणालियों को जारी करने से पहले उचित समीक्षा और बाद में स्वतंत्र तीसरे पक्ष द्वारा ऑडिट शामिल होना चाहिए।

ऐसी व्यवस्था से सरकार और नियामक संस्थाओं को AI मॉडल की वास्तविक क्षमताओं तथा उनसे जुड़े संभावित जोखिमों को समझने में अधिक मदद मिल सकती है।

निष्कर्ष: AI विकास और सुरक्षा के बीच संतुलन जरूरी Conclusion: Balancing AI Innovation with Safety

उन्नत AI को लेकर शोधकर्ताओं की बढ़ती चेतावनियों ने अमेरिका में नियमन की बहस को और तेज कर दिया है। अब चर्चा केवल AI के विकास को बढ़ावा देने तक सीमित नहीं है, बल्कि यह भी सवाल उठ रहा है कि अत्यधिक सक्षम AI प्रणालियों को समाज के लिए सुरक्षित कैसे बनाया जाए।

द्विदलीय कानूनों, स्वतंत्र सुरक्षा ऑडिट और व्यापक परीक्षण को मिल रहे समर्थन से संकेत मिलता है कि अमेरिका AI विकास और सार्वजनिक सुरक्षा के बीच संतुलन बनाने की दिशा में आगे बढ़ रहा है।

AI तकनीक स्वास्थ्य, विज्ञान, कारोबार और उत्पादकता के लिए बड़े अवसर पैदा कर सकती है, लेकिन इसके साथ जुड़े संभावित गंभीर जोखिमों को भी नजरअंदाज नहीं किया जा सकता। इसलिए आने वाले समय में स्वतंत्र परीक्षण, पारदर्शिता, जवाबदेही और प्रभावी सरकारी निगरानी AI के जिम्मेदार विकास के महत्वपूर्ण आधार बन सकते हैं।