सैम ऑल्टमैन ने AI के बढ़ते खतरे पर दी चेतावनी, कहा- इंसानों के हाथ में रहे नियंत्रण

59
20 Nov 2026
8 min read

News Synopsis

आर्टिफिशियल इंटेलिजेंस (AI) तेजी से विकसित हो रही है और अलग-अलग उद्योगों में नए अवसर पैदा कर रही है। हालांकि, इसके साथ यह सवाल भी गंभीर होता जा रहा है कि इंसानों को इन शक्तिशाली तकनीकों को कितना अधिकार देना चाहिए। OpenAI के CEO सैम ऑल्टमैन और कंपनी के अध्यक्ष ग्रेग ब्रॉकमैन ने चेतावनी दी है कि अगर AI को धीरे-धीरे महत्वपूर्ण फैसले लेने का अधिकार सौंप दिया गया, तो इससे समाज के सामने बड़े जोखिम खड़े हो सकते हैं।

दोनों ने The New York Times के DealBook Summit में हिस्सा लेते हुए उन्नत AI मॉडल विकसित करने से जुड़ी चुनौतियों पर चर्चा की। उन्होंने इस बात पर जोर दिया कि तकनीक का भविष्य तय करने की जिम्मेदारी इंसानों के पास ही रहनी चाहिए। AI सिस्टम को स्वतंत्र रूप से फैसले लेने देने के बजाय मनुष्यों को उनके विकास और इस्तेमाल पर निगरानी रखनी चाहिए।

उनकी यह टिप्पणी ऐसे समय आई है, जब सिलिकॉन वैली में इस बात पर चर्चा तेज हो रही है कि भविष्य में अत्यधिक सक्षम AI सिस्टम कंपनियों, संस्थानों और समाज के कई जटिल कामों को खुद संभाल सकते हैं।

ऑल्टमैन और ब्रॉकमैन का मानना है कि तकनीकी कंपनियों को AI के विकास और इस्तेमाल के अपने तरीकों पर दोबारा विचार करने की जरूरत है। उनके अनुसार, इंसानी निगरानी बनाए रखने के लिए बेहतर सुरक्षा व्यवस्था, प्रभावी निगरानी और तकनीकी प्रतिस्पर्धा के प्रति जिम्मेदार रवैया अपनाना जरूरी होगा।

सैम ऑल्टमैन ने AI को नियंत्रण सौंपने के विचार का किया विरोध (Sam Altman Rejects the Idea of Handing Over Control to AI)

सैम ऑल्टमैन Sam Altman की सबसे बड़ी चिंताओं में से एक यह है कि कहीं इंसान धीरे-धीरे फैसले लेने का अधिकार AI सिस्टम को न सौंप दें। ऑल्टमैन और ब्रॉकमैन इस विचार से सहमत नहीं हैं कि भविष्य में अधिक उन्नत AI सिस्टम को महत्वपूर्ण प्रक्रियाओं का पूरा नियंत्रण दे दिया जाना चाहिए।

इस चिंता से जुड़ा एक महत्वपूर्ण विषय रिकर्सिव सेल्फ-इम्प्रूवमेंट (Recursive Self-Improvement या RSI) है। इसका मतलब ऐसी प्रक्रिया से है, जिसमें कोई AI सिस्टम खुद को बेहतर बनाने या अपने नए और अधिक उन्नत संस्करण तैयार करने में मदद करता है। इस तरह समय के साथ AI की क्षमता लगातार बढ़ सकती है।

अगर यह प्रक्रिया प्रभावी मानवीय निगरानी के बिना आगे बढ़ती रही, तो AI के विकास की दिशा को नियंत्रित करना मुश्किल हो सकता है।

ऑल्टमैन का मानना है कि कंपनियों को इस संभावना के लिए पहले से तैयारी करनी चाहिए। उन्हें यह नहीं मानना चाहिए कि AI के विकास के लिए अपनाए जा रहे मौजूदा तरीके भविष्य में भी पर्याप्त होंगे। उन्होंने यह भी संकेत दिया कि तकनीकी कंपनियों के बीच बढ़ती प्रतिस्पर्धा इस चुनौती को और गंभीर बना सकती है।

कंपनियां अपने प्रतिस्पर्धियों से आगे रहने के लिए तेजी से अधिक शक्तिशाली AI मॉडल विकसित करने का दबाव महसूस कर सकती हैं। लेकिन अगर इस प्रक्रिया में सुरक्षा को पर्याप्त महत्व नहीं दिया गया, तो इसके गंभीर परिणाम हो सकते हैं।

सम्मेलन के दौरान ऑल्टमैन ने चेतावनी दी कि AI के विकास का अगला चरण पिछले कुछ वर्षों की तरह नहीं होना चाहिए। उन्होंने कहा, "अगर दुनिया और AI विकसित करने वाली कंपनियां अगले चार वर्षों में भी वैसा ही व्यवहार करती हैं, जैसा उन्होंने पिछले चार वर्षों में किया है, तो मुझे लगता है कि यह बहुत बुरा होगा।"

उनकी इस टिप्पणी से स्पष्ट होता है कि AI की क्षमता बढ़ने के साथ उसके विकास में अधिक सावधानी और जिम्मेदारी बरतने की जरूरत है।

AI सुरक्षा के उपायों को भी तकनीक के साथ आगे बढ़ाना होगा (AI Safety Measures Must Advance Alongside Technology)

सम्मेलन में एक अन्य महत्वपूर्ण मुद्दा यह था कि क्या मौजूदा सुरक्षा और निगरानी प्रणालियां उन्नत AI मॉडल की बढ़ती क्षमताओं के साथ कदम मिला पा रही हैं।

जैसे-जैसे AI अधिक सक्षम होती जा रही है, यह समझना भी जरूरी हो गया है कि कोई मॉडल किसी खास नतीजे तक कैसे पहुंचता है। डेवलपर्स को ऐसे भरोसेमंद तरीकों की जरूरत है, जिनसे वे AI के व्यवहार की जांच कर सकें, संभावित समस्याओं की पहचान कर सकें और यह सुनिश्चित कर सकें कि सिस्टम तय सीमाओं के भीतर काम कर रहे हैं।

ग्रेग ब्रॉकमैन ने मौजूदा चेन-ऑफ-थॉट निगरानी तकनीकों की प्रभावशीलता को लेकर चिंता जताई।

चेन-ऑफ-थॉट निगरानी की प्रभावशीलता क्यों घट सकती है? (Why Chain-of-Thought Monitoring May Become Less Effective)

चेन-ऑफ-थॉट मॉनिटरिंग एक ऐसी प्रक्रिया है, जिसमें किसी समस्या को हल करते समय कुछ AI मॉडल की ओर से दिखाए गए तर्क के चरणों की जांच की जाती है। इससे शोधकर्ताओं को यह समझने में मदद मिलती है कि AI किसी काम को किस तरह पूरा करती है और जवाब तक कैसे पहुंचती है।

हालांकि, ब्रॉकमैन के अनुसार, जैसे-जैसे उन्नत मॉडल बिना अपना पूरा तर्क स्पष्ट रूप से दिखाए अधिक आंतरिक गणना करने लगेंगे, इस तकनीक की विश्वसनीयता कम हो सकती है।

अगर AI सिस्टम जटिल कामों को अपने भीतर ही पूरा करने लगते हैं और उनकी पूरी प्रक्रिया बाहर दिखाई नहीं देती, तो शोधकर्ताओं के लिए यह समझना कठिन हो सकता है कि सिस्टम के अंदर क्या हो रहा है।

यह AI डेवलपर्स के सामने एक बड़ी चुनौती है। कंपनियों को ऐसे नए तरीके विकसित करने होंगे, जिनकी मदद से मॉडल के व्यवहार का मूल्यांकन किया जा सके, जोखिमों की पहचान हो और उचित मानवीय निगरानी बनी रहे।

सैम ऑल्टमैन ने AI सुरक्षा के साझा मानकों की जरूरत बताई (Sam Altman Calls for Shared AI Safety Standards)

ऑल्टमैन ने AI उद्योग में आपसी सहयोग के महत्व पर भी जोर दिया। उनका मानना है कि कंपनियों को पर्याप्त जानकारी और सुरक्षा व्यवस्था के बिना उन्नत AI सिस्टम विकसित करने के बजाय मजबूत और एक जैसे सुरक्षा मानक अपनाने चाहिए।

इस समय बड़ी तकनीकी कंपनियां अधिक शक्तिशाली AI मॉडल तैयार करने के लिए भारी निवेश कर रही हैं। इस कारण उद्योग में प्रतिस्पर्धा लगातार बढ़ रही है। लेकिन अगर हर कंपनी केवल अपने विकास लक्ष्यों पर ध्यान देगी, तो AI से जुड़े सुरक्षा जोखिमों का प्रभावी ढंग से समाधान करना मुश्किल होगा।

साझा सुरक्षा मानकों से कंपनियों को जोखिमों का मूल्यांकन करने, सुरक्षा व्यवस्था बेहतर बनाने और जिम्मेदार AI विकास के लिए स्पष्ट नियम तय करने में मदद मिल सकती है।

इस चर्चा में पारदर्शिता और आपसी संवाद का महत्व भी सामने आया। ऑल्टमैन की चिंताओं के अनुसार, उद्योग को यह समझने की जरूरत है कि अलग-अलग कंपनियां अपने AI सिस्टम किस तरह विकसित कर रही हैं और क्या उनकी सुरक्षा व्यवस्था तकनीकी प्रगति के अनुरूप मजबूत हो रही है।

OpenAI ने इंजीनियरिंग टीमों का ध्यान सुरक्षा पर केंद्रित किया (OpenAI Redirects Engineering Teams Towards Security)

AI सुरक्षा पर यह चर्चा OpenAI के एक मॉडल और Hugging Face से जुड़े सुरक्षा मामले के बाद भी महत्वपूर्ण हो गई है।

ब्रॉकमैन ने बताया कि OpenAI ने सुरक्षा पर विशेष ध्यान देने के लिए कुछ समय के लिए अपने 25 प्रतिशत प्रोडक्शन इंजीनियरिंग प्रोजेक्ट रोक दिए थे। इस दौरान इंजीनियरों को कंपनी के सिस्टम की सुरक्षा मजबूत करने के काम में लगाया गया और AI मॉडल की मदद भी ली गई।

यह फैसला दिखाता है कि सुरक्षा से जुड़ी चिंताएं किसी AI कंपनी की प्राथमिकताओं को किस तरह प्रभावित कर सकती हैं। ऐसा तब भी हो सकता है, जब कंपनी एक साथ कई तकनीकी विकास परियोजनाओं पर काम कर रही हो।

यह घटना AI इंफ्रास्ट्रक्चर की सुरक्षा के बढ़ते महत्व को भी दर्शाती है। जैसे-जैसे AI मॉडल अधिक शक्तिशाली और व्यापक रूप से इस्तेमाल किए जा रहे हैं, कंपनियों को उनके सिस्टम को सुरक्षित बनाने, लागू करने और बनाए रखने पर भी ध्यान देना होगा।

ऑल्टमैन बोले- इंसानों को अपनी स्वतंत्रता बनाए रखनी चाहिए (Altman Says Humans Must Retain Their Independence)

तकनीकी जोखिमों के अलावा ऑल्टमैन ने AI के इंसानी स्वतंत्रता और फैसले लेने की क्षमता पर पड़ने वाले प्रभाव को लेकर भी चिंता जताई।

उनका मानना है कि लोगों को AI सिस्टम पर इस हद तक निर्भर नहीं होना चाहिए कि वे खुद महत्वपूर्ण फैसले लेने या अपने जीवन की दिशा तय करने की क्षमता खो दें।

सम्मेलन के दौरान अपनी बात समझाने के लिए ऑल्टमैन ने एक अलग उदाहरण दिया। उन्होंने कहा, "मैं लैब्राडोर नहीं बनना चाहता। मैं चाहता हूं कि मेरे बच्चे लैब्राडोर हों।"

उनकी इस टिप्पणी का संबंध ऐसे संभावित भविष्य से था, जिसमें अधिक सक्षम AI सिस्टम इंसानों की जगह कई जिम्मेदारियां संभालने लगेंगे और लोग धीरे-धीरे अपनी स्वतंत्रता खो सकते हैं।

ऑल्टमैन ने जोर दिया कि लोगों के पास फैसले लेने, नई चीजें बनाने और अपना भविष्य तय करने की आजादी बनी रहनी चाहिए।

उनकी बात का मूल संदेश यह है कि AI का इस्तेमाल इंसानी क्षमताओं को बढ़ाने के लिए होना चाहिए, न कि इंसानों की अपनी निर्णय लेने की शक्ति को खत्म करने के लिए। AI चाहे कितनी भी उन्नत क्यों न हो जाए, समाज को प्रभावित करने वाले फैसलों में मनुष्यों की भागीदारी जरूरी रहनी चाहिए।

निष्कर्ष: AI के विकास के साथ मानवीय निगरानी होगी जरूरी (Conclusion: Human Oversight Will Be Crucial as AI Advances)

सैम ऑल्टमैन और ग्रेग ब्रॉकमैन की टिप्पणियां बताती हैं कि AI के विकास के साथ सुरक्षा, जवाबदेही और मानवीय निगरानी का महत्व भी बढ़ रहा है। जैसे-जैसे उन्नत AI मॉडल अधिक सक्षम होते जाएंगे, मौजूदा निगरानी प्रणालियों और विकास से जुड़े तरीकों में बड़े बदलाव करने की जरूरत पड़ सकती है।

रिकर्सिव सेल्फ-इम्प्रूवमेंट, तकनीकी कंपनियों के बीच प्रतिस्पर्धा और इंसानी स्वतंत्रता में कमी जैसी चिंताएं बताती हैं कि AI का जिम्मेदार विकास सावधानीपूर्वक योजना बनाकर ही किया जाना चाहिए।

तकनीकी कंपनियों के सामने सबसे बड़ी चुनौती यह होगी कि वे नए आविष्कार और विकास जारी रखते हुए सुरक्षा तथा इंसानी नियंत्रण को भी प्राथमिकता दें। AI भविष्य में कई कामों को आसान बना सकती है, लेकिन उसके इस्तेमाल और दिशा तय करने की जिम्मेदारी इंसानों के पास रहनी चाहिए।

Podcast

TWN Exclusive