निर्मला सीतारमण की चेतावनी: एजेंटिक AI लोगों की सोच और चुनावों को प्रभावित कर सकता है

केंद्रीय वित्त मंत्री निर्मला सीतारमण ने तेजी से विकसित हो रही कृत्रिम बुद्धिमत्ता यानी AI को लेकर गंभीर चिंता जताई है। उन्होंने खास तौर पर एजेंटिक AI सिस्टम और बड़े भाषा मॉडल यानी Large Language Models (LLMs) की बढ़ती क्षमता से जुड़े संभावित खतरों पर ध्यान दिलाया। उनका कहना है कि AI से पैदा होने वाले जोखिम अब केवल सामान्य साइबर सुरक्षा खतरों तक सीमित नहीं रह गए हैं। भविष्य में अधिक सक्षम AI सिस्टम लोगों की राय को प्रभावित करने और यहां तक कि चुनावी प्रक्रियाओं पर असर डालने में भी इस्तेमाल किए जा सकते हैं।

ग्लोबल फिनटेक फेस्ट 2026 Global Fintech Fest 2026 में बोलते हुए सीतारमण ने कहा कि संस्थानों, नियामकों और तकनीकी कंपनियों को उन्नत AI सिस्टम के विकास और इस्तेमाल की जिम्मेदारी को अधिक गंभीरता से लेना होगा। उन्होंने AI सुरक्षा, जवाबदेही और मानव मूल्यों के अनुरूप AI के विकास पर जोर दिया। हालांकि, उन्होंने यह भी स्पष्ट किया कि सुरक्षा के नाम पर जरूरत से ज्यादा नियम नहीं बनाए जाने चाहिए, क्योंकि इससे तकनीकी नवाचार प्रभावित हो सकता है।

एजेंटिक AI से लोगों की राय प्रभावित होने का खतरा Agentic AI Could Influence People’s Opinions

केंद्रीय वित्त मंत्री निर्मला सीतारमण Union Finance Minister Nirmala Sitharaman ने विशेष रूप से AI सिस्टम की बढ़ती स्वायत्तता यानी खुद निर्णय लेने और कार्य करने की क्षमता पर चिंता जताई। पारंपरिक सॉफ्टवेयर आमतौर पर पहले से तय निर्देशों के अनुसार काम करता है। इसके विपरीत एजेंटिक AI कई काम खुद कर सकता है, निर्णय ले सकता है और अलग-अलग डिजिटल सिस्टम के साथ स्वतंत्र रूप से बातचीत कर सकता है।

लोगों को पता चले बिना हो सकता है प्रभाव Influence Could Happen Without People Realising It

वित्त मंत्री के अनुसार, AI की यही बढ़ती क्षमता गलत तरीके से इस्तेमाल होने पर लोगों को प्रभावित कर सकती है और कई बार व्यक्ति को यह पता भी नहीं चलेगा कि उसकी सोच या निर्णय पर AI का प्रभाव पड़ रहा है।

उन्नत AI मॉडल बड़े पैमाने पर जनता की राय को प्रभावित करने की क्षमता हासिल कर सकते हैं। इसका असर चुनावी प्रक्रियाओं पर भी पड़ सकता है। यह चिंता इसलिए महत्वपूर्ण है क्योंकि AI आधारित प्रभाव अभियान को पहचानना आसान नहीं होगा, खासकर तब जब अलग-अलग लोगों के लिए अलग तरह की सामग्री तैयार की जाए।

बड़े पैमाने पर लक्षित सामग्री का खतरा Risk of Large-Scale Targeted Content

गलत इरादे रखने वाले लोग स्वचालित AI सिस्टम का इस्तेमाल बड़ी संख्या में लक्षित सामग्री तैयार करने और उसे अलग-अलग डिजिटल मंचों पर फैलाने के लिए कर सकते हैं। ऐसी सामग्री व्यक्ति की पसंद, व्यवहार और ऑनलाइन गतिविधियों के आधार पर तैयार की जा सकती है।

इससे गलत सूचना, भ्रामक जानकारी और लोगों की राय को प्रभावित करने वाले अभियानों का खतरा बढ़ सकता है। इसलिए AI की क्षमता बढ़ने के साथ उसके इस्तेमाल की निगरानी और जवाबदेही भी महत्वपूर्ण हो जाती है।

AI नियमों में सुरक्षा और नवाचार के बीच संतुलन जरूरी AI Regulation Must Balance Safety and Innovation

सीतारमण ने AI से जुड़े खतरों की चर्चा के साथ यह भी कहा कि भारत को तकनीकी विकास और नियमन के बीच संतुलन बनाए रखना होगा। देश का वित्तीय और फिनटेक क्षेत्र तेजी से AI को अपना रहा है।

AI का इस्तेमाल धोखाधड़ी पकड़ने, ग्राहक सेवा, वित्तीय विश्लेषण, भुगतान और स्वचालित निर्णय जैसे कई क्षेत्रों में हो रहा है। मजबूत नियम उभरते जोखिमों से निपटने में मदद कर सकते हैं, लेकिन बहुत अधिक प्रतिबंध नई तकनीकों के विकास और प्रयोग की गति को धीमा कर सकते हैं।

कंपनियों की जवाबदेही भी जरूरी Corporate Accountability Is Also Essential

सीतारमण ने ऐसे नियामक दृष्टिकोण की जरूरत पर जोर दिया जो जिम्मेदार AI विकास को प्रोत्साहित करे और साथ ही कंपनियों तथा संस्थानों को उनके द्वारा इस्तेमाल किए जाने वाले AI सिस्टम के लिए जवाबदेह बनाए।

इसका अर्थ है कि AI से मिलने वाले लाभों का इस्तेमाल जारी रहे, लेकिन अगर किसी सिस्टम से नुकसान, गलत निर्णय या दुरुपयोग होता है तो उसकी जिम्मेदारी तय करने की व्यवस्था भी स्पष्ट हो।

आरबीआई ने यूनिफाइड फिनटेक फोरम को स्व-नियामक संगठन का दर्जा दिया RBI Recognises Unified Fintech Forum as a Self-Regulatory Organisation

सीतारमण ने भारत के फिनटेक नियामक ढांचे में हो रहे बदलावों पर भी बात की। उनकी यह टिप्पणी ऐसे समय आई है जब Reserve Bank of India यानी RBI ने 10 सितंबर को Unified Fintech Forum (UFF) को अपने SRO-FT ढांचे के तहत स्व-नियामक संगठन के रूप में मान्यता दी है।

फिनटेक क्षेत्र का दूसरा स्व-नियामक संगठन Second Self-Regulatory Organisation for Fintech

इस मान्यता के साथ UFF फिनटेक क्षेत्र में RBI से मान्यता प्राप्त दूसरा स्व-नियामक संगठन बन गया है। इस कदम का उद्देश्य उद्योग में बेहतर मानक विकसित करना और तेजी से बढ़ते फिनटेक क्षेत्र में जवाबदेही को मजबूत करना है।

वित्तीय तकनीक तेजी से बदल रही है। ऐसे में मजबूत संस्थागत व्यवस्था महत्वपूर्ण हो जाती है, ताकि नई तकनीकों के इस्तेमाल के साथ पैदा होने वाले जोखिमों को समय रहते समझा और नियंत्रित किया जा सके।

डिजिटल भुगतान में AI एजेंट की बढ़ती भूमिका Growing Role of AI Agents in Digital Payments

वित्तीय सेवाओं में AI के बढ़ते इस्तेमाल से प्रमाणीकरण, सुरक्षा और जवाबदेही से जुड़े नए सवाल भी सामने आ रहे हैं। भारत डिजिटल भुगतान के क्षेत्र में AI एजेंट के इस्तेमाल की संभावनाओं पर भी काम कर रहा है।

National Payments Corporation of India यानी NPCI एक ऐसे रजिस्ट्री सिस्टम पर काम कर रहा है, जिसमें AI एजेंट की पहचान दर्ज की जा सके। भविष्य में ऐसे AI एजेंट उपयोगकर्ता की ओर से निर्देश के आधार पर UPI लेनदेन कर सकते हैं।

AI एजेंट से आसान हो सकते हैं भुगतान AI Agents Could Make Payments More Convenient

अगर यह व्यवस्था प्रभावी रूप से लागू होती है तो AI एजेंट उपयोगकर्ता के निर्देश के आधार पर कुछ वित्तीय कार्य कर सकेंगे। इससे डिजिटल भुगतान और अन्य वित्तीय सेवाएं अधिक सुविधाजनक हो सकती हैं।

लेकिन इसके साथ कई महत्वपूर्ण सवाल भी सामने आते हैं। उदाहरण के लिए, किसी AI एजेंट की पहचान कैसे होगी, उसे प्रमाणित कैसे किया जाएगा और उसके काम की निगरानी कौन करेगा।

गलत या अनधिकृत लेनदेन की जिम्मेदारी किसकी होगी Who Will Be Responsible for Wrong or Unauthorised Transactions

अगर कोई स्वायत्त AI सिस्टम गलत भुगतान करता है या उपयोगकर्ता की अनुमति के बिना कोई लेनदेन करता है तो उसकी जिम्मेदारी तय करना जरूरी होगा। यही कारण है कि AI एजेंट के इस्तेमाल से पहले पहचान, प्रमाणीकरण, निगरानी और जवाबदेही के स्पष्ट नियम आवश्यक होंगे।

AI से अवसर भी, जोखिम भी AI Brings Opportunities Alongside Risks

वित्त मंत्री की टिप्पणियां AI को लेकर चल रही वैश्विक बहस का हिस्सा हैं। AI उत्पादकता बढ़ाने, धोखाधड़ी का पता लगाने, नियमित काम को स्वचालित करने और वित्तीय सेवाओं की पहुंच बढ़ाने में मदद कर सकता है।

फिनटेक क्षेत्र में स्वायत्त AI सिस्टम ग्राहकों को भुगतान और अन्य वित्तीय गतिविधियों को अधिक प्रभावी तरीके से संभालने में सहायता कर सकते हैं। लेकिन यही तकनीक साइबर अपराधियों और अन्य गलत इरादे वाले लोगों के हाथों में पहुंचने पर नुकसान का कारण भी बन सकती है।

संभावित जोखिमों में साइबर हमले, गलत सूचना, जनता की राय में हेरफेर और अनधिकृत वित्तीय गतिविधियां शामिल हो सकती हैं। इसलिए AI सिस्टम के अधिक सक्षम और स्वायत्त होने के साथ AI शासन और निगरानी की आवश्यकता भी बढ़ रही है।

वित्तीय क्षेत्र में मजबूत AI सुरक्षा उपायों की मांग Financial Sector Leaders Call for Stronger AI Safeguards

Global Fintech Fest में वित्तीय क्षेत्र के अन्य प्रमुख लोगों ने भी AI के बढ़ते इस्तेमाल के साथ सुरक्षा उपायों की जरूरत पर जोर दिया। RBI गवर्नर संजय मल्होत्रा ने फिनटेक कंपनियों की ओर से ग्राहक डेटा की सुरक्षा की जिम्मेदारी पर जोर दिया है।

SBI के चेयरमैन सीएस सेट्टी ने भी वित्तीय लेनदेन में AI की बढ़ती भूमिका को देखते हुए “know your agent” यानी AI एजेंट की पहचान और जानकारी रखने की व्यवस्था की जरूरत बताई है।

इससे संकेत मिलता है कि भविष्य में वित्तीय नियमन केवल ग्राहकों और संस्थानों तक सीमित नहीं रहेगा। स्वायत्त डिजिटल एजेंटों की भूमिका बढ़ने पर उनके इस्तेमाल के लिए भी स्पष्ट नियम बनाए जा सकते हैं।

भारत की AI महत्वाकांक्षा के साथ जिम्मेदार विकास जरूरी Responsible AI Development Is Essential for India’s AI Ambitions

निर्मला सीतारमण की टिप्पणियां भारत के सामने मौजूद एक महत्वपूर्ण चुनौती को रेखांकित करती हैं। देश को AI और तकनीकी नवाचार की तेज गति को बनाए रखना है, लेकिन साथ ही यह भी सुनिश्चित करना है कि शक्तिशाली AI सिस्टम का विकास और इस्तेमाल जिम्मेदारी के साथ हो।

फिनटेक क्षेत्र में AI का इस्तेमाल तेजी से बढ़ रहा है। ऐसे में नियामकों को ऐसे सुरक्षा उपाय तैयार करने होंगे जो लोगों, संस्थानों और वित्तीय व्यवस्था को संभावित नुकसान से बचा सकें, लेकिन अनावश्यक नियमों के कारण नवाचार की गति भी प्रभावित न हो।

वित्त मंत्री ने भारत के युवा कार्यबल को लेकर भी उम्मीद जताई और तकनीक, उद्यमिता तथा आर्थिक विकास में उसके बढ़ते योगदान को रेखांकित किया।

आने वाले समय में एजेंटिक AI के बारे में चर्चा केवल इस सवाल तक सीमित नहीं रहेगी कि AI क्या कर सकता है। इससे बड़ा सवाल यह होगा कि ऐसे सिस्टम को कैसे नियंत्रित किया जाए, उनकी निगरानी कैसे की जाए और किसी गलती या दुरुपयोग की स्थिति में जिम्मेदारी किसकी होगी। भारत के लिए AI को नवाचार का माध्यम बनाए रखते हुए उसके संभावित दुरुपयोग को रोकना आने वाले वर्षों की महत्वपूर्ण प्राथमिकता हो सकती है।