सोशल मीडिया कंपनी Meta ने प्रधानमंत्री नरेंद्र मोदी के एक Facebook वीडियो को कुछ समय के लिए प्रतिबंधित (Temporarily Restricted) किए जाने पर सार्वजनिक रूप से माफी मांगी है। कंपनी ने कहा कि यह घटना उसकी AI आधारित स्वचालित कंटेंट मॉडरेशन (Automated Content Moderation) प्रणाली में हुई तकनीकी गलती के कारण हुई थी और यह कोई जानबूझकर लिया गया फैसला नहीं था।
इस घटना के बाद Meta के वरिष्ठ अधिकारियों और भारत सरकार के उच्च अधिकारियों के बीच महत्वपूर्ण बैठक हुई। इस दौरान केवल वीडियो प्रतिबंध का मुद्दा ही नहीं, बल्कि आर्टिफिशियल इंटेलिजेंस (AI), चाइल्ड सेफ्टी, डीपफेक (Deepfake), कंटेंट मॉडरेशन और भारत के डिजिटल कानूनों के पालन जैसे कई महत्वपूर्ण विषयों पर भी चर्चा की गई।
इस पूरे घटनाक्रम ने एक बार फिर यह सवाल खड़ा कर दिया है कि वैश्विक सोशल मीडिया कंपनियां अपने AI आधारित कंटेंट मॉडरेशन सिस्टम को कितना पारदर्शी और जवाबदेह बना पा रही हैं।
पूरा विवाद 23 जुलाई को प्रधानमंत्री नरेंद्र मोदी द्वारा साझा किए गए एक Facebook वीडियो से जुड़ा है। इस वीडियो में उन्होंने छात्रों को संबोधित करते हुए परीक्षा प्रश्नपत्र लीक (Exam Paper Leak) के मामलों में दोषियों के खिलाफ कड़ी कार्रवाई का भरोसा दिया था।
कुछ समय बाद Meta के प्लेटफॉर्म Facebook पर इस वीडियो को अस्थायी रूप से प्रतिबंधित कर दिया गया, जिससे यह मामला तेजी से चर्चा का विषय बन गया।
Meta के चीफ ग्लोबल अफेयर्स ऑफिसर (Chief Global Affairs Officer) जोएल कैपलान (Joel Kaplan) ने सार्वजनिक रूप से इस घटना के लिए माफी मांगी।
उन्होंने कहा कि वीडियो हटाने या प्रतिबंधित करने का फैसला जानबूझकर नहीं लिया गया था, बल्कि यह कंपनी की स्वचालित AI आधारित कंटेंट मॉडरेशन प्रणाली में हुई एक परिचालन (Operational) त्रुटि का परिणाम था।
Meta के अनुसार, जैसे ही कंपनी को इस गलती की जानकारी मिली, वीडियो को तुरंत बहाल (Restore) कर दिया गया और यह स्वीकार किया गया कि इस प्रकार की कार्रवाई नहीं होनी चाहिए थी।
Meta ने कहा कि यह घटना किसी प्रकार की संपादकीय (Editorial) या राजनीतिक कार्रवाई नहीं थी।
कंपनी ने भरोसा दिलाया कि यह केवल एक तकनीकी गलती थी और भविष्य में ऐसी घटनाओं को रोकने के लिए आवश्यक सुधार किए जाएंगे।
इस घटना के बाद इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने Meta के वरिष्ठ अधिकारियों को नई दिल्ली में चर्चा के लिए बुलाया।
Meta के प्रतिनिधिमंडल का नेतृत्व जोएल कैपलान ने किया। उन्होंने केंद्रीय सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव और आईटी सचिव एस. कृष्णन से मुलाकात कर पूरे मामले की जानकारी दी।
सरकारी सूत्रों के अनुसार, Meta ने यह स्पष्ट किया कि कंपनी की ओर से दी गई माफी उसके शीर्ष नेतृत्व, जिसमें CEO मार्क जुकरबर्ग (Mark Zuckerberg) भी शामिल हैं, की ओर से व्यक्त की गई है।
इससे यह संकेत मिला कि Meta इस पूरे मामले को बेहद गंभीरता से देख रहा है।
बैठक केवल प्रधानमंत्री मोदी के वीडियो तक सीमित नहीं रही।
सरकार ने Meta की कंटेंट मॉडरेशन प्रणाली, AI आधारित निर्णय प्रक्रिया और भारत में प्लेटफॉर्म के संचालन से जुड़े कई अन्य महत्वपूर्ण विषयों पर भी सवाल उठाए।
बैठक के दौरान भारतीय अधिकारियों ने पूछा कि Meta की AI आधारित कंटेंट मॉडरेशन प्रणाली देश के सर्वोच्च सार्वजनिक पदों में से एक के आधिकारिक अकाउंट से साझा किए गए वीडियो को गलत तरीके से कैसे प्रतिबंधित कर सकती है।
सरकार ने यह भी जानना चाहा कि AI सिस्टम में ऐसी गलतियों को रोकने के लिए कौन-कौन से सुरक्षा उपाय (Safeguards) मौजूद हैं।
सरकार ने Meta से यह भी पूछा कि जब AI किसी महत्वपूर्ण सार्वजनिक अकाउंट से जुड़े कंटेंट पर कार्रवाई करता है, तो क्या उसके बाद किसी मानव विशेषज्ञ द्वारा उसकी समीक्षा की जाती है या नहीं।
इस घटना ने AI आधारित कंटेंट मॉडरेशन की सीमाओं को लेकर नई बहस छेड़ दी है, खासकर तब जब ऐसे निर्णय सार्वजनिक महत्व और राजनीतिक संचार को प्रभावित करते हैं।
भारतीय अधिकारियों ने Meta से आग्रह किया कि वह यह स्पष्ट करे कि उसके AI सिस्टम किस आधार पर ऑनलाइन कंटेंट की पहचान, वर्गीकरण और प्रतिबंध जैसी कार्रवाई करते हैं।
सरकार का कहना है कि ऐसे सिस्टम अधिक पारदर्शी और जवाबदेह होने चाहिए ताकि भविष्य में इस तरह की गलतियों से बचा जा सके.
प्रधानमंत्री नरेंद्र मोदी के Facebook वीडियो से जुड़े विवाद के अलावा भारत सरकार ने Meta के सामने डिजिटल सुरक्षा और प्लेटफॉर्म संचालन से जुड़े कई अन्य महत्वपूर्ण मुद्दे भी उठाए।
अधिकारियों ने कंपनी से निम्नलिखित विषयों पर स्पष्टीकरण मांगा।
चाइल्ड सेक्सुअल एब्यूज मैटेरियल (Child Sexual Abuse Material - CSAM)।
डीपफेक (Deepfake) कंटेंट।
सत्यापित (Verified) और हाई-प्रोफाइल अकाउंट्स की सुरक्षा।
एल्गोरिदमिक पक्षपात (Algorithmic Bias)।
भारत के डिजिटल कानूनों का पालन (Compliance with Indian Laws)।
रिपोर्ट्स के अनुसार, Meta ने माना कि चाइल्ड सेक्सुअल एब्यूज मैटेरियल और डीपफेक कंटेंट की पहचान और रोकथाम अभी भी चुनौतीपूर्ण बनी हुई है।
कंपनी के प्रतिनिधियों ने यह भी स्वीकार किया कि प्लेटफॉर्म पर कुछ विशेष प्रकार के कंटेंट को बढ़ावा देने के लिए कंपनी ने बड़े स्तर पर निवेश किया है।
इन चर्चाओं से यह स्पष्ट हुआ कि भारत सरकार बड़ी टेक कंपनियों की जवाबदेही और डिजिटल सुरक्षा को और मजबूत करना चाहती है।
बैठक के दौरान सबसे महत्वपूर्ण मुद्दों में से एक था Meta का सेफ हार्बर (Safe Harbour) संरक्षण।
भारतीय अधिकारियों का कहना था कि Meta केवल यूज़र्स द्वारा पोस्ट किए गए कंटेंट को होस्ट (Host) नहीं करता, बल्कि अपने एल्गोरिदम (Algorithms) के माध्यम से यह तय भी करता है कि कौन-सा कंटेंट किस यूज़र तक पहुंचेगा।
इस प्रकार कंपनी केवल एक निष्पक्ष मध्यस्थ (Neutral Intermediary) की भूमिका नहीं निभाती, बल्कि कंटेंट के प्रसार (Content Distribution) में सक्रिय भूमिका निभाती है।
इसी आधार पर अधिकारियों ने सवाल उठाया कि क्या Meta को अब भी वही कानूनी संरक्षण मिलना चाहिए, जो केवल निष्पक्ष मध्यस्थों (Intermediaries) को दिया जाता है।
विशेषज्ञों का मानना है कि यह बहस भविष्य में भारत में डिजिटल प्लेटफॉर्म्स के नियमन (Regulation) को प्रभावित कर सकती है।
पूरा विवाद 23 जुलाई को प्रधानमंत्री नरेंद्र मोदी द्वारा साझा किए गए उस वीडियो से शुरू हुआ, जिसमें उन्होंने छात्रों को आश्वस्त किया था कि परीक्षा प्रश्नपत्र लीक करने वालों के खिलाफ सख्त कार्रवाई की जाएगी।
यह वीडियो पहले Instagram पर अपलोड किया गया था और बाद में Facebook पर साझा किया गया।
Facebook पर वीडियो अपलोड होने के बाद Meta की AI आधारित स्वचालित कंटेंट मॉडरेशन प्रणाली ने इसे अस्थायी रूप से प्रतिबंधित कर दिया।
यह घटना सामने आते ही राजनीतिक और प्रशासनिक स्तर पर गंभीर चर्चा शुरू हो गई।
रिपोर्ट्स के अनुसार, विवाद सार्वजनिक होने के बाद संसद की स्थायी समिति (Parliamentary Standing Committee) ने भी Meta के CEO मार्क जुकरबर्ग से तीन दिनों के भीतर माफी मांगने को कहा।
इससे यह स्पष्ट हुआ कि मामला केवल तकनीकी त्रुटि तक सीमित नहीं रहा, बल्कि नीति और जवाबदेही का विषय भी बन गया।
आईटी सचिव एस. कृष्णन ने कहा कि सरकार यह समझना चाहती है कि Meta की कंटेंट मॉडरेशन प्रणाली में यह गलती क्यों हुई और भविष्य में ऐसी घटनाओं को रोकने के लिए कंपनी कौन-कौन से सुधार लागू करेगी।
सरकार का उद्देश्य केवल इस मामले की जांच करना नहीं, बल्कि प्लेटफॉर्म की कार्यप्रणाली को और अधिक पारदर्शी एवं विश्वसनीय बनाना भी है।
केंद्र सरकार ने Meta को यह भी बताया कि आने वाले समय में कंपनी के साथ और भी बैठकें आयोजित की जा सकती हैं।
इन बैठकों में निम्नलिखित विषयों की समीक्षा की जाएगी।
प्लेटफॉर्म सुरक्षा (Platform Safety)।
कंटेंट मॉडरेशन की सटीकता।
AI सिस्टम में सुधार।
भारत के डिजिटल कानूनों का पालन।
यूज़र्स की सुरक्षा और पारदर्शिता।
प्रधानमंत्री नरेंद्र मोदी के Facebook वीडियो पर अस्थायी रोक के बाद Meta द्वारा मांगी गई माफी अब केवल एक तकनीकी गलती का मामला नहीं रह गई है। इस घटना ने AI आधारित कंटेंट मॉडरेशन, प्लेटफॉर्म की जवाबदेही, डिजिटल सुरक्षा और भारत में सोशल मीडिया कंपनियों के नियमन को लेकर व्यापक चर्चा शुरू कर दी है।
हालांकि Meta ने इस घटना को AI सिस्टम की अनजानी त्रुटि बताया है, लेकिन भारत सरकार ने इसे एक अवसर के रूप में इस्तेमाल करते हुए डीपफेक, चाइल्ड सेफ्टी, एल्गोरिदमिक पारदर्शिता और Safe Harbour जैसे कई महत्वपूर्ण मुद्दों पर कंपनी से जवाब मांगा है।
जैसे-जैसे भारत में डिजिटल प्लेटफॉर्म्स पर नियामकीय निगरानी बढ़ रही है, वैसे-वैसे Meta सहित अन्य वैश्विक टेक कंपनियों से यह अपेक्षा भी बढ़ रही है कि वे अपने AI आधारित मॉडरेशन सिस्टम को अधिक सटीक, पारदर्शी और जवाबदेह बनाएं तथा भारतीय कानूनों का पूरी तरह पालन करें।