भारत में मेटा पर बढ़ती सरकार की सख्ती, डीपफेक और एआई सामग्री को लेकर जवाबदेही तय करने की तैयारी।

भारत सरकार ने सोशल मीडिया प्लेटफॉर्म Meta पर मौजूद हानिकारक कंटेंट और ऑनलाइन सुरक्षा से जुड़े मुद्दों को लेकर कंपनी के साथ बातचीत तेज कर दी है। दो दिनों तक चली विस्तृत पूछताछ के बाद शुक्रवार को अधिकारियों ने Meta के प्रतिनिधियों के साथ तकनीकी स्तर पर चर्चा की।

इस बैठक में डीपफेक, बच्चों से जुड़ी यौन शोषण सामग्री यानी Child Sexual Abuse Material (CSAM), बॉट अकाउंट और ऐसे AI से बनाए गए कंटेंट पर चर्चा हुई, जिन पर यह स्पष्ट नहीं होता कि उन्हें आर्टिफिशियल इंटेलिजेंस की मदद से तैयार किया गया है।

PTI की रिपोर्ट के अनुसार, Meta ने अधिकारियों को बताया कि उसके कंटेंट मॉडरेशन और डिटेक्शन सिस्टम किस तरह काम करते हैं। कंपनी ने सरकार की ओर से उठाई गई चिंताओं को दूर करने के लिए प्रस्तावित कुछ नए कदमों और सुधारों के बारे में भी जानकारी दी।

सरकारी अधिकारियों ने Meta से सुधारात्मक कदम लागू करने और उनके परिणामों का आकलन करने को कहा है। आने वाले दिनों में इस मामले पर और बैठकें हो सकती हैं। सरकार यह देखना चाहती है कि कंपनी भारतीय कानूनों और ऑनलाइन सुरक्षा से जुड़े नियमों का पालन किस तरह कर रही है और उठाए गए कदम वास्तव में कितने प्रभावी हैं।

सरकार ने मजबूत कंटेंट मॉडरेशन की मांग की (Government Seeks Stronger Content Moderation)

बैठक में सबसे महत्वपूर्ण मुद्दों में से एक हानिकारक AI-जनरेटेड कंटेंट का लगातार उपलब्ध रहना और तेजी से फैलना था। अधिकारियों ने सवाल उठाया कि किसी कंटेंट को रिपोर्ट या फ्लैग किए जाने के बाद भी वह कई बार प्लेटफॉर्म पर उपलब्ध क्यों रहता है।

सरकार ने Meta से सिंथेटिक वीडियो और अन्य AI से बनाए गए कंटेंट के बारे में भी जानकारी मांगी। ऐसे कंटेंट के सही तरीके से पहचाने या लेबल किए बिना उपलब्ध रहने को लेकर अधिकारियों ने चिंता जताई।

भारत के सूचना प्रौद्योगिकी से जुड़े नियमों के तहत सोशल मीडिया प्लेटफॉर्म से कुछ प्रकार के सिंथेटिक और AI-जनरेटेड कंटेंट की पहचान और उचित प्रबंधन की अपेक्षा की जाती है। सरकार का मानना है कि ऐसे कंटेंट की पहचान करने और उसे नियंत्रित करने के लिए मॉडरेशन सिस्टम को और मजबूत बनाने की जरूरत है।

अधिकारियों ने इस बात पर जोर दिया कि हानिकारक कंटेंट को बड़े स्तर पर फैलने से पहले पहचानने और उस पर कार्रवाई करने की क्षमता प्लेटफॉर्म के सिस्टम में बेहतर होनी चाहिए।

मानवीय निगरानी और भारतीय भाषाओं के समर्थन पर जोर (Greater Human Oversight and Indian Language Support)

सरकारी अधिकारियों ने Meta की कंटेंट मॉडरेशन प्रक्रिया में मानवीय निगरानी बढ़ाने की जरूरत पर भी जोर दिया। सरकार का मानना है कि केवल ऑटोमेटेड सिस्टम भारत जैसे विविध डिजिटल वातावरण की सभी जटिलताओं को सही तरीके से समझने में सक्षम नहीं हो सकते।

भारत में कई भाषाएं, बोलियां, सांस्कृतिक संदर्भ और स्थानीय अभिव्यक्तियां इस्तेमाल होती हैं। इसलिए अधिकारियों ने Meta की भारतीय भाषाओं और स्थानीय संदर्भों को समझने की क्षमता पर विशेष ध्यान दिया।

बेहतर भाषा और संदर्भ समझने वाली मॉडरेशन व्यवस्था से हानिकारक, भ्रामक या गलत जानकारी वाले कंटेंट की पहचान अधिक प्रभावी ढंग से की जा सकती है।

सरकार ने यह भी स्पष्ट किया कि इन चर्चाओं का उद्देश्य सोशल मीडिया पर व्यापक या बिना वजह सेंसरशिप लागू करना नहीं है। मुख्य उद्देश्य भारतीय कानूनों का पालन सुनिश्चित करना और यूजर्स की ऑनलाइन सुरक्षा को बेहतर बनाना है।

प्लेटफॉर्म की सुरक्षा व्यवस्था को लेकर Meta पर बढ़ी निगरानी (Meta Under Scrutiny Over Platform Safeguards)

तकनीकी चर्चा से पहले IT मंत्री अश्विनी वैष्णव IT Minister Ashwini Vaishnaw, IT सचिव एस. कृष्णन और Meta की ग्लोबल टीम के बीच भी बैठकें हुई थीं। Meta की ओर से ग्लोबल अफेयर्स प्रमुख Joel Kaplan सहित वरिष्ठ अधिकारियों ने चर्चा में भाग लिया।

इन बैठकों के दौरान सरकार ने Meta के रिकमेंडेशन एल्गोरिदम, हाई-प्रोफाइल और वेरिफाइड अकाउंट्स की सुरक्षा व्यवस्था, संभावित एल्गोरिदमिक पक्षपात और भारतीय नियमों के अनुपालन से जुड़े मुद्दों पर सवाल उठाए।

सरकार विशेष रूप से यह समझना चाहती है कि Meta की मौजूदा सुरक्षा व्यवस्था हानिकारक कंटेंट को रिकमेंडेशन सिस्टम के जरिए बड़े स्तर पर फैलने से रोकने में कितनी प्रभावी है।

आज सोशल मीडिया प्लेटफॉर्म पर किसी पोस्ट की पहुंच केवल उसे अपलोड करने वाले व्यक्ति पर निर्भर नहीं करती। प्लेटफॉर्म के एल्गोरिदम भी यह तय करते हैं कि कौन सा कंटेंट अधिक लोगों तक पहुंचे। इसलिए सरकार इन रिकमेंडेशन सिस्टम की भूमिका पर भी ध्यान दे रही है।

PM मोदी की पोस्ट से जुड़े Meta के AI मॉडरेशन विवाद ने उठाए सवाल (Meta's AI Moderation Error Involving PM Modi's Post)

Meta की ऑटोमेटेड मॉडरेशन प्रणाली उस समय भी सवालों के घेरे में आई जब प्रधानमंत्री नरेंद्र मोदी की एक Facebook पोस्ट को अस्थायी रूप से प्रतिबंधित कर दिया गया था।

बाद में Meta ने इस घटना के लिए माफी मांगी और इसे अपने AI आधारित ऑटोमेटेड मॉडरेशन सिस्टम की गलती बताया। यह पोस्ट पहले Instagram पर साझा की गई थी और बाद में Facebook पर दिखाई दी थी। बाद में कंपनी ने पोस्ट को बहाल कर दिया।

इस घटना के बाद ऑटोमेटेड मॉडरेशन सिस्टम की विश्वसनीयता को लेकर सवाल उठे। खासतौर पर यह चर्चा हुई कि क्या AI सिस्टम वैध राजनीतिक या सार्वजनिक हित वाली सामग्री और प्लेटफॉर्म के नियमों का उल्लंघन करने वाली सामग्री के बीच सही अंतर कर पा रहे हैं।

यह मामला दिखाता है कि AI आधारित मॉडरेशन को विकसित करने के साथ-साथ मानवीय निगरानी और बेहतर संदर्भ समझना भी जरूरी हो सकता है।

पेड कंटेंट और प्रमोशन को लेकर भी सरकार के सवाल (Government Raises Questions Over Paid Content)

सरकारी अधिकारियों ने Meta से यह भी सवाल किया कि क्या कंपनी ऐसे कंटेंट को प्रमोट करने के लिए भुगतान स्वीकार करती है, जो संभावित रूप से सार्वजनिक व्यवस्था को प्रभावित कर सकता है।

इस चर्चा के दौरान सरकार ने Information Technology Act की Section 79 का भी उल्लेख किया। अधिकारियों ने ऑनलाइन प्लेटफॉर्म की इंटरमीडियरी जिम्मेदारियों पर ध्यान दिलाया।

सरकार ने संकेत दिया कि यदि कोई प्लेटफॉर्म लागू कानूनी दायित्वों को पूरा करने में विफल रहता है, तो भारत के safe-harbour framework के तहत उसे मिलने वाली कानूनी सुरक्षा प्रभावित हो सकती है।

यह चर्चा भारत में काम करने वाली बड़ी सोशल मीडिया कंपनियों की कानूनी और सामाजिक जिम्मेदारियों पर सरकार के बढ़ते ध्यान को दर्शाती है।

CSAM को लेकर Meta के सामने बाल सुरक्षा की चुनौती (Meta Faces CSAM-Related Concerns)

बच्चों की ऑनलाइन सुरक्षा भी सरकार और Meta के बीच बातचीत का एक प्रमुख मुद्दा रही। सरकार ने इससे पहले Meta को Instagram पर पेड विज्ञापनों में कथित रूप से Child Sexual Abuse Material (CSAM) दिखाई देने से जुड़े आरोपों को लेकर नोटिस दिया था।

हाल की बातचीत में भी सरकार ने ऐसे कंटेंट को प्लेटफॉर्म पर आने से रोकने और उसकी पहचान करने के लिए मजबूत सुरक्षा व्यवस्था की जरूरत पर जोर दिया।

बच्चों से जुड़ी यौन शोषण सामग्री बेहद गंभीर और संवेदनशील अपराध से संबंधित होती है। इसलिए सोशल मीडिया प्लेटफॉर्म से ऐसी सामग्री की पहचान, रोकथाम और तत्काल कार्रवाई के लिए प्रभावी सिस्टम बनाए रखने की अपेक्षा की जाती है।

रिपोर्ट के अनुसार, Meta ने इन चिंताओं की गंभीरता को स्वीकार किया है और अधिकारियों को सुधारात्मक कदम उठाने का आश्वासन दिया है।

अगले सप्ताह फिर हो सकती है Meta के साथ बैठक (More Meetings Expected Next Week)

सरकार Meta की प्रतिक्रिया और उठाए जा रहे कदमों की निगरानी जारी रखेगी। अगले सप्ताह इस विषय पर एक और बैठक होने की संभावना है।

अधिकारी चाहते हैं कि Meta कंटेंट मॉडरेशन, AI-जनरेटेड कंटेंट की पहचान, बच्चों की सुरक्षा और भारतीय सूचना प्रौद्योगिकी नियमों के अनुपालन में स्पष्ट और मापने योग्य सुधार दिखाए।

इन चर्चाओं से यह भी संकेत मिलता है कि भारत में बड़ी सोशल मीडिया कंपनियों की नियामकीय निगरानी अब अधिक तकनीकी और केंद्रित होती जा रही है।

विशेष रूप से सरकार यह देख रही है कि आर्टिफिशियल इंटेलिजेंस, ऑटोमेटेड मॉडरेशन और रिकमेंडेशन एल्गोरिदम ऑनलाइन सुरक्षा को किस तरह प्रभावित करते हैं।

निष्कर्ष (Conclusion)

भारत सरकार और Meta के बीच चल रही बातचीत का मुख्य उद्देश्य ऑनलाइन सुरक्षा को मजबूत करना और भारतीय कानूनों का पालन सुनिश्चित करना है। डीपफेक, बिना लेबल वाले AI कंटेंट, CSAM, बॉट अकाउंट और ऑटोमेटेड मॉडरेशन से जुड़े मुद्दों पर सरकार Meta से अधिक प्रभावी कदम उठाने की अपेक्षा कर रही है।

आने वाले समय में Meta के लिए यह महत्वपूर्ण होगा कि वह AI-जनरेटेड कंटेंट की सही पहचान करे, हानिकारक सामग्री को तेजी से हटाए, बच्चों की ऑनलाइन सुरक्षा को मजबूत बनाए और भारतीय भाषाओं तथा स्थानीय संदर्भों को समझने वाली मॉडरेशन क्षमता विकसित करे।

सरकार की ओर से लगातार निगरानी और आगे होने वाली तकनीकी बैठकों से यह स्पष्ट है कि भारत सोशल मीडिया प्लेटफॉर्म की जिम्मेदारी और डिजिटल सुरक्षा को लेकर अधिक सक्रिय रुख अपना रहा है। वहीं, Meta के लिए चुनौती यह होगी कि वह यूजर्स की अभिव्यक्ति की स्वतंत्रता और प्रभावी कंटेंट मॉडरेशन के बीच संतुलन बनाए रखते हुए भारतीय नियमों का पालन करे।