OpenAI ने एक नया वैकल्पिक सुरक्षा फीचर Lockdown Mode पेश किया है, जिसका उद्देश्य prompt injection हमलों और संभावित डेटा एक्सफिल्ट्रेशन जोखिमों को कम करना है। यह फीचर उन उपयोगकर्ताओं और संगठनों के लिए बनाया गया है, जो संवेदनशील जानकारी के साथ काम करते हैं, और इसे कई ChatGPT प्लान्स में रोलआउट किया जा रहा है।
OpenAI ने आधिकारिक रूप से Lockdown Mode लॉन्च किया है, जो ChatGPT उपयोगकर्ताओं के लिए एक उन्नत सुरक्षा सेटिंग है। इसका मुख्य उद्देश्य prompt injection हमलों से उत्पन्न कमजोरियों को कम करना है। ये हमले तब होते हैं जब किसी इनपुट या प्रॉम्प्ट में दुर्भावनापूर्ण निर्देश जोड़ दिए जाते हैं, जिससे AI सिस्टम को संवेदनशील जानकारी उजागर करने के लिए धोखा दिया जा सकता है।
यह फीचर अभी Free, Go, Plus और Pro प्लान्स के पात्र व्यक्तिगत उपयोगकर्ताओं के साथ-साथ self-serve ChatGPT Business अकाउंट्स के लिए उपलब्ध कराया जा रहा है।
इस अपडेट के साथ OpenAI का लक्ष्य उन उपयोगकर्ताओं को मजबूत सुरक्षा देना है जो AI टूल्स का उपयोग संवेदनशील कार्यों, बिजनेस ऑपरेशन्स और गोपनीय डेटा हैंडलिंग के लिए करते हैं।
Lockdown Mode का मुख्य उद्देश्य डेटा एक्सफिल्ट्रेशन (data exfiltration) के जोखिम को कम करना है, जिसका मतलब है कि AI सिस्टम से बिना अनुमति संवेदनशील जानकारी निकालने का प्रयास।
Prompt injection हमले AI सुरक्षा में एक बढ़ती हुई चिंता बन चुके हैं, खासकर तब जब बड़े भाषा मॉडल्स (LLMs) वेब ब्राउज़िंग, फाइल प्रोसेसिंग और बाहरी टूल्स के साथ जुड़े होते हैं।
Lockdown Mode इन जोखिमों को कम करने के लिए ChatGPT की बाहरी सिस्टम्स तक पहुंच को सीमित करता है।
जब यह मोड सक्रिय किया जाता है, तो इसमें कई प्रतिबंध लागू होते हैं:
लाइव वेब से जानकारी लाने के बजाय सिस्टम कैश्ड कंटेंट का उपयोग कर सकता है, जिससे सुरक्षा बढ़ती है लेकिन रियल-टाइम जानकारी प्रभावित हो सकती है।
Lockdown Mode कई उन्नत सुविधाओं को या तो निष्क्रिय कर देता है या सीमित कर देता है, जैसे:
हालांकि उपयोगकर्ता मैन्युअल रूप से फाइल अपलोड कर सकते हैं, और उन्हें प्रोसेस कर सकते हैं।
इसके अलावा इमेज सपोर्ट सीमित हो सकता है, लेकिन AI इमेज जेनरेशन सुविधाएं उपलब्ध रहती हैं।
Lockdown Mode के बावजूद कुछ सुविधाएं सामान्य रूप से काम करती रहती हैं:
इसका उद्देश्य सुरक्षा बढ़ाना है, बिना पूरे यूज़र अनुभव को बाधित किए।
ChatGPT Business और self-serve अकाउंट्स में Lockdown Mode synced-data connectors को अनुमति देता है, लेकिन live connector access और write actions को ब्लॉक करता है।
इसके तहत कुछ फीचर्स भी बंद हो जाते हैं, जैसे:
Managed workspaces में Lockdown Mode को role-based access control के माध्यम से लागू किया जा सकता है। एडमिनिस्ट्रेटर इसे अलग-अलग यूज़र्स या ग्रुप्स को असाइन कर सकते हैं।
OpenAI सलाह देता है, कि संगठन हर ऐप और एक्सेस लेवल के जोखिम का सावधानीपूर्वक मूल्यांकन करें, खासकर:
OpenAI ने स्पष्ट किया है, कि Lockdown Mode पूरी तरह prompt injection जोखिम को खत्म नहीं करता, बल्कि केवल उसे कम करता है।
कुछ सीमाएँ शामिल हैं:
उपयोगकर्ता इसे ChatGPT की Settings में Security सेक्शन से चालू कर सकते हैं।
मुख्य बातें:
Lockdown Mode OpenAI की व्यापक AI सुरक्षा रणनीति का हिस्सा है। जैसे-जैसे AI सिस्टम बिजनेस वर्कफ्लो में शामिल हो रहे हैं, डेटा लीक और साइबर सुरक्षा जोखिम भी बढ़ रहे हैं।
यह फीचर कई सुरक्षा लेयर्स के साथ काम करता है, जैसे:
निष्कर्ष:
OpenAI का Lockdown Mode AI सुरक्षा में एक महत्वपूर्ण कदम है, जो ChatGPT उपयोगकर्ताओं को prompt injection हमलों और डेटा एक्सफिल्ट्रेशन जोखिमों से बेहतर सुरक्षा प्रदान करता है।
हालांकि यह सभी जोखिमों को पूरी तरह समाप्त नहीं करता, लेकिन यह संवेदनशील उपयोग मामलों के लिए एक मजबूत सुरक्षा परत जोड़ता है।