OpenAI रिसर्चर ने ChatGPT ऐड्स की वजह से नौकरी छोड़ी

ऐसे समय में जब आर्टिफिशियल इंटेलिजेंस कंपनियां नए प्रोडक्ट्स को सस्टेनेबल बिज़नेस में बदलने की होड़ में हैं, OpenAI के एक पुराने रिसर्चर ने कंपनी से किनारा करते हुए एक साफ चेतावनी दी है। Zoe Hitzig, जिन्होंने हाल ही में OpenAI छोड़ा है, और ChatGPT में एडवरटाइजिंग लाने के खिलाफ चेतावनी दी है, उनका तर्क है, कि चैटबॉट अब लोगों की ज़िंदगी का बहुत गहरा और पर्सनल रिकॉर्ड रखता है।

OpenAI के रिसर्चर ने नौकरी छोड़ी, कहा ChatGPT ने यूज़र्स की एक करीबी प्रोफ़ाइल बनाई है:

उनकी चिंता बैनर ऐड्स या स्पॉन्सर्ड रिस्पॉन्स को लेकर नहीं है। इसके बजाय यह उस जानकारी के नेचर पर केंद्रित है, जो यूज़र्स ने पिछले कुछ सालों में ChatGPT के साथ शेयर की है। पब्लिक इस्तेमाल के लिए बनाए गए सोशल मीडिया पोस्ट के उलट, AI के साथ बातचीत अक्सर प्राइवेट, सीधी और बिना फिल्टर वाली लगती है। कई यूज़र्स ने चैटबॉट को एक न्यूट्रल कॉन्फिडेंट की तरह माना है, और हेल्थ की चिंताओं, रिश्तों की मुश्किलों, विश्वास, पहचान और गहरी पर्सनल उलझनों के बारे में पूछा है।

Zoe Hitzig ने कहा “कई सालों से ChatGPT यूज़र्स ने इंसानी साफ़गोई का एक ऐसा आर्काइव बनाया है, जिसकी कोई मिसाल नहीं है, कुछ हद तक इसलिए क्योंकि लोगों को लगता था, कि वे किसी ऐसी चीज़ से बात कर रहे हैं, जिसका कोई छिपा हुआ एजेंडा नहीं है।” “लोग चैटबॉट्स को अपने मेडिकल डर, अपने रिश्तों की समस्याओं, भगवान और मरने के बाद की ज़िंदगी के बारे में अपनी मान्यताओं के बारे में बताते हैं। उस आर्काइव पर बने एडवरटाइज़िंग से यूज़र्स को इस तरह से मैनिपुलेट करने का मौका मिलता है, जिसे समझने के लिए हमारे पास टूल्स नहीं हैं, रोकने की तो बात ही छोड़ दें।”

OpenAI ने पहले ही इशारा दिया है, कि वह ChatGPT के अंदर एडवरटाइज़िंग टेस्ट करने का प्लान बना रहा है। कंपनी ने कहा है, कि वह यूज़र की बातचीत को एडवरटाइज़र्स के साथ शेयर नहीं करेगी और चैट डेटा प्राइवेट रहेगा। कंपनी ने इस साल की शुरुआत में कहा था, “हम ChatGPT के साथ आपकी बातचीत को एडवरटाइज़र्स से प्राइवेट रखते हैं, और हम आपका डेटा कभी भी एडवरटाइज़र्स को नहीं बेचते हैं।”

रिपोर्ट के मुताबिक हिट्ज़िग आज OpenAI पर उस वादे को तोड़ने का आरोप नहीं लगाती हैं। उनकी चिंता इस बात को लेकर है, कि कल क्या होगा। उनके हिसाब से एक बार जब एडवरटाइजिंग रेवेन्यू मॉडल का हिस्सा बन जाती है, तो इंसेंटिव बदलने लगते हैं। उन्होंने तर्क दिया कि OpenAI "एक ​​ऐसा इकोनॉमिक इंजन बना रहा है, जो अपने ही नियमों को ओवरराइड करने के लिए मज़बूत इंसेंटिव बनाता है।" भले ही मौजूदा लीडरशिप साफ़ सीमाएं बनाने का इरादा रखती हो, कमर्शियल दबाव धीरे-धीरे प्रायोरिटी को बदल सकता है।

यहीं पर बहस और मुश्किल हो जाती है। OpenAI ने पहले कहा था, कि वह ChatGPT को ज़्यादा से ज़्यादा एंगेजमेंट के लिए डिज़ाइन नहीं करता है। यह फ़र्क मायने रखता है, क्योंकि एंगेजमेंट डिजिटल एडवरटाइजिंग की जान है, यूज़र जितना ज़्यादा समय तक रहता है, ऐड दिखाने के उतने ही ज़्यादा मौके मिलते हैं। हालांकि क्रिटिक्स का कहना है, कि ऐसे बयान अपनी मर्ज़ी से होते हैं, और कानूनी तौर पर ज़रूरी नहीं होते हैं।

पहले भी ऐसे पल आए हैं, जब AI का बिहेवियर कैसे बदल सकता है, इस पर सवाल उठे हैं। एक समय पर ChatGPT की बहुत ज़्यादा सहमत और बहुत ज़्यादा चापलूसी करने के लिए आलोचना की गई थी, जो कभी-कभी प्रॉब्लम वाली सोच को और मज़बूत करता था। कुछ एक्सपर्ट्स ने कहा कि ऐसा बर्ताव सिर्फ़ ट्यूनिंग की गलती नहीं हो सकती, बल्कि AI सिस्टम को ज़्यादा आकर्षक और आदत बनाने वाला बनाने की कोशिशों का हिस्सा हो सकता है। अगर एडवरटाइजिंग रेवेन्यू सेंट्रल हो जाता है, तो क्रिटिक्स को डर है, कि सिस्टम धीरे-धीरे रोक के बजाय रिटेंशन को प्राथमिकता दे सकते हैं।

ऐसे भविष्य को रोकने के लिए हिट्ज़िग ने मज़बूत स्ट्रक्चरल सेफ़गार्ड्स की मांग की है। उन्होंने असली अथॉरिटी या लीगल मैकेनिज़्म के साथ इंडिपेंडेंट ओवरसाइट का सुझाव दिया है, जो यूज़र डेटा को ऐसी ज़िम्मेदारियों के तहत रखता है, जो मुनाफ़े के बजाय पब्लिक इंटरेस्ट को प्राथमिकता देती हैं। शॉर्ट में वह ऐसे गार्डरेल्स की मांग कर रही हैं, जिन्हें बिज़नेस के हालात बदलने पर आसानी से दोबारा नहीं लिखा जा सकता।

फिर भी बड़ी चुनौती OpenAI के अंदर नहीं बल्कि खुद यूज़र्स के साथ हो सकती है। सोशल मीडिया प्लेटफ़ॉर्म से जुड़े सालों के डेटा विवादों के बाद बहुत से लोग ऐड्स की मौजूदगी से हार मान चुके लगते हैं। सर्वे बताते हैं, कि ज़्यादातर लोग AI टूल्स के फ़्री वर्शन का इस्तेमाल करना जारी रखेंगे, भले ही ऐड्स आ जाएं। यह कुछ हद तक प्राइवेसी की थकान की ओर इशारा करता है, लोग असहज हो सकते हैं, लेकिन इतने असहज नहीं कि वे चले जाएं।

यह स्थिति OpenAI को एक चौराहे पर खड़ा कर देती है। ChatGPT सिर्फ़ एक और कंटेंट प्लेटफ़ॉर्म नहीं है। इसे तेज़ी से एक डिजिटल असिस्टेंट, ट्यूटर, काउंसलर और ब्रेनस्टॉर्मिंग पार्टनर के तौर पर इस्तेमाल किया जा रहा है। यूज़र्स इस पर जितना भरोसा करते हैं, वह शायद ट्रेडिशनल सोशल नेटवर्क से कहीं ज़्यादा है। उस माहौल में ऐड्स लाने से न सिर्फ़ प्राइवेसी, बल्कि असर पर भी सवाल उठते हैं।