AI से बनी तस्वीरें और वीडियो पैदा कर सकते हैं झूठी यादें, शोधकर्ताओं ने दी चेतावनी

आर्टिफिशियल इंटेलिजेंस (AI) पर लोगों का भरोसा अब एक नई चिंता का विषय बनता जा रहा है। शोधकर्ताओं ने चेतावनी दी है कि AI से बनाई गई तस्वीरें, वीडियो और लिखित सारांश लोगों की अपनी यादों को प्रभावित कर सकते हैं। हैरानी की बात यह है कि किसी व्यक्ति को यह पता होने के बावजूद कि कोई तस्वीर या जानकारी मशीन ने बनाई है, उसका दिमाग उस गलत जानकारी को सच मान सकता है।

आमतौर पर लोग याददाश्त को बीती घटनाओं को सुरक्षित रखने का एक भरोसेमंद तरीका समझते हैं। लेकिन मनोविज्ञान के शोध बताते हैं कि हमारी यादें हमेशा किसी कैमरे की रिकॉर्डिंग की तरह सटीक नहीं होतीं। नई जानकारी, दूसरों के सुझाव और किसी घटना को बार-बार अलग तरीके से देखने या सुनने से हमारी यादें बदल सकती हैं। AI इस समस्या को और गंभीर बना सकता है, क्योंकि यह असली जैसी दिखने वाली तस्वीरें, विश्वसनीय लगने वाले विवरण और आत्मविश्वास से भरे जवाब तैयार कर सकता है।

इसका असर केवल किसी घटना को गलत याद करने तक सीमित नहीं है। यदि लोग AI से मिली गलत जानकारी को अपनी वास्तविक याद समझने लगें, तो उनके फैसले, किसी व्यक्ति के बारे में राय और सामाजिक या राजनीतिक विचार भी प्रभावित हो सकते हैं। इसलिए AI के इस्तेमाल के साथ यह समझना जरूरी है कि मशीन से मिली हर जानकारी सही नहीं होती।

MIT के प्रयोगों में सामने आया चौंकाने वाला असर MIT Experiments Reveal a Troubling Effect

मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (MIT) Massachusetts Institute of Technology (MIT) की वैज्ञानिक पैटी मेस ने हाल ही में द वॉशिंगटन पोस्ट के साथ कुछ चिंताजनक निष्कर्ष साझा किए। उनकी टीम के एक अध्ययन में प्रतिभागियों को सामान्य तस्वीरों की एक श्रृंखला दिखाई गई। कुछ समय बाद, प्रतिभागियों के एक समूह को वही तस्वीरें दोबारा दिखाई गईं, जबकि दूसरे समूह को AI की मदद से बदली गई तस्वीरें दिखाई गईं।

बाद में जब लोगों की याददाश्त की जांच की गई, तो AI से बदली हुई तस्वीरें देखने वाले प्रतिभागियों में मूल तस्वीरों को गलत याद करने की संभावना काफी अधिक थी। इतना ही नहीं, कई लोग अपनी गलत यादों को लेकर भी बहुत आश्वस्त थे। उन्हें लगता था कि वे जो याद कर रहे हैं, वही वास्तव में तस्वीर में मौजूद था।

यह निष्कर्ष इस बात की ओर इशारा करता है कि AI से बदली गई तस्वीरें केवल हमारी नजर को भ्रमित नहीं करतीं, बल्कि किसी घटना के बारे में हमारी बाद की याद को भी प्रभावित कर सकती हैं। यदि कोई व्यक्ति किसी तस्वीर को असली मानकर देखता है, तो उसके लिए बाद में मूल दृश्य और बदले हुए दृश्य के बीच अंतर करना मुश्किल हो सकता है।

AI चैटबॉट से बातचीत भी बदल सकती है याददाश्त Conversations With AI Chatbots May Also Distort Memory

MIT मीडिया लैब के एक अन्य अध्ययन में यह जांचा गया कि जनरेटिव AI चैटबॉट से बातचीत करने का लोगों की यादों पर क्या असर पड़ता है। अध्ययन में बताया गया कि AI चैटबॉट से सवालों के जवाब देने वाले लोगों ने उन लोगों की तुलना में तीन गुना से भी अधिक झूठी यादें बताईं, जिन्होंने AI के साथ बातचीत नहीं की थी।

इसका संभावित कारण यह है कि सवाल पूछने का तरीका, उनमें छिपे संकेत और बातचीत के दौरान दी गई जानकारी व्यक्ति की याद को प्रभावित कर सकते हैं। यदि चैटबॉट किसी ऐसी घटना के बारे में गलत या भ्रामक विवरण प्रस्तुत करता है, जिसे व्यक्ति पहले देख या अनुभव कर चुका है, तो वह उस विवरण को अपनी पुरानी याद का हिस्सा समझ सकता है।

इसलिए चैटबॉट से मिली जानकारी को अपनी याददाश्त का प्रमाण मानने के बजाय उसकी स्वतंत्र रूप से पुष्टि करना जरूरी है।

चेतावनी देने के बाद भी क्यों नहीं रुकती झूठी यादें? Why Warning Labels May Not Prevent False Memories

AI से तैयार सामग्री पर चेतावनी लिख देना हमेशा पर्याप्त नहीं होता। जॉर्जटाउन यूनिवर्सिटी और यूनिवर्सिटी ऑफ वॉशिंगटन के शोधकर्ताओं ने इस बात की जांच की कि गलत AI सारांश लोगों की याददाश्त को किस तरह प्रभावित कर सकते हैं। उनका अध्ययन सितंबर 2026 में प्रकाशित हुआ।

ट्रैफिक साइन से जुड़ा प्रयोग The Traffic Sign Experiment

इस अध्ययन में प्रतिभागियों को एक वीडियो दिखाया गया, जिसमें एक कार चौराहे पर पहुंचती है और पैदल चल रहे व्यक्ति से टकरा जाती है। वीडियो में सड़क पर लगे संकेत को लेकर दो संभावनाएं थीं—रुकने का संकेत या रास्ता देने का संकेत। 24 से 48 घंटे बाद प्रतिभागियों को वीडियो का सारांश पढ़ने के लिए दिया गया। कुछ सारांश सही थे, जबकि कुछ में जानबूझकर एक गलत जानकारी शामिल की गई थी।

जिन लोगों ने सही जानकारी वाला सारांश पढ़ा, उनमें से 83.6 प्रतिशत ने ट्रैफिक साइन के बारे में सही जवाब दिया। इसके विपरीत, भ्रामक सारांश पढ़ने वाले केवल 44.8 प्रतिशत प्रतिभागी ही सही जवाब दे पाए। यानी एक गलत विवरण भी लोगों की याद को काफी हद तक प्रभावित कर सकता है।

AI का लेबल भी पर्याप्त सुरक्षा नहीं देता An AI Warning Label Is Not Enough

शोधकर्ताओं ने यह भी जांचा कि सारांश को AI से तैयार बताया जाए या किसी इंसान द्वारा लिखा हुआ, तो क्या फर्क पड़ता है। नतीजों में पाया गया कि सामग्री के गलत होने का असर बना रहा, भले ही प्रतिभागियों को बताया गया हो कि सारांश AI ने बनाया है।

इसका अर्थ यह नहीं है कि हर AI सारांश गलत होता है या हर व्यक्ति की याद जरूर बदल जाएगी। हालांकि, अध्ययन यह संकेत देता है कि केवल चेतावनी पढ़ लेने से लोग गलत जानकारी के प्रभाव से पूरी तरह सुरक्षित नहीं हो जाते। इसलिए किसी वीडियो, समाचार या घटना का सारांश पढ़ते समय मूल सामग्री की जांच करना अधिक जरूरी है।

इंसानी निगरानी भी क्यों पड़ सकती है कमजोर? Why Human Oversight May Not Be Enough

इंसानी याददाश्त का प्रभावित होना कोई नई बात नहीं है। मनोविज्ञान के शोध लंबे समय से बताते आए हैं कि किसी घटना के बाद मिलने वाली जानकारी, सवाल पूछने का तरीका और दूसरों की बातें हमारी यादों को बदल सकती हैं। AI इस चुनौती को बढ़ा सकता है, क्योंकि वह कभी-कभी गलत जानकारी भी ऐसे प्रस्तुत करता है, मानो वह पूरी तरह सही हो। AI की ऐसी गलतियों को आमतौर पर हैलुसिनेशन कहा जाता है।

बैंक, अस्पताल और सैन्य संगठन जैसे महत्वपूर्ण क्षेत्र AI का इस्तेमाल बढ़ा रहे हैं। इन संस्थानों में अक्सर कहा जाता है कि निर्णय लेने से पहले कोई इंसान AI के नतीजों की जांच करेगा। इसे ह्यूमन इन द लूप कहा जाता है। लेकिन यदि जांच करने वाला व्यक्ति भी AI के जवाब पर जरूरत से ज्यादा भरोसा करे, तो वह उसकी गलती पकड़ने में असफल हो सकता है।

MIT और अन्य संस्थानों के शोध बताते हैं कि AI से मिले भ्रामक सवाल, बदली हुई तस्वीरें और गलत सारांश इंसानी याददाश्त को प्रभावित कर सकते हैं। ऐसे में केवल अंतिम स्तर पर किसी व्यक्ति से मंजूरी लेना पर्याप्त नहीं हो सकता। जरूरी है कि जांच करने वाले लोगों को AI की सीमाओं की जानकारी हो और वे मूल साक्ष्यों से परिणामों का मिलान करें।

वास्तविक दुनिया में AI की गलतियों के गंभीर परिणाम Real-World Dangers of AI Errors

AI से प्रभावित याददाश्त और गलत जानकारी पर भरोसा करने का खतरा केवल व्यक्तिगत अनुभवों तक सीमित नहीं है। इसका असर न्याय व्यवस्था, स्वास्थ्य सेवाओं, राजनीति और सुरक्षा जैसे महत्वपूर्ण क्षेत्रों पर भी पड़ सकता है। यदि किसी गवाह को किसी घटना के बारे में गलत जानकारी मिल जाए, तो वह अनजाने में अपनी गवाही में ऐसी बातें शामिल कर सकता है जो वास्तव में हुई ही नहीं थीं।

इसी तरह, सोशल मीडिया पर AI से बनाई गई नकली तस्वीरें और वीडियो किसी व्यक्ति या राजनीतिक नेता के बारे में गलत धारणा पैदा कर सकते हैं। यदि लोग इन सामग्री को वास्तविक मान लें, तो उनके विचार और निर्णय प्रभावित हो सकते हैं। हालांकि, किसी खास राजनीतिक मामले में AI सामग्री ने मतदाताओं का व्यवहार कितना बदला, इसका आकलन संबंधित अध्ययन के निष्कर्षों के आधार पर ही किया जाना चाहिए।

ईरान के स्कूल पर हमले से जुड़ी रिपोर्ट Report on the Strike on a School in Iran

AI पर जरूरत से ज्यादा निर्भरता का एक गंभीर उदाहरण ईरान के एक प्राथमिक विद्यालय पर हुए अमेरिकी सैन्य हमले से जुड़ी रिपोर्ट में सामने आया। ब्लूमबर्ग की 18 सितंबर 2026 की रिपोर्ट के अनुसार, अमेरिकी रक्षा विभाग की आंतरिक जांच में पुरानी खुफिया जानकारी, अपडेट न की गई तस्वीरों और Palantir द्वारा विकसित AI-सक्षम Maven Smart System पर जरूरत से ज्यादा भरोसा किए जाने को हमले के कारणों में शामिल बताया गया।

रिपोर्ट के मुताबिक, 28 फरवरी 2026 को ईरान के मिनाब शहर में शजराह तैयबेह प्राथमिक विद्यालय पर मिसाइलें गिरने से 150 से अधिक लोगों की मौत हुई, जिनमें कम से कम 123 बच्चे शामिल थे। जांच से जुड़े अधिकारियों के अनुसार, संबंधित स्थल को पहले सैन्य परिसर के रूप में दर्ज किया गया था, लेकिन बाद में वहां हुए बदलावों की जानकारी लक्ष्य निर्धारित करने वाली मुख्य खुफिया प्रणाली में सही ढंग से शामिल नहीं की गई थी।

इस मामले से यह महत्वपूर्ण सवाल उठता है कि जब किसी तकनीकी प्रणाली को गलत या पुराना डेटा मिलता है, तो क्या उसके सुझावों पर पर्याप्त सवाल किए जाते हैं? AI किसी निर्णय को व्यवस्थित और प्रभावी दिखा सकता है, लेकिन इससे उसके पीछे इस्तेमाल की गई जानकारी अपने आप सही नहीं हो जाती। ऐसे गंभीर मामलों में मानव विशेषज्ञों को डेटा की गुणवत्ता, स्रोत और संदर्भ की स्वतंत्र रूप से जांच करनी चाहिए।

AI से बनी गलत यादों से कैसे बचें? How to Protect Yourself from AI-Induced False Memories

AI के बढ़ते इस्तेमाल के बीच कुछ सावधानियां अपनाकर गलत जानकारी से प्रभावित होने की आशंका कम की जा सकती है।

मूल तस्वीर, वीडियो या दस्तावेज जांचें Check the Original Photo, Video or Document

किसी घटना की AI से बनी तस्वीर या उसका सारांश देखने के बाद संभव हो, तो मूल सामग्री भी देखें। महत्वपूर्ण जानकारी के लिए एक ही स्रोत पर निर्भर न रहें।

चैटबॉट के जवाब को अंतिम सच न मानें Do Not Treat Chatbot Responses as Absolute Truth

AI से मिला जवाब उपयोगी हो सकता है, लेकिन उसमें गलतियां या अधूरी जानकारी भी हो सकती है। खासकर किसी व्यक्ति, घटना या महत्वपूर्ण फैसले से जुड़े दावों की पुष्टि विश्वसनीय स्रोतों से करें।

अपनी याद और नई जानकारी के बीच अंतर समझें Distinguish Your Own Memory from New Information

यदि कोई विवरण बाद में पढ़ने या सुनने के बाद याद आने लगे, तो यह सोचें कि क्या वह वास्तव में आपका अपना अनुभव था या आपने उसे बाद में कहीं देखा था। संदेह होने पर अपनी याद को निश्चित तथ्य के रूप में प्रस्तुत करने से बचें।

संवेदनशील मामलों में विशेषज्ञों की जांच जरूरी है Expert Verification Is Essential in Sensitive Cases

कानूनी मामलों, चिकित्सा संबंधी निर्णयों और सुरक्षा से जुड़े कामों में केवल AI के निष्कर्षों पर निर्भर नहीं रहना चाहिए। मूल दस्तावेज, स्वतंत्र साक्ष्य और योग्य विशेषज्ञों की राय भी जरूरी है।

निष्कर्ष Conclusion

AI चैटबॉट, बदली हुई तस्वीरें और भ्रामक सारांश केवल गलत जानकारी फैलाने तक सीमित नहीं रह सकते, बल्कि वे इस बात को भी प्रभावित कर सकते हैं कि लोग किसी घटना को कैसे याद करते हैं। MIT और जॉर्जटाउन यूनिवर्सिटी से जुड़े शोध इस जोखिम की ओर ध्यान दिलाते हैं। हालांकि, इन अध्ययनों के परिणामों को उनके प्रयोगों के संदर्भ में समझना चाहिए; वे यह साबित नहीं करते कि AI से मिलने वाली हर जानकारी हमारी याददाश्त बदल देगी।

जैसे-जैसे AI का इस्तेमाल बढ़ रहा है, वैसे-वैसे जानकारी की पुष्टि करना, मूल स्रोत देखना और मशीन के जवाबों पर सवाल उठाना भी महत्वपूर्ण हो गया है। AI एक उपयोगी सहायक हो सकता है, लेकिन उसे बिना जांचे सच मान लेना जोखिम भरा है। अपनी याददाश्त और फैसलों को सुरक्षित रखने के लिए तकनीक का इस्तेमाल समझदारी और सावधानी से करना जरूरी है।