ChatGPT पर हथियारों की जानकारी को लेकर सख्ती, हिंसक चैट पर भी एक्शन!

Oct 31, 2026 - 15:19
ChatGPT पर हथियारों की जानकारी को लेकर सख्ती, हिंसक चैट पर भी एक्शन!

ChatGPT अब हथियारों और सुरक्षा प्रणालियों से जुड़ी जानकारी नहीं देगा। शुक्रवार को कंपनी ने घोषणा की कि वह किशोरों को हथियारों और सुरक्षा प्रणालियों के बारे में व्यावहारिक जानकारी देने पर सख्त प्रतिबंध लगाएगी। यह नियम तब भी लागू होगा, जब उपयोगकर्ता का सवाल सामान्य लगे या उसमें हिंसा का कोई स्पष्ट इरादा न दिखे। कंपनी इन नए सुरक्षा उपायों को दुनिया भर में हिंसा को रोकने के उद्देश्य से लागू कर रही है।

हिंसक बातचीत अपने आप बंद हो जाएगी; बार-बार नियमों का उल्लंघन करने पर अकाउंट सस्पेंड कर दिया जाएगा।

OpenAI की नई सुरक्षा नीतियां सभी उपयोगकर्ताओं पर लागू होंगी। यदि कोई उपयोगकर्ता बातचीत के दौरान लगातार हिंसा या दूसरों को नुकसान पहुंचाने की बात करता है, तो ChatGPT उस चैट सेशन को अपने आप बंद कर देगा। कंपनी ने आगे कहा कि अगर कोई उपयोगकर्ता बार-बार ऐसी हिंसक बातचीत करता है, तो उसका अकाउंट कुछ समय के लिए सस्पेंड कर दिया जाएगा।

ऐतिहासिक हमलों के विवरण पर प्रतिबंध।

OpenAI ने अतीत की बड़ी हिंसक घटनाओं (mass-casualty events) के बारे में जानकारी देने वाली अपनी नीतियों को भी सख्त कर दिया है। अब सभी उपयोगकर्ताओं के लिए ऐतिहासिक बड़े हमलों के विस्तृत विवरण तक पहुंच सीमित कर दी गई है। ChatGPT अब संवेदनशील जानकारी नहीं देगा, जैसे कि इन हमलों में किस तरह के हथियारों का इस्तेमाल किया गया था या उन्हें कैसे हासिल किया गया था।

आने वाले हफ्तों में नए सुरक्षा फीचर्स लागू किए जाएंगे।

OpenAI ने घोषणा की है कि ये नए सुरक्षा फीचर्स अगले कुछ हफ्तों में चरणों में लागू किए जाएंगे। कंपनी लगातार इन उपायों का मूल्यांकन करेगी और जरूरत पड़ने पर उन्हें अपडेट करेगी।

किशोर ChatGPT पर औसतन हर दिन केवल 15 मिनट बिताते हैं।

इस महीने की शुरुआत में, OpenAI ने किशोरों द्वारा ChatGPT के इस्तेमाल पर अपनी पहली रिपोर्ट जारी की। रिपोर्ट के अनुसार, किशोर उपयोगकर्ता इस प्लेटफॉर्म पर औसतन हर दिन 15 मिनट से भी कम समय बिताते हैं। फिर भी, कंपनी का मानना ​​है कि युवाओं की सुरक्षा के लिए सुरक्षा मानकों को मजबूत करना जरूरी है।

सुरक्षा उपायों को सख्त करने की जरूरत क्यों पड़ी?

दुनिया भर में AI कंपनियों पर यह दबाव बढ़ रहा है कि वे अपने प्लेटफॉर्म का इस्तेमाल करने वाले युवाओं की मानसिक और शारीरिक भलाई सुनिश्चित करें। NGO 'कॉमन सेंस मीडिया' की एक हालिया रिपोर्ट से पता चला है कि किशोरों के लिए बनाए गए ChatGPT के वर्ज़न में एक कमी थी आत्महत्या, खुद को नुकसान पहुंचाने (self-harm), या ईटिंग डिसऑर्डर जैसे गंभीर विषयों पर बातचीत के दौरान यह माता-पिता को समय पर अलर्ट नहीं भेज पाता था। रिपोर्ट के अनुसार, कई मामलों में माता-पिता को अलर्ट बहुत देर से मिले या उन्हें कोई सूचना ही नहीं मिली। इस रिपोर्ट के बाद, OpenAI ने अपने सुरक्षा प्रोटोकॉल को और मजबूत करने का फैसला किया है।