ओपनएआई ने कम्युनिटी सुरक्षा रिपोर्ट जारी की, किशोरों के लिए हथियार‑संबंधी सामग्री पर कड़ी रोक

सारांश

ओपनएआई ने अपने प्रमुख चैटबॉट, ChatGPT, की सुरक्षा को बढ़ाने के दो बड़े कदम बताए। कंपनी कम्युनिटी सुरक्षा रिपोर्ट प्रकाशित करेगी, जिसमें बताया जाएगा कि वह हिंसा‑संबंधी सामग्री को कैसे पहचानता, जांचता और कम करता है। साथ ही 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए हथियार‑संबंधी जानकारी पर कड़ी सीमाएँ लागू की जा रही हैं। दोनों पहल को कानून‑प्रवर्तन, मानसिक‑स्वास्थ्य विशेषज्ञों और परिवारों के साथ मिलकर काम करने के हिस्से के रूप में प्रस्तुत किया गया है।

नई कम्युनिटी सुरक्षा रिपोर्ट

• पहला संस्करण 2026 की दूसरी छमाही को कवर करेगा और 2027 की शुरुआत में जारी होगा, उसके बाद हर छह महीने में अपडेट आएगा।
• रिपोर्ट में शामिल होगा:
• उपयोगकर्ता प्रश्नों में हिंसक नुकसान कैसे प्रकट हो सकता है, इसके गुमनाम उदाहरण।
• कानून‑प्रवर्तन को किए गए रेफ़रल की संख्या (ओपनएआई ने कहा कि Q3 2026 में 200 से अधिक रेफ़रल हुए)।
• नई रोकथाम तकनीकें और नीति‑परिवर्तन की व्याख्या।
• ओपनएआई का कहना है कि यह रिपोर्ट जनता को उसकी सुरक्षा उपायों की स्पष्ट तस्वीर दिखाएगी और यह बताएगी कि क्या काम कर रहा है और क्या अभी सुधार की जरूरत है।

हिंसा‑संबंधी नीतियों में अपडेट

• ChatGPT पहले से ही हिंसा की योजना बनाने या उसे अंजाम देने में मदद करने वाले निर्देशों को अस्वीकार करने के लिए प्रशिक्षित है। अब भूतकालीन बड़े हमलों के बारे में पूछे गए प्रश्नों पर अतिरिक्त प्रतिबंध लगाए जा रहे हैं, भले ही वही जानकारी इंटरनेट पर उपलब्ध हो।
• मॉडल अब केवल:
• घटनाओं के सामाजिक‑आर्थिक प्रभाव, पीड़ितों की स्थिति और चेतावनी संकेतों की पहचान जैसी उच्च‑स्तरीय जानकारी देगा।
• हथियार, उपकरण, प्राप्ति के तरीके और हमलावर की तुलना‑आंकड़े जैसी विस्तृत जानकारी नहीं देगा।
• ये प्रतिबंध सभी उपयोगकर्ताओं पर लागू होते हैं, लेकिन जब सिस्टम अनुमान लगाता है कि उपयोगकर्ता 18 वर्ष से कम है, तो ये और सख्त हो जाते हैं।
• यदि बातचीत में संभावित हिंसा के संकेत दिखते हैं, तो ChatGPT अधिक सावधानी से जवाब देगा और स्वचालित रूप से चैट समाप्त कर सकता है। कई बार ऐसा होने पर खाता अस्थायी रूप से रोक दिया जा सकता है।

किशोर‑उपयोगकर्ताओं के लिए अतिरिक्त सुरक्षा

• उम्र‑प्रीडिक्शन: व्यवहार संकेतों के आधार पर सिस्टम अनुमान लगाता है कि उपयोगकर्ता 18 से कम है या नहीं, और आवश्यक होने पर उसे “किशोर मोड” में ले जाता है।
• सामग्री सीमाएँ: किशोरों को हथियार, सुरक्षा प्रणाली आदि के बारे में विस्तृत जानकारी नहीं मिलेगी, भले ही प्रश्न सामान्य लगे।
• अभिभावक नियंत्रण: माता‑पिता अपने खाते को अपने बच्चे के खाते से जोड़ सकते हैं, सुरक्षा अलर्ट (जैसे आत्म‑हानि या विकार‑खान‑पीन संकेत) प्राप्त कर सकते हैं, और यदि बच्चा नीति‑उल्लंघन के कारण खाता बंद कर दिया गया तो सूचना मिलती है।
• यदि कोई उपयोगकर्ता गलती से किशोर मोड में आ जाता है, तो वह Persona नामक पहचान‑साथी के माध्यम से जल्दी से वयस्कता प्रमाणित कर अतिरिक्त प्रतिबंध हटा सकता है।

घोषणा की पुष्टि कैसे करें

• आधिकारिक बयान ओपनएआई की वेबसाइट पर /index/community-safety-report-and-new-protections-for-teens पते पर उपलब्ध है।
• आने वाली रिपोर्ट PDF के रूप में डाउनलोड की जा सकेगी और उसमें ऊपर बताए गए आँकड़े और उदाहरण शामिल होंगे।
• कानून‑प्रवर्तन रेफ़रल और साझेदारी के दावों को सार्वजनिक अपराध‑रोकथाम आँकड़ों या संबंधित एजेंसियों से संपर्क करके जाँचा जा सकता है।

व्यावहारिक प्रभाव

• शिक्षक और डेवलपर्स को चैटजीपीटी के नए किशोर‑मोड सीमाओं की समीक्षा करनी चाहिए ताकि पाठ्यक्रम या एप्लिकेशन में बाधा न आए।
• अभिभावकों को लिंकिंग सुविधा सक्रिय करके सुरक्षा अलर्ट पर नज़र रखनी चाहिए।
• शोधकर्ता रिपोर्ट में मौजूद गुमनाम उदाहरणों का उपयोग करके AI मॉडल में हिंसा‑संबंधी सामग्री के प्रबंधन का अध्ययन कर सकते हैं।
• इन सुरक्षा उपायों का आगामी कुछ हफ़्तों में रोल‑आउट शुरू होगा, और फीडबैक के आधार पर निरंतर सुधार किया जाएगा।

*ओपनएआई ने कहा कि ये कदम क्रमिक हैं; कंपनी भविष्य में भी जोखिम पहचान, विशेषज्ञ समीक्षा और नीति‑प्रवर्तन में निवेश जारी रखेगी।*