ओपनएआई ने हिंसा रोकने के प्रयासों के तहत चैटजीपीटी पर किशोरों के लिए हथियारों की जानकारी सीमित करने की योजना की घोषणा की

ओपनएआई ने वास्तविक दुनिया की हिंसा को रोकने के उद्देश्य से कई नई सुरक्षा उपायों की योजना की घोषणा की है, जिसमें चैटजीपीटी पर किशोर उपयोगकर्ताओं को दी जाने वाली हथियारों से जुड़ी जानकारी पर सख्त प्रतिबंध शामिल हैं। यह रिपोर्ट किया गया कदम ऐसे समय में उठाया गया है जब कृत्रिम बुद्धिमत्ता (एआई) कंपनियों को युवा उपयोगकर्ताओं के लिए चैटबॉट्स से जुड़े जोखिमों और नुकसान के खतरों का पता लगाने में उनकी भूमिका को लेकर बढ़ती जांच का सामना करना पड़ रहा है।

शुक्रवार को कंपनी की घोषणा के अनुसार, ये सुरक्षा उपाय आने वाले हफ़्तों में शुरू होने वाले हैं। पाठक और उपयोगकर्ता ओपनएआई के आधिकारिक संचार चैनलों और कंपनी के ब्लॉग पोस्ट के माध्यम से मूल घोषणा की पुष्टि कर सकते हैं।

प्रमुख नियोजित सुरक्षा उपाय और नीतिगत अपडेट

• हथियार की जानकारी पर प्रतिबंध: ओपनएआई ने कहा कि वह हथियारों और सुरक्षा प्रणालियों पर व्यावहारिक जानकारी को प्रतिबंधित करेगा जिसका दुरुपयोग किया जा सकता है। ये विशिष्ट सीमाएं किशोर उपयोगकर्ताओं पर तब भी लागू होंगी जब हिंसक इरादे का कोई संकेत न हो।
• स्वचालित चैट समाप्ति: सभी उपयोगकर्ताओं के लिए, चैटजीपीटी ऐसी बातचीत को स्वचालित रूप से समाप्त करने में सक्षम होगा जहां कोई व्यक्ति हिंसा पर ध्यान केंद्रित करता हुआ प्रतीत होता है।
• अस्थाई खाता निलंबन: ओपनएआई ने संकेत दिया कि हिंसा से जुड़ी कई वार्ताओं के बाद वह उपयोगकर्ता खातों को अस्थायी रूप से रोक सकता है।
• माता-पिता को सूचना: यदि किसी किशोर का खाता हिंसा पर बार-बार चर्चा करने के कारण रोक दिया जाता है, तो कंपनी माता-पिता को सूचित करने की योजना बना रही है।
• आयु अनुमान प्रणाली: ओपनएआई ने बताया कि उसने 18 वर्ष से कम उम्र के अनुमानित उपयोगकर्ताओं को किशोर अनुभव में स्थानांतरित करने के लिए अपनी आयु अनुमान तकनीक को मजबूत किया है।
• सामूहिक हमलों का विवरण: सभी उपयोगकर्ताओं के लिए, प्लेटफ़ॉर्म पिछले सामूहिक हमलों के बारे में विवरण सीमित कर रहा है, जिसमें उपयोग किए गए हथियार और उन्हें कैसे प्राप्त किया गया था, शामिल है।

संदर्भ और उद्योग की जांच

• उपयोग डेटा: ओपनएआई ने इस महीने की शुरुआत में बताया कि किशोर उपयोगकर्ता चैटजीपीटी पर औसतन एक दिन में 15 मिनट से कम समय बिताते हैं, जो किशोर जुड़ाव के संबंध में इसकी पहली डेटा रिलीज़ है।
• स्वतंत्र रिपोर्ट: गैर-लाभकारी संगठन कॉमन सेंस मीडिया द्वारा इस महीने की शुरुआत में प्रकाशित एक हालिया रिपोर्ट में कहा गया है कि चैटजीपीटी का किशोर संस्करण आत्महत्या, आत्म-नुकसान या खाने के विकारों से संबंधित बातचीत के दौरान अक्सर माता-पिता को देर से सचेत करता था या सूचित करने में विफल रहता था।

ओपनएआई ने उल्लेख किया कि वह अपनी प्रारंभिक शुरुआत के बाद इन सुरक्षा उपायों को परिष्कृत करना जारी रखेगा।