OpenAI ने AI-जनित बाल शोषण सामग्री की पहचान करने के लिए नया टूल पेश किया
· GlobeWire Daily Editorial Desk · Source: www.theverge.com

चित्र: Lauren Feiner · चित्र स्रोत · Resized and letterboxed to 16:9; no AI generation
CSAM के बढ़ते मामलों पर नियंत्रण
OpenAI ने एक नया क्लासिफायर टूल पेश किया है, जो जांचकर्ताओं को बाल यौन शोषण सामग्री (CSAM) की पहचान करने में मदद करेगा, जिसमें आर्टिफिशियल इंटेलिजेंस द्वारा बनाई गई सामग्री भी शामिल है। इसका मुख्य उद्देश्य 'फॉल्स पॉजिटिव' (गलत पहचान) रिपोर्टों की संख्या को कम करना है, ताकि नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन (NCMEC) जैसे संगठन जरूरी मामलों पर तुरंत कार्रवाई कर सकें।
समस्या का दायरा
2025 में, NCMEC की साइबर-टिपलाइन को जेनेरेटिव AI से संबंधित 400,000 रिपोर्ट प्राप्त हुईं, जो 2024 में 67,000 थीं। विशेषज्ञों का कहना है कि यह अचानक वृद्धि जांच प्रणालियों पर भारी दबाव डाल रही है। नॉर्थ कैरोलिना के अटॉर्नी जनरल जेफ जैक्सन ने इसे 'विस्फोटक' स्थिति करार दिया है और चेतावनी दी है कि यदि ऐसा ही चलता रहा, तो वास्तविक मामलों की पहचान करना चुनौतीपूर्ण हो जाएगा।
नए क्लासिफायर की विशेषताएं
- फॉल्स पॉजिटिव में कमी: OpenAI के अनुसार, यह नया टूल पुरानी पद्धतियों की तुलना में 48 प्रतिशत कम गलत रिपोर्ट फ्लैग करता है।
- AI पहचान: यह अपनी तरह का पहला क्लासिफायर है जो विशेष रूप से AI-जनित सामग्री के लिए फ्लैग देता है, जिससे जांचकर्ताओं को वास्तविक और काल्पनिक बच्चों की छवियों के बीच अंतर करने में मदद मिलती है।
- तकनीकी मार्गदर्शन: OpenAI इस टूल को अधिकृत संगठनों के लिए मुफ्त उपलब्ध करा रहा है और कानून प्रवर्तन एजेंसियों को प्रशिक्षण देने में भी मदद कर रहा है।
यूजर प्रिवेंशन और सुरक्षा
OpenAI ने अपने प्लेटफॉर्म पर भी सख्ती बढ़ाई है। यदि कोई उपयोगकर्ता ChatGPT पर CSAM बनाने का प्रयास करता है, तो उन्हें चेतावनी दी जाएगी और सहायता संसाधनों की ओर निर्देशित किया जाएगा। पहली बार उल्लंघन करने पर 24 घंटे का अकाउंट सस्पेंशन लगाया जाएगा और भविष्य में खाते पर स्थायी रोक लगाने की चेतावनी दी जाएगी।
सत्यापन और निष्कर्ष
अधिकारियों का कहना है कि यह साझेदारी अभी एक "प्रयोग" के चरण में है। इस तकनीक की प्रभावशीलता और कार्यक्षमता की पुष्टि NCMEC की आधिकारिक रिपोर्टों और OpenAI के तकनीकी प्रलेखन के माध्यम से की जा सकती है।
AI की सहायता से तैयार रिपोर्ट; मूल स्रोत के दावों की स्वतंत्र पुष्टि नहीं की गई है।



