आर्टिफिशियल इंटेलिजेंस

OpenAI ने सीएसएएम से निपटने के लिए नया इमेज क्लासिफायर और चैटजीपीटी चेतावनियां जारी कीं

· GlobeWire Daily Editorial Desk · Source: techcrunch.com

3 मिनट में पढ़ें

मुख्य बातेंOpenAI ने बाल यौन शोषण सामग्री (CSAM) का मुकाबला करने के उद्देश्य से नए टूल और सुरक्षा फीचर्स की घोषणा की है। इन नए उपायों में सीएसएएम का पता लगाने के लिए एक इमेज क्लासिफायर, चैटजीपीटी में चेतावनी स्क्रीन और अस्थायी अकाउंट ब्लॉक, अपडेटेड डेवलपर दिशानिर्देश, और कानून प्रवर्तन एजेंसियों के लिए विशेष जांच उपकरण शामिल हैं।
OpenAI Releases New Image Classifier and ChatGPT Warnings Aimed at Combating CSAM

चित्र: Ivan Mehta · चित्र स्रोत · Resized and letterboxed to 16:9; no AI generation

OpenAI ने बाल यौन शोषण सामग्री (CSAM) का मुकाबला करने के उद्देश्य से नए टूल और सुरक्षा फीचर्स की घोषणा की है। इन नए उपायों में सीएसएएम का पता लगाने के लिए एक इमेज क्लासिफायर, चैटजीपीटी में चेतावनी स्क्रीन और अस्थायी अकाउंट ब्लॉक, अपडेटेड डेवलपर दिशानिर्देश, और कानून प्रवर्तन एजेंसियों के लिए विशेष जांच उपकरण शामिल हैं।

OpenAI ने बताया कि उसका नया इमेज क्लासिफायर एआई-जनित छवियों सहित दुर्व्यवहार के दृश्य संकेतों का पता लगा सकता है। इस टूल के बारे में रिपोर्ट किए गए मुख्य विवरण निम्नलिखित हैं:

  • एपीआई एक्सेस: OpenAI चुनिंदा कंपनियों को अपनी एपीआई के माध्यम से मुफ्त में इस क्लासिफायर तक पहुंच प्रदान कर रहा है।
  • दक्षता मीट्रिक्स: भागीदारों के साथ शुरुआती परीक्षण में, क्लासिफायर ने कथित तौर पर 48% कम छवियों को चिह्नित किया, जबकि समान मात्रा में आपत्तिजनक सामग्री की पहचान की।
  • सहयोग: इस प्रणाली को नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन (NCMEC) के साथ विकसित किया गया है और इसमें Tech Coalition तथा ROOST के साथ सहयोग शामिल है।

चैटजीपीटी चेतावनियां और अकाउंट कार्रवाई

उपयोगकर्ताओं को हानिकारक सामग्री बनाने या उस तक पहुंचने से रोकने के लिए, OpenAI चैटजीपीटी में नए इंटरफेस उपाय जोड़ रहा है:

  • चेतावनी और सहायता: प्रतिबंधित प्रॉम्प्ट दर्ज करने का प्रयास करने वाले उपयोगकर्ताओं को चेतावनी स्क्रीन दिखाई देंगी जो उन्हें विशेष सहायता संसाधनों की ओर निर्देशित करेंगी।
  • अस्थायी निलंबन: इन चेतावनियों को ट्रिगर करने वाले खातों को 24 घंटे के अस्थायी निलंबन का सामना करना पड़ेगा।
  • स्थाई प्रतिबंध: बार-बार उल्लंघन करने पर खाता हमेशा के लिए हटाया जा सकता है।

चेतावनी संदेश और व्यवहार संबंधी दिशानिर्देश कथित तौर पर Protect Children, Lucy Faithfull Foundation और तस्मानिया विश्वविद्यालय के शोधकर्ता जोएल स्कैनलन सहित संगठनों और शोधकर्ताओं के परामर्श से विकसित किए गए थे।

डेवलपर दिशानिर्देश और कानून प्रवर्तन सहायता

उपभोक्ता-सामने वाले फीचर्स के अलावा, OpenAI डेवलपर्स को OpenAI टूल का उपयोग करके CSAM सामग्री को रोकने, पता लगाने और रिपोर्ट करने में मदद करने के लिए नए दिशानिर्देश प्रकाशित कर रहा है। इसके अलावा, कंपनी कानून प्रवर्तन को समर्पित प्लग-इन, जांच टूल और प्रोग्राम प्रशासकों द्वारा प्रबंधित प्रशिक्षण सामग्री सहित एआई-संचालित सुविधाओं से लैस कर रही है।

संदर्भ और सत्यापन

सुरक्षा अधिवक्ताओं द्वारा उठाई गई चिंताओं और तकनीकी प्लेटफार्मों को लक्षित करने वाले पिछले मुकदमों के बाद, एआई सुरक्षा और बाल संरक्षण के संबंध में चल रही उद्योग जांच के बीच ये फीचर घोषणाएं सामने आई हैं। पाठक आधिकारिक कॉर्पोरेट संचार और सुरक्षा सलाहकार चैनलों के माध्यम से सीधे आधिकारिक प्लेटफॉर्म अपडेट और घोषणाओं को सत्यापित कर सकते हैं।

यह खबर शेयर करें
मूल स्रोत पढ़ें: OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

AI की सहायता से तैयार रिपोर्ट; मूल स्रोत के दावों की स्वतंत्र पुष्टि नहीं की गई है।

लेखक के बारे में

GlobeWire Daily Editorial Desk — प्रकाशित स्रोतों पर आधारित AI-सहायता प्राप्त खबरें।

और पढ़ें