आर्टिफिशियल इंटेलिजेंस

OpenAI ने एम्बेडेड इवैल्यूएटर प्रोग्राम लॉन्च किया, शोधकर्ताओं ने जताई चिंता

· GlobeWire Daily Editorial Desk · Source: www.npr.org

2 मिनट में पढ़ें

मुख्य बातेंOpenAI ने आधिकारिक तौर पर एक नया कार्यक्रम शुरू किया है, जिसके तहत चार बाहरी संगठनों के शोधकर्ताओं को कंपनी के भीतर "एम्बेडेड एसेसर्स" के रूप में कार्य करने के लिए आमंत्रित किया गया है। सीईओ सैम ऑल्टमैन द्वारा घोषित इस पहल का उद्देश्य यह स्पष्ट करना है कि कंपनी अपने AI मॉडल से जुड़े जोखिमों का मूल्यांकन और प्रबंधन कैसे करती है। जहाँ OpenAI इसे तीसरे पक्ष…
OpenAI ने एम्बेडेड इवैल्यूएटर प्रोग्राम लॉन्च किया, शोधकर्ताओं ने जताई चिंता

GlobeWire Daily की मूल सांकेतिक तस्वीर — घटना की वास्तविक फोटो नहीं।

OpenAI ने आधिकारिक तौर पर एक नया कार्यक्रम शुरू किया है, जिसके तहत चार बाहरी संगठनों के शोधकर्ताओं को कंपनी के भीतर "एम्बेडेड एसेसर्स" के रूप में कार्य करने के लिए आमंत्रित किया गया है। सीईओ सैम ऑल्टमैन द्वारा घोषित इस पहल का उद्देश्य यह स्पष्ट करना है कि कंपनी अपने AI मॉडल से जुड़े जोखिमों का मूल्यांकन और प्रबंधन कैसे करती है। जहाँ OpenAI इसे तीसरे पक्ष की सुरक्षा निगरानी की दिशा में एक महत्वपूर्ण कदम बता रहा है, वहीं कई स्वतंत्र शोधकर्ताओं ने चिंता जताई है कि यह कार्यक्रम मूल रूप से किए गए वादों के अनुरूप नहीं है।

कार्यक्रम का दायरा और पहुंच

OpenAI के अनुसार, एम्बेडेड एसेसर्स को कुछ आंतरिक मॉडलों, प्रशिक्षण प्रक्रियाओं और चयनित कर्मचारियों तक पहुंच प्राप्त होगी। कंपनी ने स्पष्ट किया है कि:

  • प्रतिभागी संगठन अवांछनीय मॉडल व्यवहार को रोकने और सुरक्षा खामियों की पहचान करने पर ध्यान केंद्रित करेंगे।
  • एसेसर्स अपनी रिपोर्ट प्रकाशित कर सकते हैं, बशर्ते OpenAI गोपनीय जानकारी को संपादित (redact) कर सके।
  • कंपनी का इरादा समय के साथ इन संबंधों को गहरा करना है ताकि सुरक्षा मूल्यांकन के लिए उद्योग-व्यापी मानक स्थापित किए जा सकें।

पारदर्शिता पर सवाल

नाइटिंगेल रिसर्च ग्रुप की सिडनी वॉन अर्क्स सहित कई आलोचकों का तर्क है कि वर्तमान कार्यान्वयन सितंबर में ऑल्टमैन द्वारा किए गए "कर्मचारी जैसी पहुंच" (employee-like access) के वादे से काफी कम है। मुख्य आपत्तियां इस प्रकार हैं:

  • सीमित संचार: एसेसर्स मुख्य रूप से पूर्व-अनुमोदित (whitelisted) कर्मचारियों तक ही सीमित हैं, और व्यापक पूछताछ के लिए प्रबंधन की अनुमति अनिवार्य है।
  • आंतरिक उपकरणों तक पहुंच का अभाव: एसेसर्स के पास आंतरिक मैसेजिंग टूल जैसे कि Slack तक पहुंच नहीं है, जिसे शोधकर्ता संगठनात्मक कमियों को समझने के लिए महत्वपूर्ण मानते हैं।
  • परिचालन बाधाएं: OpenAI के पूर्व कर्मचारी टोमेक कोरबक जैसे विशेषज्ञों का कहना है कि यह कार्यक्रम पिछले वादों का एक सीमित संस्करण है, जो ऑडिटर्स को व्यापक निरीक्षण के बजाय केवल विशिष्ट कार्यों तक सीमित रखता है।

OpenAI का कहना है कि वे भविष्य में इन संबंधों को और मजबूत करेंगे। इस कार्यक्रम से जुड़ी अधिक जानकारी OpenAI की आधिकारिक घोषणाओं और प्रतिभागी संगठनों द्वारा प्रकाशित रिपोर्टों के माध्यम से प्राप्त की जा सकती है।

यह खबर शेयर करें
मूल स्रोत पढ़ें: OpenAI announces new AI safety program; researchers worry it won't be enough

AI की सहायता से तैयार रिपोर्ट; मूल स्रोत के दावों की स्वतंत्र पुष्टि नहीं की गई है।

लेखक के बारे में

GlobeWire Daily Editorial Desk — प्रकाशित स्रोतों पर आधारित AI-सहायता प्राप्त खबरें।

और पढ़ें