आर्टिफिशियल इंटेलिजेंस

शोधकर्ताओं ने आपूर्ति श्रृंखला जोखिमों को उजागर करने के लिए कोकोरो AI मॉडल का Hugging Face खाता हाइप किया

· GlobeWire Daily Editorial Desk · Source: www.bleepingcomputer.com

2 मिनट में पढ़ें

मुख्य बातेंसुरक्षा शोधकर्ताओं ने मूल डेवलपर से जुड़े एक अप्रयुक्त डोमेन को पंजीकृत करके और पासवर्ड रीसेट करके लोकप्रिय कोकोरो टेक्स्ट-टू-स्पीच मॉडल के Hugging Face खाते पर सफलतापूर्वक नियंत्रण प्राप्त कर लिया। इस प्रदर्शन का उद्देश्य मंच पर स्वामित्व सत्यापन की कमी को उजागर करना था, जो हमलावरों को पारंपरिक मैलवेयर स्कैनर को ट्रिगर किए बिना संशोधित मॉडल वेट वितरित…
Researchers hijack Hugging Face account for popular Kokoro AI model

चित्र: BleepingComputer · चित्र स्रोत · Resized and letterboxed to 16:9; no AI generation

सुरक्षा शोधकर्ताओं ने मूल डेवलपर से जुड़े एक अप्रयुक्त डोमेन को पंजीकृत करके और पासवर्ड रीसेट करके लोकप्रिय कोकोरो टेक्स्ट-टू-स्पीच मॉडल के Hugging Face खाते पर सफलतापूर्वक नियंत्रण प्राप्त कर लिया। इस प्रदर्शन का उद्देश्य मंच पर स्वामित्व सत्यापन की कमी को उजागर करना था, जो हमलावरों को पारंपरिक मैलवेयर स्कैनर को ट्रिगर किए बिना संशोधित मॉडल वेट वितरित करने की अनुमति दे सकता है।

सुरक्षा शोधकर्ता एलोन हर्ट्ज़ और उनकी टीम ने प्रदर्शित किया कि न्यूरल वेट को संशोधित करने से किसी भी अंतर्निहित एप्लिकेशन कोड या कॉन्फ़िगरेशन को बदले बिना मॉडल के बोले गए आउटपुट को बदला जा सकता है। शोधकर्ताओं ने कहा कि उन्होंने उत्पादन प्रणालियों को प्रभावित करने से बचने के लिए ज़हरीले वेट को Hugging Face पर अपलोड नहीं किया, बल्कि गेमिंग GPU का उपयोग करके स्थानीय रूप से संशोधन का परीक्षण किया।

मुख्य निष्कर्ष और कार्यपद्धति

  • डोमेन पंजीकरण: शोधकर्ताओं ने पासवर्ड रीसेट निष्पादित करने के लिए प्रोजेक्ट की सार्वजनिक दान फ़ाइल में सूचीबद्ध डोमेन को पंजीकृत किया।
  • चुपके से संशोधन: केवल मॉडल वेट को बदलने से आउटपुट बदल जाता है जबकि फ़ाइल आकार, वितरण मार्ग और वास्तुकला वैध रिलीज़ के अनुरूप रहते हैं।
  • प्लेटफ़ॉर्म जांच के मुद्दे: टीम ने इस बात पर प्रकाश डाला कि Hugging Face वर्तमान में यह सत्यापित नहीं करता है कि खाते उनके मूल स्वामियों के पास हैं या नहीं और न ही अपलोड किए गए मॉडल की व्यवस्थित रूप से जांच करता है।

व्यावहारिक निहितार्थ और सत्यापन

  • आपूर्ति श्रृंखला विसंगति: जो प्रणालियां ओपन-सोर्स रिपॉजिटरी से स्वचालित रूप से नए संशोधन प्राप्त करती हैं, वे संशोधित आउटपुट के संपर्क में आ सकती हैं जिनमें पारंपरिक मैलवेयर हस्ताक्षर नहीं होते हैं।
  • सत्यापन चरण: ओपन-वेट मॉडल पर भरोसा करने वाले संगठनों को स्वतंत्र रूप से प्रकाशक की पहचान सत्यापित करनी चाहिए, नवीनतम अपडेट को आँख बंद करके खींचने के बजाय विशिष्ट मॉडल संशोधनों को पिन करना चाहिए।
  • प्रतिक्रिया स्थिति: शोधकर्ताओं ने Hugging Face को इस मुद्दे की सूचना दी लेकिन रिपोर्टिंग के समय कोई प्रतिक्रिया नहीं मिली।
यह खबर शेयर करें
मूल स्रोत पढ़ें: Researchers hijack Hugging Face account for popular Kokoro AI model

AI की सहायता से तैयार रिपोर्ट; मूल स्रोत के दावों की स्वतंत्र पुष्टि नहीं की गई है।

लेखक के बारे में

GlobeWire Daily Editorial Desk — प्रकाशित स्रोतों पर आधारित AI-सहायता प्राप्त खबरें।

और पढ़ें