ओब्लिस्ट्रेटस टूलकिट ओपन-सोर्स भाषा मॉडल एलाइनमेंट और रिफ्यूजल रिमूवल की खोज करता है

ओब्लिस्ट्रेटस (OBLITERATUS) एक ओपन-सोर्स टूलकिट है जिसे बिना रीट्रेनिंग या फाइन-ट्यूनिंग के बड़े भाषा मॉडल से सामग्री अस्वीकृति (रिफ्यूजल) व्यवहारों का अध्ययन करने, उनका मानचित्रण करने और उन्हें हटाने के लिए डिज़ाइन किया गया है। यह प्रोजेक्ट मॉडल अस्वीकृति से जुड़ी आंतरिक प्रस्तुतियों की पहचान करने और उनमें संशोधन करने के लिए एब्लिप्रेशन तकनीकों को लागू करता है, साथ ही मुख्य भाषा क्षमताओं को संरक्षित करने का प्रयास करता है।

अवलोकन और उद्देश्य

• शोध फोकस: यह टूलकिट एक हस्तक्षेप उपकरण और एक वितरित अनुसंधान प्रयोग दोनों के रूप में कार्य करता है, जो रन के दौरान टेलीमेट्री सक्षम होने पर अज्ञात बेंचमार्क डेटा एकत्र करता है।
• कार्यप्रणाली: यह अस्वीकृति दिशाओं का पता लगाने और उन्हें समायोजित करने के लिए प्रिंसिपल कंपोनेंट एनालिसिस (PCA), मीन-डिफ़रेंस, स्पार्स ऑटोएन्कोडर डीकंपोज़िशन और व्हिटेंड SVD जैसी निष्कर्षण रणनीतियों का उपयोग करता है।
• दायरा: इस सॉफ्टवेयर का उद्देश्य ट्रांसफार्मर आर्किटेक्चर एलाइनमेंट और सुरक्षा व्यवहारों की जांच करने वाले शोधकर्ताओं और डेवलपर्स के लिए पारदर्शी तंत्र प्रदान करना है।

उपयोग इंटरफेस और पाइपलाइन

ओब्लिस्ट्रेटस तकनीकी आवश्यकताओं के आधार पर मॉडल के साथ बातचीत करने के कई तरीके प्रदान करता है:

• हगिंगफेस स्पेसेस: एक ग्रेडियो-आधारित वेब इंटरफेस उपयोगकर्ताओं को डिफ़ॉल्ट टेलीमेट्री के साथ ZeroGPU संसाधनों का उपयोग करके स्थानीय सेटअप के बिना मॉडल चलाने की अनुमति देता है।
• स्थानीय हार्डवेयर: उपयोगकर्ता Python 3.11 या नए संस्करण का उपयोग करके अपने स्वयं के GPU हार्डवेयर पर स्थानीय रूप से समान इंटरफ़ेस चला सकते हैं।
• CLI और Python API: कमांड-लाइन टूल और प्रोग्रामेटिक इंटरफेस स्वचालन, कस्टम पाइपलाइन और मौजूदा मूल्यांकन वर्कफ़्लो में एकीकरण का समर्थन करते हैं।

सत्यापन और सुरक्षा विचार

सॉफ्टवेयर में मॉडल ज्यामिति की जांच करने, सामान्य क्षमताओं पर संपार्श्विक प्रभावों की जांच करने और बेसलाइन मेट्रिक्स के खिलाफ आउटपुट को सत्यापित करने के लिए विश्लेषण मॉड्यूल शामिल हैं। दस्तावेज़ीकरण इस बात पर जोर देता है कि वजन-स्तर के हस्तक्षेप के साथ संसाधित मॉडल से सुरक्षा गार्डरेल हटा दिए जाते हैं, जिससे उपयोग और आउटपुट के लिए पूरी जिम्मेदारी ऑपरेटर पर आ जाती है। उपयोगकर्ताओं को सेटअप निर्देशों, निर्भरता आवश्यकताओं और वर्तमान परिचालन बाधाओं को सत्यापित करने के लिए आधिकारिक रिपॉजिटरी और दस्तावेज़ीकरण से परामर्श करना चाहिए।