डिटेक्टरस्कोप (DetectorScope) ने पारदर्शी और आॅडिटेबल AI टेक्स्ट डिटेक्टर पेश किए

डिटेक्टरस्कोप का परिचय

डिटेक्टरस्कोप एक शोध पाइपलाइन है जिसे पारंपरिक ब्लैक-बॉक्स कृत्रिम बुद्धिमत्ता (AI) टेक्स्ट डिटेक्टरों को ऐसे पारदर्शी सिस्टम में बदलने के लिए डिज़ाइन किया गया है जहाँ हर भविष्यवाणी नामित और सत्यापित विशेषताओं पर आधारित होती है। बुडापेस्ट, हंगरी में EMNLP 2026 में प्रस्तुत होने वाले इस फ्रेमवर्क में भाषा मॉडल के रेसिडुअल स्ट्रीम पर स्पार्स ऑटोएन्कोडर (SAE) का उपयोग किया जाता है ताकि मानव-आडिटेबल टेक्स्ट वर्गीकरण प्रदान किया जा सके।

पारंपरिक क्लासिफायर के विपरीत जो अस्पष्ट परिणाम देते हैं, डिटेक्टरस्कोप निर्णयों को सीधे विशिष्ट टेक्स्ट क्षेत्रों और व्याख्या करने योग्य गुणों से जोड़ता है। प्रोजेक्ट दस्तावेज़ के अनुसार, इस शोध का उद्देश्य AI डिटेक्शन तंत्र का निरीक्षण करना है ताकि विश्लेषक पूर्वानुमान सटीकता से समझौता किए बिना मॉडल प्रवृत्तियों को समझ सकें।

पाइपलाइन कैसे काम करती है

उपलब्ध दस्तावेजों के अनुसार, डिटेक्टरस्कोप फ्रेमवर्क कई चरणों में काम करता है:

• रेसिडुअल स्ट्रीम एनकोडिंग: SAE अंतर्निहित भाषा मॉडल के रेसिडुअल स्ट्रीम को प्रोसेस करते हैं।
• फीचर वैलिडेशन: प्रत्येक विशेषता को प्राकृतिक-भाषा विवरण और उसके सक्रियण के आधार पर एक सत्यापन स्कोर मिलता है।
• स्पार्स लीनियर हेड: एक थ्रेशोल्ड स्कोर द्वारा विशेषताओं को फ़िल्टर करता है, और एक स्पार्स लीनियर हेड अंतिम वर्गीकरण निर्णय लेता है।
• योगदान: अंतिम भविष्यवाणियों की गणना प्रति-विशेषता योगदान के योग के रूप में की जाती है, जिससे उपयोगकर्ताओं को यह देखने की अनुमति मिलती है कि किन वाक्यांशों ने "AI" लेबल को ट्रिगर किया।

उपयोगकर्ता `tau` पैरामीटर का उपयोग करके व्याख्या और सटीकता के बीच संतुलन को नियंत्रित कर सकते हैं, जो किसी विशेषता को हेड द्वारा उपयोग किए जाने के लिए आवश्यक न्यूनतम ऑटो-इंटरप्रिटेशन स्कोर तय करता है।

व्यावहारिक कार्यान्वयन और उपयोग

शोधकर्ता और डेवलपर्स Hugging Face के माध्यम से प्रीट्रेनड मॉडल संग्रह तक पहुँच सकते हैं। यह पाइपलाइन अनुकूलित कॉन्फ़िगरेशन का समर्थन करती है और इसमें मॉडल फ़ाइन-ट्यूनिंग, SAE प्रशिक्षण, फीचर निष्कर्षण और Gemini API के माध्यम से स्वचालित व्याख्या के लिए स्क्रिप्ट शामिल हैं।

• स्थानीय प्रदर्शन: स्थानीय परीक्षण के लिए या Hugging Face Spaces के माध्यम से एक Gradio-आधारित डेमो उपलब्ध है।
• कस्टम विश्लेषण: पायथन स्क्रिप्ट हाइपरपूलर स्वीप, काउंटरफैक्टुअल एब्लेशन और पैराफ्रेज़ मूल्यांकन का समर्थन करती हैं।

सत्यापन और सीमाएँ

आधिकारिक GitHub रिपॉजिटरी की समीक्षा करके, ऑनलाइन Hugging Face डेमो का परीक्षण करके, और EMNLP 2026 के लिए निर्धारित शोध पत्र की जाँच करके स्वतंत्र सत्यापन किया जा सकता है।

• अस्वीकरण: लेखक और Google इस बात पर जोर देते हैं कि ये डिटेक्टर शोध कलाकृतियाँ हैं। वे त्रुटियाँ कर सकते हैं—मानव-লিখিত पाठ पर भी—और परीक्षण किए गए डोमेन के बाहर उनका प्रदर्शन स्थापित नहीं हुआ है।
• उपयोग प्रतिबंध: डेवलपर्स स्पष्ट रूप से कहते हैं कि इन उपकरणों का उपयोग व्यक्तियों के संबंध में महत्वपूर्ण निर्णयों, जैसे कि शैक्षणिक अखंडता, रोजगार या प्रकाशन मूल्यांकन के लिए नहीं किया जाना चाहिए।