स्विच: निर्णय‑मॉडल एजेंट्स के लिए एकीकृत फ्रेमवर्क

स्विच एक हल्का फ्रेमवर्क है जो डेवलपर्स को किसी भी निर्णय‑मॉडल—जैसे Jev या llama.cpp—को एक पुन: प्रयोज्य हार्नेस में लपेटने की अनुमति देता है। मूल विचार यह है कि मॉडल को एक डोमेन‑विशिष्ट स्टेट मशीन के रूप में प्रस्तुत किया जाए, जिससे स्टेट को टाइप्ड प्रश्नों के सेट में बदला जा सके। मॉडल तब सीमित सूची से एक उत्तर चुनता है, और स्विच उस चयन को एक टूल कॉल में अनुवादित करता है जो स्टेट को आगे बढ़ाता है।

यह कैसे काम करता है

• डोमेन: उपयोगकर्ता एक डोमेन (जैसे शतरंज, रब्रीक जजिंग, सपोर्ट‑टिकट रूटिंग) परिभाषित करता है, जो निम्नलिखित प्रदान करता है:
• *स्टेट*: कार्य का एक JSON स्नैपशॉट।
• *प्रश्न फ़ंक्शन*: अगला प्रश्न(प्रश्न) उत्पन्न करता है जिसे मॉडल को उत्तर देना है।
• *ट्रांज़िशन फ़ंक्शन*: मॉडल के उत्तरों से अगला स्टेट गणना करता है।
• *व्यू फ़ंक्शन* (वैकल्पिक): स्टेट को टोकन‑बजटेड प्रॉम्प्ट में फ़ॉर्मेट करता है।
• केस: डोमेन कार्य का एकल उदाहरण, एक फ़ोल्डर में संग्रहीत।
• रन लूप: स्विच बार‑बार:

1. व्यू फ़ंक्शन को कॉल करके प्रॉम्प्ट बनाता है।
2. प्रॉम्प्ट को निर्णय मॉडल पर भेजता है।
3. प्रायिकता‑एनोटेटेड उत्तर प्राप्त करता है।
4. ट्रांज़िशन फ़ंक्शन लागू करके अगला स्टेट प्राप्त करता है।
5. जब कोई प्रश्न शेष नहीं रहता या सुरक्षा सीमा पहुँच जाती है, तो रोकता है।

व्यावहारिक उपयोग

• रब्रीक जज: पूरे PDF को मॉडल में फीड करने के बजाय, स्विच दस्तावेज़ को नेविगेट करता है, केवल प्रासंगिक पृष्ठ और छवियाँ निकालता है। इससे संदर्भ का अपव्यय कम होता है और ग्रेडिंग तेज़ होती है।
• शतरंज इंजन: यह फ्रेमवर्क यादृच्छिक चालों, Stockfish, या स्वयं के खिलाफ खेल सकता है, यह दर्शाता है कि एक निर्णय मॉडल को सरल चाल‑चयन इंटरफ़ेस द्वारा कैसे मार्गदर्शित किया जा सकता है।
• WikiRace: एक डोमेन जो एक विकिपीडिया लेख से दूसरे तक लिंक का पालन करके दौड़ता है, स्विच की लचीलेपन को प्रदर्शित करता है।

एकीकरण

स्विच को Node.js 22.18+ की आवश्यकता है। npm के माध्यम से इंस्टॉल करें: ```bash npm install @osolmaz/switch ``` रिपॉज़िटरी में उदाहरण और एक व्यूअर पैकेज शामिल हैं जो ब्राउज़र में चरण‑बद्ध रूप से रन को पुन: चलाने की अनुमति देता है।

भविष्य की दिशा

हालाँकि Jev अभी शतरंज और रब्रीक जजिंग में कमजोर है, फ्रेमवर्क ओपन निर्णय मॉडलों को संकीर्ण डोमेन पर फाइन‑ट्यून करने की अनुमति देता है। एक डोमेन‑विशिष्ट मॉडल सामान्य चैट मॉडल की तुलना में कम लागत पर समान प्रदर्शन प्राप्त कर सकता है।

सत्यापन

एक घोषणा को सत्यापित करने के लिए, रिपॉज़िटरी को क्लोन करें, `pnpm install` चलाएँ, और `pnpm run example` निष्पादित करें। आउटपुट एक ट्रेस फ़ाइल दिखाएगा जिसे मॉडल को बुलाए बिना पुन: चलाया जा सकता है, हार्नेस लॉजिक की पुष्टि करता है।

मुख्य बिंदु

• स्विच निर्णय‑मॉडल API को एक साफ़, डोमेन‑केंद्रित इंटरफ़ेस में सारगर्भित करता है।
• यह केवल आवश्यक डेटा खींचकर संदर्भ ओवरहेड को कम करता है।
• फ्रेमवर्क किसी भी सीमित‑चयन कार्य के लिए विस्तारणीय है।
• संकीर्ण डोमेन पर फाइन‑ट्यूनिंग लागत‑प्रभावी, उच्च‑प्रदर्शन एजेंट बना सकता है।