ओपनएआई संचालित टूल के उपयोग पर यूके होम ऑफिस के खिलाफ हो सकती है जांच

यूके का इंडिपेंडेंट चीफ इंस्पेक्टर ऑफ बॉर्डर्स एंड इमिग्रेशन (ICIBI) शरण आवेदनों की प्रक्रिया में जनरेटिव एआई टूल के उपयोग को लेकर यूके के गृह मंत्रालय (होम ऑफिस) के खिलाफ संभावित जांच पर विचार कर रहा है। यह कदम शोधकर्ताओं और सांसदों द्वारा इन प्रणालियों की सटीकता और पारदर्शिता पर उठाए गए सवालों के बाद आया है।

शरण प्रक्रिया में एआई का उपयोग

2024 के अंत से, गृह मंत्रालय 'असाइलम केस समरीसेशन' (ACS) और 'असाइलम पॉलिसी सर्च' (APS) टूल का परीक्षण कर रहा है। ये टूल OpenAI के GPT-4 मॉडल और माइक्रोसॉफ्ट फाउंड्री पर आधारित हैं। इनका उद्देश्य है:

• साक्षात्कार ट्रांसक्रिप्ट का सारांश तैयार करना।
• नीतिगत जानकारी खोजने में केसवर्कर्स की सहायता करना।
• प्रति केस लगभग एक घंटे का समय बचाना।

पारदर्शिता और सटीकता पर चिंताएं

ओपन राइट्स ग्रुप (ORG) ने इन टूल्स पर छह महीने की जांच की है। मुख्य चिंताएं इस प्रकार हैं:

• सटीकता: शोधकर्ताओं का तर्क है कि सारांश में त्रुटि दर पायलट मूल्यांकन में बताई गई 9 प्रतिशत की दर से अधिक है। एक न्यायाधीश ने पहले ही एक मामले में "एआई द्वारा रचित" (hallucinated) दस्तावेज का उल्लेख किया था।
• प्रकटीकरण का अभाव: यूके की "एआई प्लेबुक" के अनुसार, ये टूल सरकारी रिपॉजिटरी में सूचीबद्ध नहीं हैं।
• मानवीय निरीक्षण: गृह मंत्रालय का कहना है कि अंतिम निर्णय प्रशिक्षित केसवर्कर्स ही लेते हैं, लेकिन आलोचकों को डर है कि स्वचालित सारांश सांस्कृतिक पूर्वाग्रह या तथ्यात्मक त्रुटियां पैदा कर सकते हैं।

आधिकारिक प्रतिक्रिया

गृह मंत्रालय ने कहा है कि एआई टूल का उपयोग केवल केसवर्कर्स की सहायता के लिए किया जाता है, न कि मानव निर्णय लेने वालों को बदलने के लिए। मंत्रालय ने अद्यतन मूल्यांकन प्रकाशित करने का वादा किया है। OpenAI ने कहा कि वह मॉडल की सटीकता सुधारने पर काम कर रही है। ICIBI ने अभी तक जांच के विषयों की पुष्टि नहीं की है, लेकिन उसने एआई की विश्वसनीयता संबंधी चिंताओं के प्रति जागरूकता जाहिर की है।