नई रिपोर्ट का दावा: एक तिहाई अमेरिकी चैटबॉट उपयोगकर्ताओं ने LLM को दी गाली, Anthropic ने लागू की नई नीतियां
· GlobeWire Daily Editorial Desk · Source: www.techradar.com

चित्र: TechRadar · चित्र स्रोत · Resized and letterboxed to 16:9; no AI generation
हाल ही में सामने आए एक अध्ययन से पता चलता है कि लगभग एक तिहाई अमेरिकी चैटबॉट उपयोगकर्ताओं ने बड़े भाषा मॉडल (LLM) के प्रति अभद्र भाषा या गालियों का इस्तेमाल किया है, जिसके बाद एंथ्रोपिक (Anthropic) जैसे डेवलपर्स ने अपमानजनक बातचीत को रोकने के लिए नई उपयोग नीतियां पेश की हैं।
सर्चएबल (Searchable) द्वारा संकलित शोध के अनुसार, जिसमें Claude, Gemini और ChatGPT जैसे लोकप्रिय AI टूल के साथ आदान-प्रदान किए गए 8 मिलियन संदेशों के ऑप्ट-इन डेटासेट का विश्लेषण किया गया, लगभग 33% अमेरिकी उपयोगकर्ता चैटबॉट से बात करते समय गाली-गलौज का सहारा लेते हैं। निगरानी की यह अवधि सितंबर 2025 से सितंबर 2026 के बीच चली, जिसमें उम्र, शिक्षा स्तर और भौगोलिक स्थिति के आधार पर अनाम डेटा का उपयोग किया गया।
चैटबॉट व्यवहार अध्ययन के मुख्य निष्कर्ष
- क्षेत्रीय भिन्नता: शोधकर्ताओं ने पाया कि नेवादा (Nevada) में अपमानजनक भाषा की दर सबसे अधिक दर्ज की गई, जहाँ प्रति 10,000 शब्दों में औसतन 22.7 अभद्र या आक्रामक शब्द पाए गए। इसके विपरीत, न्यू जर्सी (New Jersey) 11.4 शब्दों के औसत के साथ सबसे विनम्र राज्य के रूप में उभरा।
- शहरों की तुलना: लास वेगास में प्रति 10,000 शब्दों पर 22 गालियां दर्ज की गईं, जबकि न्यूयॉर्क में प्रति 10,000 पर 12.3 शब्द दर्ज किए गए, जिससे यह अमेरिका का सबसे विनम्र शहर बन गया।
- समस्या निवारण दर: अध्ययन में पाया गया कि अशिष्टता से AI त्रुटियों को सुधारने की संभावना बढ़ नहीं जाती। बातचीत के अंत तक सीधी और स्पष्ट सुधार टिप्पणियों (plain corrections) से 41% समस्याओं का समाधान हुआ, जबकि गाली-गलौज वाली शिकायतों के मामले में यह दर केवल 31% रही।
व्यावहारिक प्रभाव और नीतिगत प्रतिक्रियाएं
रिपोर्ट्स से संकेत मिलता है कि अभद्र भाषा के पीछे का मुख्य कारण LLM द्वारा दिए गए असंतोषजनक या गलत परिणामों से उत्पन्न होने वाली उपयोगकर्ता की निराशा है। हालांकि, आंकड़े बताते हैं कि संयम बनाए रखने से समस्या निवारण के बेहतर परिणाम मिलते हैं।
इन निष्कर्षों के सामने आने के बाद, एंथ्रोपिक ने अपने Claude चैटबॉट के साथ बातचीत में क्रूरता और दुर्व्यवहार को रोकने के लिए विशेष रूप से डिज़ाइन की गई अद्यतन उपयोग नीतियां पेश की हैं। मूल सर्वेक्षण के आंकड़ों या प्लेटफॉर्म नीति में बदलावों को सत्यापित करने के इच्छुक उपयोगकर्ता संबंधित AI प्रदाताओं के आधिकारिक वेब पोर्टलों के माध्यम से सीधी जानकारी प्राप्त कर सकते हैं।
AI की सहायता से तैयार रिपोर्ट; मूल स्रोत के दावों की स्वतंत्र पुष्टि नहीं की गई है।



