OpenAI ने ChatGPT में फोटोसोरियल राजनीतिक छवियों को प्रतिबंधित करने के लिए सुरक्षा उपाय लागू किए

OpenAI ने एक ऐसा सुरक्षा उपाय पेश किया है जिसका उद्देश्य उपयोगकर्ताओं को ChatGPT का उपयोग करके फोटोसोरियल (यथार्थवादी) राजनीतिक छवियां बनाने से रोकना है। इसका लक्ष्य चुनावी डीपफेक के जोखिम को कम करना है, जबकि सचित्र और कार्टून शैली की राजनीतिक सामग्री की अनुमति देना जारी रखना है।

सुरक्षा उपाय और आधिकारिक तर्क

चुनाव प्रमुख जोश लॉसन सहित OpenAI के प्रतिनिधियों द्वारा मीडिया आउटलेट्स को दिए गए बयानों के अनुसार, यह प्रणाली कुछ छवि अनुरोधों को संशोधित करने के लिए डिज़ाइन की गई है। जब उपयोगकर्ता चैटबॉट से संवेदनशील राजनीतिक परिदृश्यों को दर्शाने वाली छवियां बनाने के लिए कहते हैं—जैसे कि चुनाव में हस्तक्षेप या ऐसी स्थितियां जो मतदान को हतोत्साहित कर सकती हैं—तो यह उपकरण यथार्थवादी परिणाम उत्पन्न करने से बचता है। इसके बजाय, यह आउटपुट को एक सचित्र या कार्टून शैली में प्रस्तुत करता है।

• प्राथमिक उद्देश्य: संभावित रूप से भ्रामक छवियों के साक्ष्य मूल्य को कम करना।
• अनुमत सामग्री: दृष्टांतों और सामाजिक टिप्पणियों के लिए गुंजाइश सुरक्षित रखी गई है।
• लक्ष्य: घर्षण की एक और परत जोड़ना और मतदाताओं को धोखा देने के प्रयासों को कठिन बनाना।

उद्योग संदर्भ और सत्यापन

चूंकि उन्नत एआई मॉडल सामान्य तकनीकी त्रुटियों के बिना यथार्थवादी दृश्य उत्पन्न करने में अधिक कुशल हो गए हैं, इसलिए वास्तविक और सिंथेटिक मीडिया के बीच अंतर करना कठिन होता जा रहा है। हालांकि पूरे उद्योग में सत्यापन और लेबलिंग के तरीके मौजूद हैं, लेकिन वे सार्वभौमिक रूप से अपनाए नहीं गए हैं।

अन्य तकनीकी कंपनियों ने भी चुनावी सामग्री से निपटने के लिए विभिन्न दृष्टिकोणों की रूपरेखा तैयार की है:

• गूगल: भ्रामक चुनावी छवियों को सीमित करने के लिए अतिरिक्त सुरक्षा सुरक्षा उपायों की ओर इशारा किया।
• एंथ्रोपिक: कहा कि मतदाताओं को धोखा देने के लिए उसके सहायक का उपयोग करने का कोई भी प्रयास उसकी नीतियों का उल्लंघन करता है।

व्यावहारिक निहितार्थ और सत्यापन

पर्यवेक्षकों का कहना है कि यह अनिश्चित है कि चुनावी चक्र समाप्त होने के बाद ये विशिष्ट प्रणाली समायोजन स्थायी रहेंगे या नहीं। आधिकारिक प्लेटफॉर्म नीतियों को सत्यापित करने वाले उपयोगकर्ता OpenAI और अन्य डेवलपर्स द्वारा प्रकाशित प्रत्यक्ष दिशानिर्देशों की समीक्षा कर सकते हैं।