OpenAI सबसे चर्चित और प्रभावशाली कंपनियों में से एक है। हाल ही में, कंपनी ने एक ब्लॉग पोस्ट जारी किया जिसने शिक्षकों, छात्रों और तकनीकी उत्साही लोगों का ध्यान आकर्षित किया। पोस्ट में सुझाव दिए गए हैं एक शिक्षण उपकरण के रूप में चैटजीपीटी का उपयोग कैसे करें. हालाँकि, पोस्ट के एक हिस्से ने भौंहें चढ़ा दीं और बहस छेड़ दी: वह स्वीकारोक्ति एआई-आधारित लिखावट डिटेक्टर उतने विश्वसनीय नहीं हैं जैसा कि आप सोच सकते हैं. आइए लेख का विवरण एक साथ देखें।
OpenAI के अनुसार AI डिटेक्टरों की वास्तविकता: एक रूपरेखा poco Chiaro
पोस्ट के FAQ अनुभाग में, OpenAI सामना किया है एआई लेखन डिटेक्टरों का मुद्दा, जिसमें कहा गया है कि "इनमें से किसी भी उपकरण को एआई-जनरेटेड सामग्री और मानव-जनित सामग्री के बीच विश्वसनीय रूप से अंतर करने के लिए नहीं दिखाया गया है“. यह कथन ऐसे युग में विशेष रूप से प्रासंगिक है जहां एआई-जनित लेखन तेजी से परिष्कृत होता जा रहा है, इस हद तक कि विशेषज्ञ भी भ्रमित हो रहे हैं। वास्तव में, कुछ अध्ययनों से यह पता चला है ये डिटेक्टर अक्सर गलत सकारात्मक परिणाम उत्पन्न करते हैं, उनकी प्रभावशीलता और विश्वसनीयता पर सवाल उठा रहे हैं।
पाठ, सटीकता और विश्वसनीयता
लेकिन कृत्रिम बुद्धिमत्ता और समाज में इसके एकीकरण के व्यापक संदर्भ में इस कथन का वास्तव में क्या मतलब है? सबसे पहले, यह चैटजीपीटी जैसे भाषा मॉडल की बढ़ती जटिलता पर प्रकाश डालता है इतने उन्नत हो गए हैं कि वे ऐसे पाठ उत्पन्न करते हैं जो मनुष्यों द्वारा लिखे गए पाठों से लगभग अप्रभेद्य हैं. यह नैतिक और व्यावहारिक प्रश्न उठाता है, विशेष रूप से शिक्षा जगत में, जहां एआई-सहायता प्राप्त साहित्यिक चोरी की संभावना एक है चिंता बढ़ रही है.
दूसरे, ओपनएआई का बयान अधिक प्रभावी पहचान विधियों को विकसित करने की आवश्यकता पर प्रकाश डालता है। फिलहाल, कई डिटेक्टर वे मेट्रिक्स और एल्गोरिदम पर भरोसा करते हैं जिनका पर्याप्त परीक्षण या सत्यापन नहीं किया गया है. उदाहरण के लिए, कुछ लोग पाठ में विशिष्ट पैटर्न देखने के लिए प्राकृतिक भाषा विश्लेषण (एनएलपी) का उपयोग करते हैं, लेकिन इन पैटर्न को आसानी से हेरफेर या दरकिनार किया जा सकता है। फिर भी अन्य लोग एआई-जनरेटेड टेक्स्ट उदाहरणों के डेटाबेस पर भरोसा करते हैं, लेकिन ये डेटाबेस अक्सर पुराने या अधूरे होते हैं।
अंत में, वर्तमान एआई डिटेक्टरों की विश्वसनीयता की कमी संभावित दुरुपयोग का द्वार खोलती है। आइए एक ऐसे संदर्भ की कल्पना करें जिसमें एक गलत एआई डिटेक्टर एक अकादमिक निबंध को एआई-जनित के रूप में गलत लेबल करता है, किसी छात्र या शोधकर्ता के करियर को खतरे में डालना. या, इस जोखिम पर विचार करें कि लोग किसी भी प्रकार की ऑनलाइन सामग्री की सत्यता पर संदेह करना शुरू कर सकते हैं, जिससे गलत सूचना संकट और बढ़ सकता है।
यह भी पढ़ें: कृत्रिम बुद्धिमत्ता: हमें संयुक्त अरब अमीरात पर नज़र क्यों रखनी चाहिए
ओपनएआई: चैटजीपीटी और इसकी सचेतन "अज्ञानता"।
OpenAI द्वारा उठाया गया एक और महत्वपूर्ण बिंदु है यह पहचानने में चैटजीपीटी की अंतर्निहित सीमा है कि कोई पाठ कृत्रिम बुद्धिमत्ता या मानव द्वारा उत्पन्न किया गया था. यह एक ऐसा विवरण है जिस पर कई लोग विचार नहीं कर सकते हैं, लेकिन इसका न केवल शिक्षा जगत के लिए बल्कि बड़े पैमाने पर उद्योग और समाज के लिए भी महत्वपूर्ण प्रभाव है। उदाहरण के लिए, यदि चैटजीपीटी एआई-जनित सामग्री और मानव सामग्री के बीच अंतर नहीं कर सकता है, हम शैक्षणिक अनुसंधान जैसे अन्य जटिल कार्यों के लिए इस पर कैसे भरोसा कर सकते हैं, वित्तीय रिपोर्ट तैयार करना या कानूनी दस्तावेज़ों का मसौदा तैयार करना?
मिथ्या और अज्ञानता
चैटजीपीटी की यह "अज्ञानता" नैतिक और दायित्व संबंधी प्रश्न भी उठाती है। यदि कोई एआई भाषा मॉडल पाठ बनाने में अपने स्वयं के "हाथ" की पहचान नहीं कर सकता है, तो यह अनजाने में सी हो सकता हैझूठी या भ्रामक जानकारी के प्रसार में योगदान करें. यह विशेष रूप से पत्रकारिता और विज्ञान जैसे क्षेत्रों में चिंताजनक है, जहां जानकारी की सटीकता और सत्यापनीयता सर्वोपरि है। यह निश्चित है कि जब मनुष्य किसी निर्मित पाठ को संशोधित करने जाता है (जैसा कि यह होना चाहिए) तो इसे टाला जा सकता है।
इसके अलावा, चैटजीपीटी की सीमा कृत्रिम बुद्धिमत्ता की प्रकृति के बारे में एक बड़ा सवाल उठाती है। यदि किसी AI मॉडल को अपने कार्यों के बारे में "जागरूकता" नहीं है, हम इसे किस हद तक "बुद्धिमान" मान सकते हैं? और यह मानव बुद्धि के विस्तार या पूरक के रूप में कृत्रिम बुद्धिमत्ता की हमारी समझ को कैसे बदलता है? ये ऐसे प्रश्न हैं जिनका उत्तर वैज्ञानिक समुदाय अभी भी देने का प्रयास कर रहा है।
हालाँकि AI-आधारित स्वचालित पहचान उपकरण विश्वसनीय नहीं हैं, लेकिन इसका मतलब यह नहीं है कि कोई इंसान कभी भी AI-जनित लेखन का पता नहीं लगा सकता है। उदाहरण के लिए, एक शिक्षक जो किसी छात्र की लेखन शैली को अच्छी तरह से जानता है, वह देख सकता है कि वह शैली अचानक कब बदलती है। हालाँकि, फिलहाल, एआई डिटेक्शन टूल से पूरी तरह बचने की सलाह दी जाती है.
