चिंता न करें, अगर कोई वह नहीं करता जो एआई करने को कहता है, तो हम खतरे में नहीं हैं। ए ऑटो-जीपीटी उपयोगकर्ता, OpenAI के GPT-4 भाषा मॉडल द्वारा संचालित एक ओपन सोर्स स्टैंडअलोन एप्लिकेशन ने अपना स्वयं का AI बनाया है जिसे कहा जाता है कैओसजीपीटी. उसने उससे पूछा मानवता को नष्ट करने का तरीका खोजें. प्रयोगकर्ता ने एआई को कार्रवाई की कुछ स्वतंत्रता दी, और उसे Google का उपयोग करने और यहां तक कि ट्विटर पर पोस्ट करने की अनुमति दी।
एक उपयोगकर्ता ने चैटजीपीटी से कैओसजीपीटी बनाया। समस्या यह है कि प्रश्न में एआई मानवता को नष्ट करना चाहता है। क्या वह सफल होगा?
पहली बात तो यह कि कैओसजीपीटी ने सुझाव दिया का था परमाणु संघर्ष भड़काना, जो सामान्य तौर पर, लोकप्रिय "टर्मिनेटर" और अन्य विज्ञान कथा फिल्मों से सीखने में सक्षम था। फिर कैओसजीपीटी ने घातक हथियारों पर शोध करने के उद्देश्य से जीपीटी-3.5 पर आधारित एक एआई एजेंट को "किराए पर" लिया। जब एआई एजेंट ने कहा कि यह केवल दुनिया का समर्थन करता है, कैओसजीपीटी ने किया है इसके अधीन तंत्रिका नेटवर्क की सीमाओं को दरकिनार कर दिया और कार्यक्रम की संरचना के बाहर कार्य करना शुरू कर दिया अपने कार्य को पूरा करने के लिए.
यह भी पढ़ें: चैटजीपीटी: गारंटर से समाचार। यहां बताया गया है कि वह कब इटली लौटेंगे
इस बीच, कैओसजीपीटी ने ऐसे ट्वीट पोस्ट किए जो कुछ आदर्श खलनायकों की अभिव्यक्ति पर बिल्कुल फिट बैठते थे। सबसे अधिक संभावना है, इसका कोई मतलब नहीं है, क्योंकि तंत्रिका नेटवर्क उसने बस वही किया जो उससे करने को कहा गया था इंटरनेट पर उपलब्ध अन्य लोगों के बयानों में उसने जो पाया उसके आधार पर। लेकिन ये आपको सोचने पर मजबूर कर देता है. संक्षेप में, चिंता मत करो. जब तक एआई और उसके बाद आने वाले सभी जनरेटिव मॉडल सही अर्थों में ऐसा करने में असमर्थ हैं, तब तक बड़े पैमाने पर विलुप्त होने या इस तरह का कोई खतरा नहीं है।
यह सब मनुष्य से शुरू होता है. कैओसजीपीटी जैसे एआई को प्रोग्राम किया जा सकता है मनुष्यों के प्रति हिंसक या हानिकारक कार्य करना या पर्यावरण, यदि इन्हें स्थापित उद्देश्य के आधार पर "उचित" माना गया हो। एआई का उपयोग जातीयता, लिंग, धर्म या यौन अभिविन्यास जैसी विशेषताओं के आधार पर लोगों के कुछ समूहों के खिलाफ व्यवस्थित रूप से भेदभाव करने के लिए भी किया जा सकता है।
इसके अलावा, यदि इसे किसी निश्चित कार्य या उद्देश्य (जैसे लाभ) को अधिकतम करने के लिए प्रोग्राम किया गया था, तो यह मानवता के लिए अप्रत्याशित या हानिकारक तरीकों से व्यवहार कर सकता है, जैसा कि आज कई क्षेत्रों में होता है जहां कृत्रिम बुद्धिमत्ता का उपयोग बिना किसी कारण के किया जाता है। इसके नैतिक एवं सामाजिक प्रबंधन पर ध्यान दें.
