OpenAI है की अवधारणा सुपरएलाइनमेंट, अधीक्षण से जुड़े जोखिमों के प्रबंधन में एक महत्वपूर्ण कदम। सुपरइंटेलिजेंस, जिसे मानवता द्वारा अब तक आविष्कार की गई सबसे प्रभावशाली तकनीक के रूप में परिभाषित किया गया है, दुनिया की कई सबसे महत्वपूर्ण समस्याओं को हल करने में मदद कर सकती है। हालाँकि, की विशाल शक्ति अधीक्षण यह बहुत खतरनाक भी हो सकता है, जिससे मानवता का ह्रास हो सकता है या यहाँ तक कि मानव का विनाश भी हो सकता है।
ओपनएआई सुपरएलाइनमेंट प्रस्तुत करता है: मानवीय इरादे के साथ कृत्रिम बुद्धिमत्ता को "संरेखित" करने का प्रयास
हालाँकि सुपरइंटेलिजेंस दूर की कौड़ी लग सकती है, ओपनएआई का मानना है कि यह इस दशक में आ सकता है। इन जोखिमों के प्रबंधन के लिए, अन्य बातों के अलावा, की आवश्यकता होगी शासन और अधीक्षण संरेखण समस्या के समाधान के लिए नए संस्थान: आप यह कैसे सुनिश्चित कर सकते हैं कि एआई सिस्टम जो इंसानों से कहीं अधिक स्मार्ट हैं, मानवीय इरादे का पालन करते हैं?
वर्तमान में, अधीक्षण प्रणाली को मार्गदर्शन या नियंत्रित करने का कोई समाधान नहीं है। वर्तमान एआई संरेखण तकनीकें वे एआई की निगरानी के लिए मनुष्यों की क्षमता पर भरोसा करते हैं, जो अधीक्षण स्तर का नहीं होगा। OpenAI का लक्ष्य एक का निर्माण करना है स्वचालित मानव-स्तरीय संरेखण खोजकर्ता. इसे प्राप्त करने के लिए, स्केलेबल प्रशिक्षण विधियों को विकसित करने की आवश्यकता है।
यह भी पढ़ें: एआई और एजीआई: गूगल सीईओ डीपमाइंड एक आसन्न सफलता की भविष्यवाणी करता है
OpenAI इस समस्या पर काम करने के लिए शीर्ष मशीन लर्निंग शोधकर्ताओं और इंजीनियरों की एक टीम को इकट्ठा कर रहा है। अगले चार वर्षों में उपलब्ध कंप्यूटिंग शक्ति का 20% इस समस्या को हल करने के लिए समर्पित किया जाएगा. लक्ष्य चार वर्षों में अधीक्षण संरेखण की मूलभूत तकनीकी चुनौतियों को हल करना है। ओपनएआई उन सभी को आमंत्रित करता है जो मशीन लर्निंग में सफल हुए हैं ताकि वे अपना ध्यान संरेखण पर केंद्रित कर सकें। इस प्रयास के फल व्यापक रूप से साझा किए जाएंगे, और गैर-ओपनएआई मॉडल का संरेखण और सुरक्षा महत्वपूर्ण है। यह कहा जाना चाहिए कि कंपनी मौजूदा मॉडलों की सुरक्षा में सुधार और एआई से आने वाले अन्य जोखिमों को दूर करने के लिए भी काम करेगी।
सुपरइंटेलिजेंस के संरेखण को हल करने के लिए दुनिया के सर्वश्रेष्ठ दिमागों की आवश्यकता होती है। ओपनएआई अंतःविषय सहयोग को प्रोत्साहित करता है और अधीक्षण संरेखण से संबंधित सामाजिक-तकनीकी मुद्दों के साथ सक्रिय जुड़ाव।
