हाल ही में, अमेज़न लॉन्च हुआ इसका एआई चैटबॉट अमेज़ॅन क्यू, कंपनियों में दिलचस्पी जगा रहा है, लेकिन गंभीर सटीकता और गोपनीयता के मुद्दों पर कर्मचारियों के बीच चिंता भी पैदा कर रहा है। क्यू को "होने" की सूचना दी गई थीनहीं का मतिभ्रम poco कहानीऔर गोपनीय डेटा का खुलासा किया, जिससे कंपनी की जानकारी की सुरक्षा पर सवाल खड़े हो गए। यहां विवरण का खुलासा किया गया है Platformer.
Amazon Q के लिए सुरक्षा चेतावनी: गोपनीय डेटा और गलत उत्तरों के बीच
वीरांगना उन्होंने परिचय कराया तीन दिन पहले इसका एआई चैटबॉट, जिसे क्यू कहा जाता है, लेकिन ऐसा लगता है कि सब कुछ योजना के अनुसार नहीं हो रहा है। कुछ कर्मचारियों ने सटीकता और गोपनीयता के मुद्दों पर चिंता जताई है: अमेज़ॅन क्यू ने "मतिभ्रम" प्रकट किया होगा और खुलासा किया होगा सूचना गुप्त, जैसे कि AWS डेटा केंद्रों का स्थान, आंतरिक छूट कार्यक्रम और अभी तक जारी नहीं की गई सुविधाएँ।
यह जानकारी लीक हुए और प्राप्त दस्तावेजों से सामने आई है Platformer, एक पर प्रकाश डाला गया लेवल 2 सुरक्षा मुद्दा, एक गंभीर स्थिति जिसमें इंजीनियरों द्वारा तत्काल हस्तक्षेप की आवश्यकता है।
इसके बावजूद, अमेज़ॅन ने इन आंतरिक चर्चाओं के महत्व को कम कर दिया है। एक प्रवक्ता ने साझा करते हुए कहा आंतरिक चैनलों के माध्यम से प्रतिक्रिया अमेज़ॅन में मानक अभ्यास है और इस फीडबैक के परिणामस्वरूप कोई सुरक्षा समस्या की पहचान नहीं की गई। कंपनी ने प्राप्त फीडबैक के महत्व और इसे जारी रखने की इच्छा को रेखांकित किया Amazon Q को परिष्कृत करें क्योंकि यह पूर्वावलोकन से सामान्य उपलब्धता में परिवर्तित होता है.
Amazon Q, जो वर्तमान में निःशुल्क पूर्वावलोकन में उपलब्ध है, को एक के रूप में प्रस्तुत किया गया था एंटरप्राइज़ सॉफ़्टवेयर संस्करण एक चैटबॉट का, प्रारंभिक कार्यों का उद्देश्य AWS के बारे में डेवलपर के सवालों का जवाब देना, स्रोत कोड को संशोधित करना और स्रोतों का हवाला देना है। अमेज़ॅन ने क्यू की सुरक्षा और गोपनीयता पर जोर दिया है, इसकी तुलना चैटजीपीटी जैसे उपभोक्ता-ग्रेड टूल से की है।
हालाँकि, एक आंतरिक दस्तावेज़ से पता चला कि Q "मतिभ्रम" कर सकता है और हानिकारक या अनुचित प्रतिक्रियाएँ प्रदान कर सकता है, जैसे पुरानी सुरक्षा जानकारी जो ग्राहकों के खातों को खतरे में डाल सकता है। ये जोखिम बड़े भाषा मॉडलों के लिए विशिष्ट हैं, जिनमें से सभी कम से कम कुछ अवसरों पर गलत या अनुचित प्रतिक्रियाएँ प्रदान करते हैं।
| वाया Slashdot
