का एल्गोरिदम इंस्टाग्राम रील्स, मेटा विशाल का हिस्सा, उसने उठाया नाबालिगों की सुरक्षा की चिंता. की एक जांच वाल स्ट्रीट जर्नल पता चलता है कि युवा प्रभावशाली लोगों के कुछ खातों का अनुसरण करके, एल्गोरिदम की शुरुआत हुई करने के लिए सुझाव सामग्री अनुचित e यौन, बड़े ब्रांडों के विज्ञापनों के साथ। संक्षेप में, इंस्टाग्राम उन लोगों को भी वयस्क सामग्री दिखाता है जिन्हें नहीं दिखाना चाहिए।
विवादास्पद इंस्टाग्राम एल्गोरिदम जो नाबालिगों को भी वयस्क सामग्री (निषिद्ध) दिखाता है
परीक्षण, द्वारा किया गया वाल स्ट्रीट जर्नल, जिसमें शामिल था जिमनास्ट और चीयरलीडर्स जैसे युवा प्रभावशाली लोगों का अनुसरण करने के उद्देश्य से खातों का निर्माण, पता चला कि इंस्टाग्राम एल्गोरिदम ने वयस्क सामग्री का प्रस्ताव देना शुरू कर दिया है, जिसमें वयस्कों और नाबालिगों से जुड़े यौन वीडियो और प्रसिद्ध अमेरिकी ब्रांडों के विज्ञापन शामिल हैं।
जांच से एक चिंताजनक प्रवृत्ति का पता चला: इन युवाओं का अनुसरण करने वाले खातों का खुलासा हो रहा था अश्लील साहित्य और सामग्री का चिंताजनक मिश्रण जो बच्चों का यौन शोषण करता है. एल्गोरिथम अनुशंसा प्रणालियों के विशेषज्ञों ने इस बात पर प्रकाश डाला है कि कैसे ऐसी "आला" सामग्री सामान्य रुचि की तुलना में अधिक मजबूत संकेत प्रदान कर सकती है, जो एल्गोरिदम को उपयोगकर्ताओं की ओर अनुचित सामग्री निर्देशित करने के लिए प्रेरित करती है।
यह भी पढ़ें: पुल्सिनेला का रहस्य खुला: इंस्टाग्राम पर लाखों कम उम्र के उपयोगकर्ता
इंस्टाग्राम पर वयस्क सामग्री एकत्र करने की समस्या यह आंतरिक रूप से ज्ञात था और इस तरह के प्रसार को रोकने के लिए अनुशंसा एल्गोरिदम में महत्वपूर्ण बदलाव की आवश्यकता है। हालाँकि, कंपनी के दस्तावेज़ यह दर्शाते हैं सुरक्षा कर्मियों को प्लेटफ़ॉर्म पर बदलाव करने से काफी हद तक प्रतिबंधित किया गया है जिससे दैनिक सक्रिय उपयोगकर्ताओं की संख्या कम हो सकती है।
जवाब में, मेटा ने कहा कि वह आगे सुधार की आवश्यकता को स्वीकार करते हुए सुरक्षा, सुरक्षा और ब्रांड उपयुक्तता समाधानों में अरबों का निवेश कर रहा है। सहित विभिन्न कंपनियाँ मैच समूह e बुम्बल, उन्होंने निलंबित कर दिया या रीलों पर अपना विज्ञापन कम कर दिया और अन्य मेटा प्लेटफ़ॉर्म इन खोजों का अनुसरण कर रहे हैं। अन्य, जैसे डिज्नी e हिम्स, ऐसे विज्ञापन प्लेसमेंट से बचने के लिए मेटा पर दबाव डाल रहे हैं और इसके बारे में चिंता व्यक्त की है ऐसी सामग्री के साथ उनके ब्रांडों का जुड़ाव.