इंस्टाग्राम गलत तरीके से कहता है कि कुछ उपयोगकर्ता बाल यौन शोषण नियमों का उल्लंघन करते हैं

इंस्टाग्राम उपयोगकर्ताओं ने बाल यौन शोषण पर अपने नियमों को भंग करने के मंच द्वारा गलत तरीके से आरोपी होने के बाद अपने खातों पर प्रतिबंध लगाने के “चरम तनाव” के बीबीसी को बताया है।

बीबीसी उन तीन लोगों के संपर्क में है, जिन्हें मूल कंपनी मेटा द्वारा बताया गया था कि उनके खातों को स्थायी रूप से अक्षम किया जा रहा था, केवल उन्हें पत्रकारों को उजागर करने के कुछ समय बाद ही उन्हें बहाल करने के लिए।

“मैंने नींद के अंतहीन घंटों को खो दिया है, अलग -थलग महसूस किया है। यह भयानक है, मेरे सिर पर इस तरह के आरोप का उल्लेख नहीं है,” पुरुषों में से एक ने बीबीसी न्यूज को बताया।

मेटा ने टिप्पणी करने से इनकार कर दिया।

बीबीसी न्यूज 100 से अधिक लोगों से संपर्क कर रहा है, जो दावा करते हैं कि मेटा द्वारा गलत तरीके से प्रतिबंधित किया गया है।

कुछ लोग अपने व्यावसायिक पृष्ठों से बंद होने के बाद कमाई के नुकसान की बात करते हैं, जबकि अन्य अब चित्रों और यादों के वर्षों तक पहुंच नहीं होने के दर्द को उजागर करते हैं। उनके मानसिक स्वास्थ्य पर इसका प्रभाव पड़ा है।

27,000 से अधिक लोगों ने एक याचिका पर हस्ताक्षर किए हैं, जिसमें मेटा के मॉडरेशन सिस्टम पर आरोप लगाया गया है, कृत्रिम बुद्धि द्वारा संचालित (एआई), खातों पर झूठा और फिर एक अपील प्रक्रिया है जो उद्देश्य के लिए अयोग्य है।

हजारों लोग भी इस विषय के लिए समर्पित रेडिट मंचों में हैं, और कई उपयोगकर्ताओं ने सोशल मीडिया पर प्रतिबंधित होने के बारे में पोस्ट किया है।

मेटा पहले है फेसबुक समूहों के साथ एक समस्या स्वीकार की लेकिन इनकार किया कि इसके प्लेटफॉर्म अधिक व्यापक रूप से प्रभावित थे।

बीबीसी ने अपनी पहचान की रक्षा के लिए इस टुकड़े में लोगों के नाम बदल दिए हैं।

स्कॉटलैंड में एबरडीन से डेविड को 4 जून को इंस्टाग्राम से निलंबित कर दिया गया था। उन्हें बताया गया कि उन्होंने मेटा के सामुदायिक मानकों का पालन नहीं किया है बाल यौन शोषण, दुरुपयोग और नग्नता।

उन्होंने उस दिन अपील की, और फिर इंस्टाग्राम और उनके संबद्ध फेसबुक और फेसबुक मैसेंजर अकाउंट्स पर स्थायी रूप से अक्षम कर दिया गया।

डेविड ने एक रेडिट थ्रेड पाया, जहां कई अन्य लोग पोस्ट कर रहे थे कि उन्हें बाल यौन शोषण पर भी गलत तरीके से प्रतिबंधित कर दिया गया था।

उन्होंने बीबीसी न्यूज को बताया, “हमने यादों के वर्षों में, 10 साल के संदेशों, फोटो और पोस्ट को पूरी तरह से अपमानजनक और विलेय आरोपों के कारण खो दिया है।”

उन्होंने कहा कि मेटा “एक शर्मिंदगी” थी, एआई-जनित उत्तरों के साथ और उनके सवालों के प्रति प्रतिक्रियाएं। उसे अभी भी पता नहीं है कि उसके खाते पर प्रतिबंध क्यों लगाया गया था।

“मैंने नींद के अंतहीन घंटों को खो दिया है, अत्यधिक तनाव, अलग -थलग महसूस किया। यह भयानक है, मेरे सिर पर इस तरह के आरोप का उल्लेख नहीं है।

“यद्यपि आप Reddit पर लोगों से बात कर सकते हैं, लेकिन परिवार के किसी सदस्य या सहकर्मी से बात करना और बात करना मुश्किल है। वे शायद इस संदर्भ को नहीं जानते हैं कि एक प्रतिबंध लहर चल रही है।”

बीबीसी ने 3 जुलाई को डेविड के मामले को मेटा में उठाया, क्योंकि कई लोगों में से एक, जिन्होंने दावा किया था कि उन्हें बाल यौन शोषण पर गलत तरीके से प्रतिबंधित कर दिया गया था। घंटों के भीतर, उनके खाते को बहाल कर दिया गया।

डेविड को भेजे गए एक संदेश में, और बीबीसी द्वारा देखा गया, टेक दिग्गज ने कहा: “हमें खेद है कि हमें यह गलत मिला है, और आप कुछ समय के लिए इंस्टाग्राम का उपयोग करने में सक्षम नहीं थे। कभी -कभी, हमें अपने समुदाय को सुरक्षित रखने में मदद करने के लिए कार्रवाई करने की आवश्यकता होती है।”

“यह मेरे कंधों से एक बड़ा वजन है,” डेविड ने कहा।

फैसल को 6 जून को कथित बाल यौन शोषण पर इंस्टाग्राम से प्रतिबंधित कर दिया गया था और डेविड की तरह, उसका फेसबुक अकाउंट भी निलंबित पाया गया।

लंदन का छात्र रचनात्मक कला में एक कैरियर शुरू कर रहा था, और निलंबित होने पर अपने इंस्टाग्राम पेज पर कमीशन के माध्यम से पैसा कमाना शुरू कर रहा था। उन्होंने यह महसूस करने के बाद अपील की कि उन्होंने कुछ भी गलत नहीं किया है, और उनके खाते को कुछ मिनट बाद प्रतिबंधित कर दिया गया।

उन्होंने बीबीसी न्यूज को बताया: “मुझे नहीं पता कि क्या करना है और मैं वास्तव में परेशान हूं।

“[Meta] गलत तरीके से मुझे एक अपराध का आरोप लगाते हैं जो मैंने कभी नहीं किया है, जो मेरी मानसिक स्थिति और स्वास्थ्य को भी नुकसान पहुंचाता है और इसने मुझे पिछले महीने में शुद्ध अलगाव में डाल दिया है। ”

उनका मामला 3 जुलाई को बीबीसी द्वारा मेटा के साथ भी उठाया गया था। लगभग पांच घंटे बाद, उनके खातों को बहाल कर दिया गया। उन्होंने मेटा से माफी के साथ, डेविड के रूप में सटीक ईमेल प्राप्त किया।

उन्होंने बीबीसी न्यूज को बताया कि उन्हें खबर सुनने के बाद “काफी राहत” मिली। “मैं अब इंस्टाग्राम पर अपना समय सीमित करने की कोशिश कर रहा हूं।”

फैसल ने कहा कि वह इस घटना से परेशान रहे, और अब चिंतित हैं कि यदि कोई पृष्ठभूमि की जांच उस पर की जाती है तो खाता प्रतिबंध आ सकता है।

एक तीसरे उपयोगकर्ता सलीम ने बीबीसी न्यूज को बताया कि उनके पास बाल यौन शोषण के उल्लंघन के लिए झूठे प्रतिबंधों का भी था।

उन्होंने पत्रकारों को अपने मामले पर प्रकाश डाला, जिसमें कहा गया था कि अपील “काफी हद तक नजरअंदाज कर दी गई है”, व्यावसायिक खाते प्रभावित हो रहे थे, और एआई “आम लोगों को आपराधिक अपमान करने वालों के रूप में लेबल कर रहा था”।

लगभग एक सप्ताह बाद उन्हें प्रतिबंधित कर दिया गया था, उनके इंस्टाग्राम और फेसबुक अकाउंट्स को बहाल कर दिया गया था।

बीबीसी न्यूज द्वारा पूछे जाने पर, मेटा ने डेविड, फैसल और सलीम के मामलों पर टिप्पणी करने से इनकार कर दिया, और इस बारे में सवालों के जवाब नहीं दिए कि क्या यह गलत तरीके से बाल दुर्व्यवहार अपराधों के उपयोगकर्ताओं पर आरोप लगाने में समस्या थी।

यह दुनिया के एक हिस्से में लगता है, हालांकि, यह स्वीकार किया है कि एक व्यापक मुद्दा है।

बीबीसी ने सीखा है कि दक्षिण कोरिया में नेशनल असेंबली में विज्ञान, आईसीटी, प्रसारण और संचार समिति के अध्यक्ष ने पिछले महीने कहा था कि मेटा ने गलत निलंबन की संभावना को स्वीकार किया था उसके देश के लोगों के लिए।

डॉ। कैरोलिना, नॉर्थम्ब्रिया यूनिवर्सिटी के सेंटर फॉर डिजिटल नागरिकों के एक सोशल मीडिया शोधकर्ता हैं, ने कहा कि यह जानना मुश्किल था कि समस्या की जड़ क्या थी क्योंकि मेटा इसके बारे में खुला नहीं था।

हालांकि, उसने सुझाव दिया कि यह कुछ सामुदायिक दिशानिर्देशों के शब्दों में हाल के बदलावों और एक व्यावहारिक अपील प्रक्रिया की कमी के कारण हो सकता है।

“मेटा अक्सर यह नहीं समझाती है कि यह क्या है कि विलोपन को ट्रिगर किया गया है। हम एल्गोरिथ्म के साथ गलत होने के लिए निजी नहीं हैं,” उसने बीबीसी न्यूज को बताया।

पिछले बयान में, मेटा ने कहा: “हम अपनी नीतियों का उल्लंघन करने वाले खातों पर कार्रवाई करते हैं, और लोग अपील कर सकते हैं कि अगर उन्हें लगता है कि हमने गलती की है।”

मेटा, सभी बड़ी प्रौद्योगिकी फर्मों के साथ आम तौर पर, अपने प्लेटफार्मों को सुरक्षित स्थान बनाने के लिए नियामकों और अधिकारियों से हाल के वर्षों में बढ़ते दबाव में आ गए हैं।

मेटा ने बीबीसी को बताया कि उसने अपने नियमों को तोड़ने वाले खातों को खोजने और हटाने के लिए लोगों और प्रौद्योगिकी के संयोजन का उपयोग किया, और गलत खाते के निलंबन में स्पाइक के बारे में पता नहीं था।

मेटा का कहना है कि इसकी बाल यौन शोषण नीति बच्चों और “मानव समानता के साथ गैर-वास्तविक चित्रण” से संबंधित है, जैसे कि कला, एआई या काल्पनिक पात्रों द्वारा उत्पन्न सामग्री।

मेटा ने कुछ सप्ताह पहले बीबीसी को भी बताया था यह संभावित संदिग्ध व्यवहारों की पहचान करने के लिए प्रौद्योगिकी का उपयोग करता हैजैसे कि वयस्क खातों को किशोर खातों, या वयस्कों द्वारा बार -बार “हानिकारक” शर्तों की खोज की जा रही है।

मेटा का कहना है कि जब यह “स्पष्ट बाल शोषण” के बारे में पता हो जाता है, तो यह इसे अमेरिका में नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइड चिल्ड्रन (NCMEC) को रिपोर्ट करता है। NCMEC ने बीबीसी न्यूज को बताया कि यह उन सभी रिपोर्टों को दुनिया भर में कानून प्रवर्तन के लिए उपलब्ध कराता है।