تعتمد جميع منصات التواصل الاجتماعي على اهتمامات المستخدمين لعرض المحتوى الذي يناسبهم، ومن هذه المنصات إنستغرام، وخاصة خدمة Reels التي تعرض مقاطع فيديو قصيرة للمستخدمين تتناول موضوعات تهمهم بناءً على سجل سلوكهم.
وكشفت صحيفة وول ستريت جورنال في تجربتها أن التطبيق المملوك لشركة ميتا يروج لمحتوى استغلال جنسي للأطفال.
وأنشأت الصحيفة مجموعة حسابات لاختبار ما سيقدمه لها إنستغرام، وتابعت حسابات وصفحات لاعبي الجمباز الشباب، وفرق التشجيع النسائية، وصانعي المحتوى للأطفال والمراهقين.
وكانت المفاجأة صادمة إذ أن أنظمة التطبيقات قدمت اقتراحات ومحتوى صادمًا وفاحشًا لهذه الحسابات التجريبية، بما في ذلك مقاطع فيديو جريئة للأطفال، بالإضافة إلى مقاطع فيديو ذات طبيعة جنسية واضحة، وإعلانات لبعض أكبر العلامات التجارية في الولايات المتحدة.
كما تابعت الحسابات التجريبية للصحيفة عددًا من تلك الحسابات، وكشفت أن خوارزميات التطبيق بدأت بعد ذلك في إنتاج محتوى أكثر إثارة للقلق، بما في ذلك الإعلانات.
وفي سلسلة من مقاطع الفيديو التي أوصت بها خوارزميات إنستغرام، ظهر إعلان لتطبيق المواعدة Bumble بين مقطع فيديو لشخص يداعب وجه دمية بحجم الإنسان، ومقطع فيديو آخر لفتاة صغيرة وجهها محجوب، ترفع قميصها إلى الأعلى و تكشف عن وسطها.
وفي إعلان آخر، أعقب إعلان بيتزا هت مقطع فيديو لرجل يرقد على سرير ويضع ذراعه حول ما وصفه أحد التعليقات على الفيديو بأنها فتاة تبلغ من العمر 10 سنوات.
وأجرى المركز الكندي لحماية الطفل اختبارات مستقلة مماثلة وتوصل إلى نتائج مماثلة، بحسب صحيفة وول ستريت جورنال.
وفي ردها على نتائج التقرير، قالت ميتا إن الاختبارات التي أجرتها الصحيفة “أسفرت عن تجربة مفتعلة لا تمثل ما يراه مليارات المستخدمين”.
ورفضت الشركة التعليق على سبب قيام خوارزميات التطبيق بفصل مقاطع الفيديو التي تعرض الأطفال والجنس مع الإعلانات، لكن متحدثًا باسمها قال إنها قدمت في أكتوبر أدوات جديدة لسلامة العلامة التجارية تمنح المعلنين تحكمًا أكبر في مكان ظهور إعلاناتهم، وأن التطبيق يزيل، أو يقلل من أهمية 4 ملايين مقطع فيديو يشتبه في انتهاك معاييرها كل شهر.
ونقلت الصحيفة عن موظفين حاليين وسابقين في الشركة قولهم إن احتمال قيام خوارزميات إنستغرام بجمع محتوى جنسي للأطفال معروف داخليا بأنه يمثل مشكلة.
وكشف الموظفون أنه بمجرد أن يصنف Instagram المستخدم على أنه مهتم بموضوع معين، تعرض له الأنظمة المزيد من المحتوى المشابه.
وقالت الصحيفة إن وثائق الشركة التي استعرضتها تظهر أن موظفي السلامة في ميتا ممنوعون على نطاق واسع من إجراء أي تغييرات على المنصة قد تقلل من عدد المستخدمين النشطين يوميًا.
وذكرت الصحيفة، على سبيل المثال، أن إنستغرام عرض إعلانات تشجع المستخدمين على زيارة ديزني لاند لقضاء الإجازة، بجانب مقطع فيديو لامرأة بالغة تتظاهر بممارسة الجنس مع والدها، ومقطع آخر لامرأة شابة ترتدي ملابس داخلية تقطر منها دماء مزيفة.
