أعلنت شركة "ميتا" أنها "أصلحت خطأ تقنياً بعد أن أبلغ مستخدمو إنستغرام عن عدد كبير ومفاجئ من المحتوى العنيف والغرافيكي يظهر لهم عبر خاصية الفيديوهات REELS".

واعتذرت شركة "ميتا" وقالت إنها أصلحت "خطأ" أدى إلى قيام بعض مستخدمي "إنستغرام" بالإبلاغ عن عدد كبير ومفاجئ من المحتوى العنيف والغرافيكي الموصى به على خاصية "Reels" الشخصية الخاصة بهم.

وصرح متحدث باسم "ميتا" في بيان نشرته شبكة "CNBC" قائلاً: "لقد أصلحنا خطأ تسبب في رؤية بعض المستخدمين لمحتوى في موجز "Instagram Reels" الخاص بهم لم يكن من المفترض التوصية به.. نعتذر عن الخطأ".

ويأتي البيان بعد أن لجأ عدد من مستخدمي "إنستغرام" إلى منصات التواصل الاجتماعي المختلفة للتعبير عن مخاوفهم بشأن التدفق الأخير للتوصيات بالمحتوى العنيف و"غير الآمن للعمل".

وقال بعض المستخدمين إنهم "شاهدوا مثل هذا المحتوى، حتى مع تمكين التحكم في المحتوى الحساس في إنستغرام إلى أعلى إعداد تعديل".

ووفقا لسياسة "ميتا"، تعمل الشركة على حماية المستخدمين من الصور المزعجة وإزالة المحتوى العنيف أو الغرافيكي بشكل خاص.

وقد يشمل المحتوى المحظور "مقاطع فيديو تصور تقطيع أوصال أو أحشاء مرئية أو جثث متفحمة"، فضلاً عن "التعليقات السادية تجاه الصور التي تصور معاناة البشر والحيوانات".

ومع ذلك، تقول "ميتا" إنها تسمح ببعض المحتوى الغرافيكي إذا كان يساعد المستخدمين على وزيادة الوعي بقضايا مهمة مثل انتهاكات حقوق الإنسان أو النزاعات المسلحة أو أعمال "الإرهاب". وقد يأتي مثل هذا المحتوى مع قيود، مثل ملصقات التحذير.

وفي ليلة الأربعاء في الولايات المتحدة، تمكنت "CNBC" من مشاهدة العديد من المنشورات على "Instagram reels" التي بدت وكأنها تُظهر جثثا وإصابات مروعة واعتداءات عنيفة. تم تصنيف المنشورات على أنها "محتوى حساس".

وحسب موقع "ميتا" على الويب، فإنه يستخدم تقنية داخلية وفريقا يضم أكثر من 15000 مراجع للمساعدة في اكتشاف الصور المزعجة.

وتساعد التقنية، التي تتضمن أدوات الذكاء الاصطناعي والتعلم الآلي، في تحديد أولويات المنشورات وإزالة "الغالبية العظمى من المحتوى المخالف" قبل أن يبلغ عنه المستخدمون، كما يذكر الموقع.

وعلاوة على ذلك، تعمل "ميتا" على تجنب التوصية بالمحتوى على منصاتها والذي قد يكون "رديء الجودة أو غير مقبول أو حساس أو غير مناسب للمشاهدين الأصغر سنا".

ومع ذلك، يأتي الخطأ في "Instagram Reels" بعد أن أعلنت "ميتا" عن خطط لتحديث سياسات الاعتدال الخاصة بها في محاولة لتعزيز حرية التعبير بشكل أفضل.

وفي بيان نُشر في 7 كانون الثاني، أوضحت الشركة أنها "ستغير الطريقة التي تطبق بها بعض قواعد المحتوى الخاصة بها من أجل تقليل الأخطاء التي أدت إلى رقابة المستخدمين".

وذكرت "ميتا" أن "هذا يشمل تحويل أنظمتها الآلية من البحث عن جميع انتهاكات السياسة إلى التركيز على الانتهاكات غير القانونية وعالية الخطورة، مثل الإرهاب والاستغلال الجنسي للأطفال والمخدرات والاحتيال والنصب".

وأضافت الشركة أنه "بالنسبة لانتهاكات السياسة الأقل خطورة، ستعتمد على المستخدمين للإبلاغ عن المشكلات قبل اتخاذ الإجراءات".

وفي الوقت نفسه، أشارت "ميتا" إلى أن "أنظمتها كانت تخفض مستوى الكثير من المحتوى بناء على توقعات بأنه قد ينتهك المعايير وأنها في صدد التخلص من معظم هذه التخفيضات".

كما أعلن الرئيس التنفيذي مارك زوكربيرغ أن "الشركة ستسمح بمزيد من المحتوى السياسي وتغير برنامج التحقق من الحقائق الخاص بها من خلال نموذج ملاحظات المجتمع، على غرار النظام الموجود على منصة إيلون ماسك، منصة X".

وقد تم النظر إلى هذه التحركات على نطاق واسع على أنها جهد من جانب زوكربيرغ لإصلاح العلاقات مع الرئيس الأميركي دونالد ترامب، الذي انتقد سياسات الاعتدال الخاصة بـ"ميتا" في الماضي.

ولفت متحدث باسم "ميتا" إلى أن "الرئيس التنفيذي زار البيت الأبيض في وقت سابق من هذا الشهر لمناقشة كيف يمكن لميتا مساعدة الإدارة في الدفاع عن القيادة التكنولوجية الأميركية وتعزيزها في الخارج".

يذكر أنه كجزء من موجة تسريحات العمال في مجال التكنولوجيا في عامي 2022 و2023، قامت "ميتا" بتسريح 21000 موظف، أي ما يقرب من ربع قوتها العاملة، مما أثر على الكثير من فرق النزاهة المدنية والثقة والسلامة.