أعلنت شركة جوجل عن خطة لتوظيف العديد من المشرفين ، للإبلاغ عن المحتوى المزعج أو المتطرف ، وقد اعترفت شركة جوجل عملاقة صناعة البرمجيات أن الاعتماد على التكنولوجيا وحدها لن يحل العديد من المشكلات ، وقد قالت شركة يوتيوب المملوكة لشركة جوجل أنها ستزيد عدد الأشخاص الذين يرصدون المحتوى غير المناسب خلال العام المقبل 2018م ، حيث أنها ستستخدم ما يقرب من 10000 فرد من محرري المحتوى وغيرهم من المهنيين لمعالجة الانتهاكات الخاصة بسياسات المحتوى الذي يُعرض على يوتيوب ، وحتى الآن لم تعلن الشركة عن عدد الموظفين الحاليين الذين يقومون بمراقبة المحتوى ، ولكن أحد الأشخاص بالشركة قد أعلن أن عدد الموظفين في الموقع سوف يزيد بنسبة 25% .
وقد اتخذت الشركة تلك الخطوة بعد إرسال مجموعة من التقارير في الشهر الماضي ، عن مجموعة من الفيديوهات موجودة على الموقع وتعرض الأطفال في أوضاع مزعجة وعنيفة ، وقد أعلنت شركة جوجل أنها قامت بإزالة 150000من الفيديوهات العنيفة والمتطرفة في شهر يونيو ، كما قامت بإزالة ألآف من مقاطع الفيديو التي تعرض استغلال الأطفال أو تعرضهم للخطر ، والمثير للقلق أن بعض هذا المحتوى قد ظهر على تطبيق يوتيوب كيدز الذي سوقته الشركة خصيصًا للأطفال .
وتقول سوزان ووجسكي الرئيس التنفيذي ليوتيوب ، إن بعض الأطراف السيئة تستغل انفتاح الشركة ، للتلاعب أو المضايقة أو الإضرار بالمستخدمين ، وهدفنا هو أن نتقدم عليهم ، ونجعل من الصعب عرض على أي محتوى يبنتهك السياسة أن يبقى على يوتيوب .
والجدير بالذكر أن جميع شركات وادي السيلكون تصارع لإيجاد طريقة فعالة للتعامل مع المحتوى غير اللائق أو العنيف ، بما في ذلك مقاطع الفيديو التي تظهر بشكل حي على فيسبوك ، وتقول شركة جوجل أن كثير من الذين سيتم توظيفهم لمراقبة المحتوى سيكونون من المستوى المنخفض ، أما الباقي فسوف يكونون من لبخبراء والمتخصصين ، وسيعملون على تطوير خوارزميات جديدة لإحباط أي محاولة لعرض محتوى غير لائق .
وتقول الشركة أن برامج استخراج البيانات الخاصة بها قامت بإزالة حوالي 70% من المحتوى غير اللائق في خلال ثماني ساعات من التحميل، وأنها تأمل في تطوير البرمجيات بشكل أكبر حتى تكون قادرة على إزالة أغلب المحتوى غير اللائق .
ويقول بول ياريت نائب مدير مركز ستيرن للأعمال وحقوق الإنسان ، إن اتجاه الشركة لتوظيف البشر دليل أن كثير من المحتوى غير المرغوب فيه يتسرب من الثغرات الأمنية في برامج استخراج البيانات ، وأن توظيف البشر أمر مهم ، جنبًا إلى جنب مع البرمجيات التي من المستحيل أن تكون استجابتها مثل البشر ,
ويضيف أن قانون منصات التكنولوجيا لا يجرم الوسطاء أمثال شركة يوتيوب في عرض المحتوى الذي ينتهك الآداب إلا في حالة عرض مواد إباحية متعلقة بالأطفال ، لذلك يجب أن تتصدى تلك الشركات بقوة لهذا المحتوى ، لأن الإساءة للأطفال هو أحد الموضوعات الهامة التي يجب أن نتصدى لها .