السياسي -متابعات
كشفت صحيفة “ذا ميل أون صنداي” البريطانية عن ثغرات في إعدادات الأمان الخاصة بتطبيق “تيك توك”، قالت إنها تسمح بوصول مقاطع فيديو عنيفة ومزعجة مولدة بالذكاء الاصطناعي إلى حسابات أطفال، رغم تفعيل “الوضع المقيد” المخصص لحجب المحتوى غير الملائم.
وبحسب تحقيق أجرته الصحيفة، فإن بعض المقاطع تتضمن مشاهد تحاكي العنف والتعذيب والاعتداءات الجنسية، في وقت تعتمد فيه ملايين الأسر على أدوات الرقابة داخل التطبيق لحماية أبنائها من مثل هذا النوع من المحتوى.
ثغرات في “الوضع المقيد”
ويهدف “الوضع المقيد” في “تيك توك” إلى تقليل ظهور المحتوى الذي يتضمن ألفاظًا نابية أو أسلحة أو إيحاءات جنسية أو مخدرات أو مشاهد عنيفة ومحتوى مخصصًا للبالغين.
غير أن الصحيفة قالت إنها أنشأت، لأغراض التحقيق، حسابًا يبلغ عمر صاحبه الافتراضي 14 عامًا، وفعّلت عليه الوضع المقيد، قبل أن تستخدمه في مشاهدة محتوى مرتبط ببرامج تلفزيونية للأطفال.
ورغم ذلك، وجد التحقيق أن الحساب تلقى لاحقًا مقاطع تتضمن مواد تندرج ضمن عدد من الفئات التي يفترض أن تقوم إعدادات الأمان بتقييدها.
وترى الصحيفة أن جزءًا من المشكلة يعود إلى طبيعة قواعد المنصة؛ إذ تحظر “العنف الواقعي” وبعض أنواع المحتوى الجنسي، بينما قد تتمكن المقاطع الكرتونية أو المولدة بالذكاء الاصطناعي من تجاوز بعض آليات التصنيف.
15 ألف مقطع بالذكاء الاصطناعي
وسلط التحقيق الضوء على شركة ناشئة تحمل اسم “Director AI”، توفر أدوات تعتمد على الذكاء الاصطناعي لإنتاج مقاطع فيديو قصيرة.
وبحسب الصحيفة، استُخدمت أدوات الشركة في إنتاج أكثر من 15 ألف مقطع، بعضها صُمم بطريقة تستهدف جذب المستخدمين إلى مواصلة المشاهدة.
وأشارت إلى أن أحد المقاطع المنشورة عبر حساب ضمن شبكة تضم عشرات الحسابات تجاوز 120 مليون مشاهدة، ويتضمن مشهدًا كرتونيًا لطبيب يجري عملية جراحية عنيفة بهدف تحويل ملامح مريض إلى شبيه لنجمة تلفزيون الواقع كيم كارداشيان.
كما رصد التحقيق مقاطع أخرى تقوم على قصص انتقام وعنف وإيذاء، وتُقدم في قالب درامي سريع ومثير.
ويدير “Director AI” بن تشيانغ، المدير السابق في شركة “سناب شات”، والذي سبق أن وصف هذا النوع من المقاطع علنًا بأنه محتوى منخفض الجودة مولد بالذكاء الاصطناعي.
وبعد تواصل الصحيفة مع الجهات المعنية، جرى تغيير التصنيف العمري للتطبيق قبل تحديثه التالي.
“تكوين ثروة على حساب الأطفال”
وحذرت الدكتورة كاثرين نيبس، المتخصصة في السلامة على الإنترنت والمعالجة النفسية، من الأثر المحتمل لهذا النوع من المواد على الأطفال.
وقالت إن القضية ترتبط، من وجهة نظرها، بتحقيق أرباح على حساب سلامة القاصرين، معتبرة أن المحتوى المصمم بهذه الطريقة يمكن أن يسبب أضرارًا نفسية لدى الأطفال.
كما علقت لورا تروت، وزيرة التعليم في حكومة الظل البريطانية، قائلة إنه لا ينبغي التساهل مع تعرض الأطفال على الإنترنت لمحتوى لا يمكن قبول تعرضهم له في العالم الواقعي، داعية إلى تشديد إجراءات حماية القاصرين على منصات التواصل الاجتماعي.
الشركة ترد
من جانبه، رفض تشيانغ تحميل “Director AI” مسؤولية نشر جميع المقاطع المنتجة باستخدام أدواتها.
وأوضح أن الشركة توفر تقنيات لإنتاج الفيديو بالذكاء الاصطناعي، فيما يتخذ المستخدمون أنفسهم القرارات التحريرية المتعلقة بالمحتوى ويختارون المنصات التي ينشرونه عليها، بما في ذلك “تيك توك”.
وأضاف أن الشركة لا تمتلك الحسابات التي تنشر هذه المقاطع ولا تدفع لأصحابها مقابل الترويج لتطبيقها.
وأشار إلى أن بعض المواد المنتجة باستخدام أدوات الشركة قد تتناول موضوعات خيالية مخصصة للبالغين، إلا أن مسؤولية تحديد أهلية عرض المحتوى وتطبيق مرشحات “الوضع المقيد” تقع على عاتق المنصات التي تستضيفه.
تيك توك يحذف المقاطع
بدوره، أكد متحدث باسم “تيك توك” أن إرشادات المجتمع تحظر المحتوى الذي يروج للعنف أو يمجد الاعتداء والاستغلال الجنسيين، مشيرًا إلى إزالة أي مقطع يثبت انتهاكه لهذه المعايير.
وبعد إثارة القضية، أزال التطبيق المقاطع التي أشار إليها التحقيق، إلا أن الصحيفة قالت إن الحسابات التي نشرتها بقيت نشطة، واستمرت في عرض مواد أخرى اعتبرتها غير ملائمة.