فنلندا بالعربي من هلسنكي
كشف تحقيق أجرته صحيفة ميل أون صنداي البريطانية عن ثغرات في أنظمة الحماية على منصة “تيك توك”، بعدما تمكن حساب افتراضي لمستخدم يبلغ 14 عاما، مع تفعيل “الوضع المقيد”، من الوصول إلى مقاطع فيديو مولدة بالذكاء الاصطناعي تتضمن مشاهد عنيفة وصادمة.
وأجرت الصحيفة الاختبار من خلال إنشاء حساب لمراهق يبلغ 14 عاما، ثم تفعيل خاصية “الوضع المقيد” ومتابعة محتوى مرتبط ببرامج تلفزيونية موجهة للأطفال.
لكن خوارزمية المنصة بدأت، بحسب التحقيق، في اقتراح مقاطع أخرى تضمنت مشاهد عنيفة ومزعجة، بينها رسوم متحركة تحاكي التعذيب والاعتداءات الجنسية والعنف الشديد.
ويهدف “الوضع المقيد” في تيك توك إلى الحد من ظهور محتوى يتضمن العنف أو الأسلحة أو المخدرات أو الإيحاءات الجنسية والمواد الموجهة للبالغين. إلا أن التحقيق أشار إلى أن بعض المحتوى المولد بالذكاء الاصطناعي، خصوصا عندما يقدم في صورة رسوم متحركة، يمكن أن يفلت من بعض آليات التصنيف.
ومن بين المقاطع التي رصدتها الصحيفة فيديو كرتوني يظهر طبيبا يجري عملية جراحية عنيفة على وجه مريض في محاولة لتحويل ملامحه إلى شبيهة بنجمة تلفزيون الواقع كيم كارداشيان.
كما رصد التحقيق مقاطع أخرى تتناول الانتقام والعنف والإيذاء، بينها مشاهد ذات طابع جنسي وعنيف، وهو ما أثار تساؤلات بشأن مدى قدرة أدوات الرقابة المخصصة لحماية القاصرين على التعامل مع المحتوى الذي تنتجه تقنيات الذكاء الاصطناعي.
آلاف المقاطع المصطنعة
وسلط التحقيق الضوء على شركة “Director AI”، التي توفر أدوات لإنتاج مقاطع فيديو قصيرة باستخدام الذكاء الاصطناعي.
ووفقا لما أوردته الصحيفة، استُخدمت أدوات الشركة في إنتاج أكثر من 15 ألف مقطع فيديو، فيما حققت بعض هذه المقاطع انتشارا واسعا على منصات التواصل الاجتماعي.
وأحد المقاطع التي أشار إليها التحقيق تجاوز 120 مليون مشاهدة، ما يعكس حجم الانتشار الذي يمكن أن يحققه المحتوى المصطنع خلال فترة قصيرة.
ويرتبط انتشار هذه المقاطع بما يعرف بمحتوى “AI slop”، أي المواد منخفضة الجودة التي تنتج بكميات كبيرة باستخدام الذكاء الاصطناعي بهدف جذب المشاهدات وتحقيق الانتشار.
مسؤولية المنصة والشركة
من جانبها، رفضت شركة “Director AI” تحميلها مسؤولية المحتوى الذي ينتجه مستخدمو أدواتها، مؤكدة أن الشركة توفر التكنولوجيا، بينما يتخذ المستخدمون قراراتهم المتعلقة بالمحتوى الذي يريدون إنتاجه والمنصات التي يرغبون في نشره عليها.
وقالت الشركة إن الحسابات التي تنشر المقاطع على «تيك توك» ليست مملوكة لها، وإنها لا تدفع لأصحابها مقابل الترويج لتطبيقاتها.
وأضافت أن بعض المواد التي يمكن إنتاجها باستخدام أدواتها قد تتضمن موضوعات خيالية مخصصة للبالغين، معتبرة أن مسؤولية تحديد الفئة العمرية المناسبة وتطبيق أدوات الحماية تقع على المنصات التي تستضيف المحتوى.
تيك توك يحذف المقاطع
وفي ردها على التحقيق، أكدت «تيك توك» أن قواعد المجتمع الخاصة بها تحظر المحتوى الذي يروج للعنف أو يمجد الاعتداء والاستغلال الجنسيين.
وقالت المنصة إنها أزالت المقاطع التي قدمتها الصحيفة إليها للتحقيق، بعد التحقق من مخالفتها للقواعد.
لكن “ميل أون صنداي” أشارت إلى أن الحسابات التي نشرت المقاطع بقيت نشطة، واستمرت في نشر مواد أخرى اعتبرها التحقيق غير مناسبة للأطفال.
ويثير التحقيق تساؤلات بشأن مدى فعالية «الوضع المقيد» في مواجهة المحتوى الجديد الذي تنتجه أدوات الذكاء الاصطناعي، خصوصا مع قدرة هذه الأدوات على إنتاج كميات كبيرة من المقاطع التي قد تبدو للوهلة الأولى كرسوم أو قصص خيالية، رغم احتوائها على مشاهد لا تتناسب مع أعمار الأطفال والمراهقين.
وتضع النتائج مسؤولية إضافية على منصات التواصل، التي تواجه تحديا متزايدا يتمثل في تطوير أنظمة قادرة على التعرف ليس فقط على المحتوى الواقعي، وإنما أيضا على المحتوى الاصطناعي الذي يستخدم الرسوم المتحركة والأساليب الخيالية لتقديم مشاهد عنيفة أو جنسية أمام مستخدمين قاصرين.
