تم تغريم TikTok في إيطاليا بعد أن أدى نزاع “الندبة الفرنسية” إلى إجراء تحقيق بشأن سلامة المستهلك

فرضت هيئة المنافسة والمستهلك الإيطالية، AGCM، غرامة قدرها 10 ملايين يورو (حوالي 11 مليون دولار) على TikTok بعد تحقيق في مشكلات أمنية خوارزمية.

افتتحت الهيئة أ استطلاع العام الماضي في ما يسمى بتحدي “الندبة الفرنسية” حيث يُزعم أن مستخدمي المنصة شاركوا مقاطع فيديو لعلامات على وجوههم تم إجراؤها عن طريق قرص جلدهم.

في بيان صحفي وفي يوم الخميس، قال AGCM إن ثلاث شركات إقليمية تابعة لمجموعة ByteDance، وهي TikTok Technology Limited ومقرها أيرلندا، وTikTok Information Technologies UK Limited وTikTok Italy Srl، قد تم فرض عقوبات عليها بسبب ما تم تلخيصه على أنه “ممارسة تجارية غير عادلة”.

“لقد فشلت الشركة في وضع الآليات المناسبة لمراقبة المحتوى المنشور على المنصة، وخاصة ما يمكن أن يهدد سلامة القاصرين والأشخاص الضعفاء. بالإضافة إلى ذلك، يتم إعادة اقتراح هذا المحتوى بشكل منهجي للمستخدمين بسبب ملفات التعريف الخوارزمية الخاصة بهم، مما يحفز الاستخدام المتزايد باستمرار للشبكة الاجتماعية.

وأشارت الهيئة إلى أن تحقيقاتها أكدت مسؤولية تيك توك في نشر محتوى “من المرجح أن يهدد السلامة النفسية والجسدية للمستخدمين، خاصة إذا كانوا قاصرين وضعفاء”، مثل مقاطع الفيديو المرتبطة بتحدي “الندبة الفرنسية”. ووجدت أيضًا أن المنصة لم تتخذ الإجراءات الكافية لمنع انتشار مثل هذا المحتوى، وقالت إنها لا تمتثل تمامًا لإرشادات منصتها الخاصة.

كما انتقد AGCM الطريقة التي تطبق بها TikTok المبادئ التوجيهية – والتي يقول إنها يتم تطبيقها “دون النظر بشكل مناسب إلى نقاط الضعف المحددة لدى المراهقين”. وأشار، على سبيل المثال، إلى أن أدمغة المراهقين لا تزال في طور النمو وأن الشباب قد يكونون معرضين للخطر بشكل خاص لأنهم قد يتعرضون لضغط الأقران لتقليد سلوك المجموعة من أجل محاولة التأقلم اجتماعيا.

وتسلط ملاحظات الهيئة الضوء بشكل خاص على دور نظام التوصيات الخاص بـ TikTok في نشر محتوى “يحتمل أن يكون ضارًا”، مع التركيز على حافز المنصة لتعزيز المشاركة وزيادة تفاعلات المستخدم والوقت الذي يقضيه في الخدمة لزيادة إيرادات الإعلانات. يقوم النظام بتشغيل خلاصات “من أجلك” و”المتابعة” الخاصة بـ TikTok، ويعتمد افتراضيًا على التصنيف الخوارزمي للمستخدمين، وتتبع نشاطهم الرقمي لتحديد المحتوى الذي سيظهر لهم.

“يتسبب هذا في تكييف مفرط للمستخدمين الذين يتم تحفيزهم لاستخدام المنصة أكثر فأكثر،” اقترح AGCM في ملاحظة أخرى تبرز انتقاداتها للمشاركة المدفوعة بموجزات المحتوى القائمة على ملفات التعريف.

اتصلنا بالسلطة لطرح الأسئلة. لكن تقييمه السلبي لمخاطر التنميط الخوارزمي يبدو مثيرا للاهتمام في ضوء الأخبار سيتم إيقاف تشغيل الدعوات الواردة من بعض المشرعين الأوروبيين لخلاصات المحتوى المستندة إلى ملفات التعريف بشكل افتراضي.

مجموعات المجتمع المدني مثل ICCLيجادلون أيضًا بأنه من شأنه أن يوقف صنبور الغضب الذي تستثمره منصات التواصل الاجتماعي المدعومة بالإعلانات من خلال أنظمة التوصية القائمة على المشاركة، والتي لها تأثير جانبي يتمثل في تضخيم الانقسام وتقويض التماسك المجتمعي لتحقيق أغراض مربحة.

يعترض TikTok على قرار AGCM بفرض عقوبة.

وفي بيان، سعت المنصة إلى التقليل من تقييمها للمخاطر الخوارزمية التي يتعرض لها القُصّر والأشخاص الضعفاء من خلال وصف التدخل بأنه مرتبط بتحدي واحد مثير للجدل ولكنه صغير النطاق. إليك ما أخبرنا به TikTok:

نحن لا نتفق مع هذا القرار. بلغ متوسط ​​ما يسمى بمحتوى “الندبة الفرنسية” 100 عملية بحث يومية فقط في إيطاليا قبل إعلان AGCM في العام الماضي، وقد قصرنا منذ فترة طويلة ظهور هذا المحتوى على الأشخاص تحت 18 عامًا، وجعلناه أيضًا غير مؤهل لخلاصة For You.

على الرغم من أن التطبيق الإيطالي يقتصر على دولة عضو واحدة في الاتحاد الأوروبي، إلا أن المفوضية الأوروبية مسؤولة عن الإشراف على امتثال TikTok لأحكام المساءلة والشفافية الخوارزمية المنصوص عليها في قانون الخدمات الرقمية لعموم أوروبا (DSA) – حيث يمكن أن تصل عقوبات عدم الامتثال إلى ما يصل إلى 6.% من إجمالي حجم الأعمال السنوي. تم تصنيف TikTok كمنصة كبيرة جدًا بموجب DSA في أبريل من العام الماضي، ومن المتوقع امتثالها بحلول ذلك الوقت نهاية الصيف.

التغيير الملحوظ الناتج عن DSA هو يقدم TikTok للمستخدمين خلاصات بدون ملفات تعريف. ومع ذلك، يتم تعطيل هذه الخلاصات البديلة افتراضيًا، مما يعني أن المستخدمين يظلون خاضعين للتتبع والتوصيف المستند إلى الذكاء الاصطناعي ما لم يتخذوا خطوات لإلغاء الاشتراك بأنفسهم.

الشهر الماضي فتح الاتحاد الأوروبي تحقيقًا رسميًا في TikTok، مشيرًا إلى التصميمات المسببة للإدمان والمحتوى الضار وحماية القاصرين من بين مجالات تركيزه. ولا يزال هذا الإجراء مستمرا.

وقالت TikTok إنها تتطلع إلى فرصة تزويد اللجنة بشرح مفصل لنهجها في حماية القاصرين.

ومع ذلك، واجهت الشركة عددًا من الخلافات مع السلطات الإقليمية المعنية بسلامة الأطفال في السنوات الأخيرة، بما في ذلك التدخل لحماية الطفل ومن قبل هيئة حماية البيانات الإيطالية؛ غرامة قدرها 345 مليون يورو الخريف الماضي وحول حالات فشل حماية البيانات المرتبطة أيضًا بالقاصرين؛ وطويلة الأمد شكاوى من مجموعات حماية المستهلك و هو قلق بشأن الأمن البسيط والتنميط.

تواجه TikTok أيضًا إمكانية زيادة التنظيم من قبل الوكالات الأعضاء على مستوى الدولة التي تنفذ توجيهات خدمات الوسائط السمعية والبصرية للاتحاد الأوروبي. مثل تلك الموجودة في أيرلندا Coimisiún يعني الذي كان النظر في تطبيق القواعد إلى منصات مشاركة الفيديو التي قد تتطلب تعطيل خوارزميات التوصية المستندة إلى ملفات التعريف افتراضيًا.

الصورة ليست أكثر إشراقا بالنسبة للمنصة في الولايات المتحدة أيضا اقترح المشرعون للتو مشروع قانون لحظر TikTok ما لم تقطع العلاقات مع الشركة الأم الصينية ByteDance، مستشهدة بالأمن القومي وإمكانية قيام المنصة بتتبع المستخدمين وتحديد ملفاتهم الشخصية لتوفير وسيلة لحكومة أجنبية للتلاعب بالأمريكيين.