تم إصدار إعلانات Deepfake التي تظهر Jenna Ortega على منصات Meta. ويجب على شركات التكنولوجيا الكبرى أن تحارب هذا الأمر.
ال أزمة التزييف العميق استمر في المضي قدمًا. ميتا منصات بما في ذلك انستغرام, الفيسبوكو رسوليُزعم أنه تم استضافة إعلانات تم إنشاؤها بواسطة الذكاء الاصطناعي الأربعاء الممثلة جينا أورتيجا عارية.
مثل ذكرت ذلك ان بي سي نيوزاستخدمت الإعلانات صورة ضبابية لأورتيجا تم التقاطها عندما كانت في السادسة عشرة من عمرها وأخبرت المستخدمين بكيفية تغيير ملابس المشاهير، بما في ذلك خيار إزالة جميع الملابس. يُزعم أنه تم التلاعب بالصور من خلال تطبيق يسمى Perky AI، المُدرج على أنه تم تطويره بواسطة شركة RichAds، والموصوف في متجر تطبيقات Apple كمنصة تستخدم الذكاء الاصطناعي “لإنشاء أشخاص واقعيين أو خياليين للغاية” باستخدام المطالبات. يتضمن ذلك الصور “NSFW” (غير الآمنة للعمل)، والتي عادةً ما تكون صريحة جنسيًا.
بعد تقرير NBC، يدعي الناشر أن صفحة تطبيق Perky AI قد تم تعليقها بواسطة Meta، بعد أن قامت بالفعل بتشغيل 260 إعلانًا فريدًا عبر منصات الشركة منذ سبتمبر – كان من الممكن بث تلك الإعلانات التي تعرض صورة Ortega طوال شهر فبراير. من بين الإعلانات التي يتم عرضها على منصات Meta، يقول المنفذ إنه تم بالفعل تعليق 30 إعلانًا لعدم اتباع معايير الإعلان الخاصة بالشركة، ولكن الإعلانات التي تظهر Ortega لم تكن من بينها.
وفي بيان لموقع Mashable، قال المتحدث باسم Meta، ريان دانيلز: “تحظر Meta بشكل صارم عُري الأطفال، والمحتوى الذي يضفي طابعًا جنسيًا على الأطفال، والخدمات التي تعرض صورًا عارية تم إنشاؤها بواسطة الذكاء الاصطناعي بدون موافقة. وبينما يظل هذا التطبيق متاحًا على نطاق واسع في متاجر التطبيقات المختلفة، فقد قمنا بإزالة هذه الإعلانات والحسابات التي تقف خلفها.”
يبدو أيضًا أنه تمت إزالة Perky AI من Apple App Store وGoogle Play (تم فحص Mashable وهو غير متوفر على أي منهما). وقالت شركة آبل لشبكة NBC إن التطبيق تمت إزالته في 16 فبراير، بعد أن قامت الشركة بالفعل بالتحقيق فيه لانتهاكه سياساتها المتعلقة بـ “المواد الجنسية أو الإباحية بشكل علني”.
اتصل Mashable بشركة Apple وGoogle للحصول على مزيد من التعليقات.
هذه الحادثة هي الأحدث في سلسلة من التزييفات العميقة غير الرضائية والصريحة جنسيًا والتي يتم تداولها على الإنترنت. في الشهرين الأولين من عام 2024، صور المشاهير مثل تايلور سويفت و مضيف البودكاست بوبي ألثوف انتشرت عبر منصات التواصل الاجتماعي الرئيسية، بما في ذلك X، المعروف سابقًا باسم Twitter. وقد تسللت تقنية التزييف العميق أيضًا إلى المدارس، حيث انتشرت مؤخرًا صور عارية مزيفة للطلاب. كلية في بيفرلي هيلز و مدرسة ثانوية في ضواحي سياتل.
فالمسألة وصلت إلى نقطة حرجة، مع تحذير من الخبراء ان التغيير القانوني والمجتمعي هناك حاجة ماسة. وجدت Subsum، وهي منصة للتحقق من الهوية، أن الكشف وقد زادت التزييف العميق عشرة أضعاف بين عامي 2022 و2023. وقد كافحت العديد من منصات التواصل الاجتماعي لاحتواء هذا النوع من المحتوى: في الأشهر القليلة الماضية وحدها، جوجل, Xو ميتا تم انتقادهم لسماحهم بنشر المواد المزيفة على منصاتهم.
إذا شاهد المستخدمون إعلانًا على منصة يعتقدون أنه يجب الإبلاغ عنه، فإن أدلة الشركة تحتوي على تعليمات حول كيفية القيام بذلك. يتيح Meta للمستخدمين الإبلاغ عن الإعلانات الفيسبوك أو انستغرامبينما تقدم أبل العديد من المواضيع المجتمعية التي تساعد المستخدمين على الإبلاغ عن الإعلانات داخل التطبيق، على سبيل المثال. تساعد Google أيضًا المستخدمين الإبلاغ عن الإعلانات غير المناسبة عبر نموذج.
لكن بعض هذه التدابير ليست كافية لوقف انتشار المحتوى الناتج عن الذكاء الاصطناعي. يجب على شركات التكنولوجيا الكبرى أن تتخذ إجراءات مهمة لمكافحة ما يبدو أنه أصبح وباءً، وغالبًا ما يستهدف الفتيات والنساء والأشخاص المهمشين.
إذا كنت ضحية لاعتداء جنسي، أو إذا كنت تقيم في الولايات المتحدة، فاتصل بالخط الساخن الوطني المجاني والسري للاعتداء الجنسي على الرقم 1-800-656-HOPE (4673)، أو احصل على المساعدة عبر الإنترنت على مدار الساعة طوال أيام الأسبوع أثناء زيارتك online.rainn.org. إذا تمت مشاركة الصور الحميمة دون موافقتك، فاتصل بالخط الساخن لمبادرة الحقوق المدنية السيبرانية على مدار الساعة طوال أيام الأسبوع على 844-878-2274 للحصول على مساعدة مجانية وسرية. يتضمن موقع CCRI أيضًا معلومات مفيدة فضلا عن قائمة الموارد الدولية.
إذا كنت تعيش في المملكة المتحدة وكنت ضحية لإساءة استخدام الصور الحميمية (أي الإباحية الانتقامية)، فيمكنك الاتصال بـ خط المساعدة الاباحية الانتقام على 03456000459. إذا كنت ضحية للعنف الجنسي وتعيش في المملكة المتحدة، فاتصل بخط المساعدة الخاص بأزمة الاغتصاب. 0808 802 9999.
