يخطط Instagram لطمس الصور العارية المرسلة إلى المراهقين، على أمل مكافحة عمليات الاحتيال الجنسي
تتخذ Meta المزيد من الخطوات لمحاولة مكافحة جرائم الابتزاز الجنسي التي تستهدف المراهقين على Instagram. الأعمال الخميس إعلان تخطط الشركة لاختبار الصور العارية الباهتة في الرسائل المباشرة المرسلة إلى المراهقين وحتى منع المحتالين المحتملين من الاتصال بالمراهقين.
افتراضيًا، سيتم تمكين الحماية من العري عالميًا للرسائل المرسلة إلى المراهقين الذين تقل أعمارهم عن 18 عامًا. ويخطط Instagram أيضًا لعرض إشعار للبالغين يدعوهم إلى تمكين الميزة. بالإضافة إلى ذلك، سيُطلب من أي شخص يحاول إرسال صورة عارية توخي الحذر عند مشاركة مثل هذه الصور وسيتم إبلاغه بأنه يمكنه إلغاء إرسال الصور إذا غير رأيه.
ومع تأثير الابتزاز الجنسي وعمليات الاحتيال الأخرى على مستخدمي وسائل التواصل الاجتماعي، تأمل ميتا أن تعمل ميزة التعتيم على حماية المراهقين والبالغين من العري غير المرغوب فيه في منشوراتهم. تم تصميم هذه الميزة أيضًا لحماية المراهقين على وجه التحديد من المحتالين الذين يرسلون صورًا عارية لخداعهم للرد بصور عارية لأنفسهم.
أيضًا: تحصل Instagram DMs على ميزة التحرير وتحصل Threads على الإيماءات
سيرى أي شخص يتلقى رسالة تحتوي على صورة عارية وغير واضحة شاشة تحذير تسمح له باختيار ما إذا كان يريد عرض النسخة غير الواضحة أم لا. سيرى المستلمون أيضًا رسالة تخبرهم بعدم الشعور بأي ضغط للرد وسيتم عرض طريقة لحظر المرسل والإبلاغ عنه.
سيرى الأشخاص الذين يرسلون أو يتلقون صورًا عارية نصائح تتعلق بالسلامة حول المخاطر المحتملة. على سبيل المثال، قد يقوم الأفراد الضارون بالتقاط هذه الصور أو نقلها إلى الآخرين، وهو تكتيك يستخدم في عمليات الاحتيال الجنسي. ستوفر النصائح أيضًا روابط لموارد مختلفة، بما في ذلك مركز ميتا للأمن, خطوط المساعدة الهاتفية, StopNCII.org للبالغين فوق 18 عامًا، و أخذ ذلك قبالة للمراهقين أقل من 18 سنة.
يعد اكتشاف العري في الصورة تحديًا تقنيًا للغاية. وقال ميتا إن ميزة حماية العري في Instagram ستستخدم التعلم الآلي على الجهاز لتحليل الصورة. وبما أن الصور يتم تصنيفها على الجهاز وليس عبر الإنترنت، فإن الميزة ستعمل حتى مع الدردشات المشفرة من طرف إلى طرف.
وقالت ميتا إنها تعمل أيضًا على طريقة لاستخدام إشارات معينة لتحديد الحسابات التي قد تكون متورطة في عمليات احتيال الابتزاز الجنسي. وعلى الرغم من أن هذه الإشارات ليست بالضرورة دليلاً على مثل هذا الاحتيال، إلا أن الفكرة تكمن في اتخاذ بعض الإجراءات الاحترازية لمنع هذه الحسابات من التفاعل مع المراهقين. على وجه التحديد، سيضع Instagram جميع طلبات الرسائل من حسابات الابتزاز الجنسي المحتملة في مجلد الطلبات المخفية للمستلم (حيث ستظل غير مرئية). إشعار سلامة للمراهقين الذين يتبادلون الرسائل بالفعل مع حسابات الابتزاز الجنسي المحتملة، وإخفاء زر الرسالة في الملفات الشخصية للمراهقين من حسابات الابتزاز الجنسي المحتملة.
أيضًا: 41 ولاية أمريكية ترفع دعوى قضائية ضد شركة Meta بسبب مزاعم أن Instagram و Facebook ضاران
وقالت Meta إنها تختبر أيضًا رسائل منبثقة جديدة للمستخدمين الذين ربما كانوا يتحدثون مع حساب منذ حذفه بسبب الابتزاز الجنسي. ستقوم الرسائل بتوجيه الأشخاص إلى صديق وإلى موارد مختلفة، بما في ذلك إيقاف مركز الابتزاز الجنسي, خطوط المساعدة الهاتفية, StopNCII.org لمن هم فوق 18، و أخذ ذلك قبالة لأقل من 18 سنة.
نظرًا لأن الذكاء الاصطناعي والتعلم الآلي بعيدان عن الكمال، فإنه يطرح السؤال: ما هي الإشارات التي ترسلها Meta إلى نظامها للكشف عن حسابات الابتزاز الجنسي المحتملة؟ فكيف يمكن للمتهمين خطأً بهذه الطريقة أن يردوا؟ في منشوره، لم يشرح ميتا بالضبط كيف ستعمل عملية تحديد هويته.
