يتخذ Google Play إجراءات صارمة ضد تطبيقات الذكاء الاصطناعي بعد انتشار تطبيقات إنشاء صور عارية عميقة

تصدر Google اليوم إرشادات جديدة للمطورين الذين يقومون بإنشاء تطبيقات الذكاء الاصطناعي الموزعة من خلال Google Play، على أمل تقليل المحتوى غير المناسب والمحظور. وتقول الشركة إن التطبيقات التي توفر قدرات الذكاء الاصطناعي ستحتاج إلى منع إنشاء محتوى مقيد – والذي يتضمن المحتوى الجنسي والعنف وما إلى ذلك. – وسيحتاج إلى تزويد المستخدمين بطريقة للإبلاغ عن المحتوى المسيء الذي يجدونه. بالإضافة إلى ذلك، تقول جوجل إنه يجب على المطورين “اختبار أدوات ونماذج الذكاء الاصطناعي الخاصة بهم بدقة”، لضمان احترامهم لأمن المستخدم وخصوصيته.

يتعلق الأمر أيضًا باتخاذ إجراءات صارمة ضد التطبيقات التي تروج موادها التسويقية لحالات الاستخدام غير الملائمة، مثل التطبيقات التي تجرد الأشخاص من ملابسهم أو تنشئ صورًا عارية بدون موافقة. إذا كانت نسخة الإعلان تنص على أن التطبيق قادر على القيام بهذا النوع من الأشياء، فقد يتم حظره من Google Play، سواء كان التطبيق قادرًا بالفعل على القيام بمثل هذا الشيء أم لا.

تتبع هذه الإرشادات آفة متزايدة من تطبيقات الذكاء الاصطناعي التي قامت بتسويق نفسها على وسائل التواصل الاجتماعي في الأشهر الأخيرة. تقرير أبريل من 404 وسائل الإعلامعلى سبيل المثال، اكتشفت أن Instagram كان يستضيف إعلانات لتطبيقات تدعي أنها تستخدم الذكاء الاصطناعي لإنشاء صور عارية مزيفة. وقام أحد التطبيقات بتسويق نفسه باستخدام صورة لكيم كارداشيان وشعار “خلع ملابس أي فتاة مجانًا”. قامت Apple وGoogle بإزالة التطبيقات من متاجر التطبيقات الخاصة بهما، لكن المشكلة لا تزال منتشرة على نطاق واسع.

المدارس في جميع أنحاء الولايات المتحدة تبلغ عن مشاكل مع طلاب عابر حول يحاكي الذكاء الاصطناعي عراة الطلاب الآخرين (وأحيانًا معلمون) للترهيب والمضايقة، فضلا عن أنواع أخرى من غير مناسب محتوى الذكاء الاصطناعي. في الشهر الماضي، أدى التزييف العميق للذكاء الاصطناعي العنصري لمدير مدرسة إلى إلى الاعتقال في بالتيمور. والأسوأ من ذلك أن المشكلة موجودة يؤثر على طلاب المدارس المتوسطةفي بعض الحالات.

تقول Google إن سياساتها ستساعد في استبعاد التطبيقات من Google Play التي تحتوي على محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي والذي قد يكون غير مناسب أو ضارًا للمستخدمين. ويؤكد وجودها سياسة المحتوى الناتج عن الذكاء الاصطناعي كمكان للتحقق من متطلبات الموافقة على التطبيق على Google Play. وتقول الشركة إن تطبيقات الذكاء الاصطناعي لا يمكنها السماح بإنشاء محتوى مقيد، ويجب عليها أيضًا أن تمنح المستخدمين طريقة للقيام بذلك. الإبلاغ عن الانتهاك والمحتوى غير المناسب، بالإضافة إلى مراقبة هذه التعليقات وتحديد أولوياتها. هذه النقطة الأخيرة مهمة بشكل خاص في التطبيقات حيث تفاعلات المستخدم “تشكل المحتوى والتجربة”، كما تقول جوجل – مثل التطبيقات التي قد يتم فيها تصنيف النماذج الشائعة في مرتبة أعلى أو أكثر وضوحًا.

لا يمكن للمطورين أيضًا الإعلان عن أن تطبيقهم ينتهك سياسات Google Play، وفقًا لسياسات Google. متطلبات ترويج التطبيق. إذا أعلن عن حالة استخدام غير مناسبة، فيمكن بدء تشغيل التطبيق من متجر التطبيقات.

بالإضافة إلى ذلك، يتحمل المطورون أيضًا مسؤولية حماية تطبيقاتهم من المطالبات التي قد تتلاعب بميزات الذكاء الاصطناعي الخاصة بهم لإنشاء محتوى ضار ومسيء. تقول Google أنه يمكن للمطورين استخدام اختبارات مغلقة ميزة لمشاركة الإصدارات المبكرة من تطبيقاتهم مع المستخدمين للحصول على تعليقات. وتقترح الشركة بشدة ألا يقوم المطورون بالاختبار قبل الإطلاق فحسب، بل يقومون أيضًا بتوثيق هذه الاختبارات، حيث قد تطلب Google مراجعتها في المستقبل.

وتنشر الشركة أيضًا موارد أخرى وأفضل الممارسات، مثل الناس + دليل الذكاء الاصطناعيوالذي يهدف إلى مساعدة المطورين على إنشاء تطبيقات الذكاء الاصطناعي.