جديد لعبة جوجل تضع المبادئ التوجيهية أصفادًا على تطبيقات الذكاء الاصطناعي التوليدية التي تقدم أدوات مشكوك فيها، مثل تطبيقات “التعري” العميقة وتلك التي تنتج محتوى رسوميًا.
ال تحديث سياسة متجر التطبيقاتأعلنت شركة جوجل يوم الخميس، أنها تطلب من تطبيقات الذكاء الاصطناعي ومطوريها اتخاذ احتياطات ضد المحتوى المسيء، “بما في ذلك المحتوى المحظور المدرج ضمن برنامج Google Play”. محتوى غير لائق السياسات والمحتوى الذي قد يستغل الأطفال أو يسيء إليهم، والمحتوى الذي قد يضلل المستخدمين أو يمكّن من السلوك غير النزيه.
يجب على المطورين أيضًا توفير ميزات داخل التطبيق آليات الإبلاغ والإبلاغ للمستخدمين الذين يصادفون محتوى غير لائق ويقومون “باختبار صارم” لنماذج الذكاء الاصطناعي الخاصة بهم، تك كرانش ذكرت.
تنطبق القواعد على التطبيقات التي تنتج محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي في “أي مجموعة من الإدخال الفوري للنص والصوت والصورة”. يتضمن ذلك برامج الدردشة الآلية ومولدات الصور وتطبيقات انتحال الصوت باستخدام الذكاء الاصطناعي التوليدي. لا تنطبق السياسات على التطبيقات التي “تستضيف فقط” محتوى الذكاء الاصطناعي أو تلك التي تحتوي على “أدوات إنتاجية” للذكاء الاصطناعي، مثل إمكانيات التلخيص.
سرعة الضوء قابلة للسحق
في يمكنأعلنت شركة جوجل أنها تقلل من قيمة النتائج الإباحية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي (أو “الاصطناعية”) في تصنيفات البحث الداخلية الخاصة بها، في محاولة لحل مشكلة متنامية تتمثل في المواد الإباحية غير التوافقية والمزيّفة بعمق. حظرت الشركة أيضًا الإعلان عن مواقع الويب التي تنشئ أو تدعم أو تقارن المواد الإباحية العميقة.
جاءت هذه الخطوة بعد موجة من التزييف العميق الذي يركز على المشاهير، والذي تم تداوله على منصتي X وMeta، بما في ذلك الإعلانات الرسومية لتطبيق خلع الملابس المدعوم بالذكاء الاصطناعي والذي يضم صورًا دون السن القانونية للممثل. جينا أورتيجا. كانت جوجل تستعد بالفعل آلاف الشكاوى من الضحايا من التزييف العميق الجنسي وغير التوافقي، والتي تم رفع العديد منها قانون حقوق الطبع والنشر للوسائط الرقمية (DMCA) مطالبات ضد مواقع الويب التي تنشر صورهم.
إطلاق سراح المطلعين على صناعة الذكاء الاصطناعي تحذيرات متعددة بشأن التهديد بالمعلومات الخاطئة والاستخدام غير التوافقي لصور الأشخاص، بما في ذلك الصور الحديثة رسالة مفتوحة كتبه موظفو OpenAI وGoogle DeepMind. وسلطت المجموعة الضوء على الخطر المحتمل المتمثل في “التلاعب والتضليل” إذا استمر التقدم في الذكاء الاصطناعي دون تنظيم.
اتبع لوائح متجر تطبيقات Google توجيه البيت الأبيض بشأن الذكاء الاصطناعي صدرت لشركات التكنولوجيا الشهر الماضي. ويدعو الإعلان قادة الصناعة إلى بذل المزيد من الجهد لمنع انتشار التزييف العميق، مع استجابة جوجل على وجه التحديد للدعوة للحد من التطبيقات التي “تنشئ أو تسهل أو تستثمر أو تنشر الاعتداء الجنسي على الصور”. إذا كنت ضحية لإساءة استخدام التزييف العميق، فهناك خطوات يمكنك اتخاذها: اقرأ المزيد حول كيفية الحصول على المساعدة.
