جوجل في فبراير الماضي في استراحة قدرة برنامج Gemini chatbot المدعوم بالذكاء الاصطناعي على إنشاء صور للأشخاص بعد شكوى المستخدمين تاريخي عدم الدقة. على سبيل المثال، لتصوير “الفيلق الروماني”، سيُظهر الجوزاء مجموعة متنوعة من الجنود بشكل عفا عليه الزمن، بينما يجعل “محاربي الزولو” أسودًا بشكل موحد.
اعتذر الرئيس التنفيذي لشركة Google، ساندر بيتشاي، وقال ديميس هاسابيس، المؤسس المشارك لقسم أبحاث الذكاء الاصطناعي في Google DeepMind، إن الإصلاح يجب أن يصل “في وقت قصير جدًا” – لكننا الآن في شهر مايو ولم يتم تسليم الإصلاح الموعود بعد. يظهر.
جوجل توصف والعديد من ميزات الجوزاء الأخرى في مؤتمر I/O السنوي للمطورين هذا الأسبوع، بدءًا من روبوتات الدردشة المخصصة إلى مخطط رحلات العطلات وعمليات التكامل مع تقويم Google وKeep وYouTube Music. لكن أكد متحدث باسم Google أن إنشاء صور الأشخاص لا يزال معطلاً في تطبيقات Gemini على الويب والهاتف المحمول.
إذا ما هي المشكلة ؟ حسنًا، ربما تكون المشكلة أكثر تعقيدًا مما ألمح إليه هاسابيس.
تحتوي مجموعات البيانات المستخدمة لتدريب مولدات الصور مثل مجموعة جيميني عادةً على صور للأشخاص البيض أكثر من صور الأشخاص من أعراق وأعراق أخرى، وصور للأشخاص غير البيض في مجموعات البيانات هذه لتعزيز سلبي الأفكار النمطية. قامت جوجل، في محاولة واضحة لتصحيح هذه التحيزات، بتنفيذ بعض الترميز الثابت الخرقاء لإضافة التنوع إلى الاستعلامات التي لم يتم فيها تحديد مظهر الشخص. وهو الآن يكافح من أجل إيجاد طريق وسط معقول يتجنب يكرر تاريخ.
هل ستنجح جوجل؟ ربما. ربما لا. بغض النظر، فإن هذه الحالة التي طال أمدها هي تذكير بأن إصلاح السلوك السيئ للذكاء الاصطناعي ليس بالأمر السهل، خاصة عندما يكون التحيز هو سبب السلوك السيئ.
Source link
