تحظر Midjourney الظهور كضيف مع جو بايدن ودونالد ترامب، مع الأخذ في الاعتبار مخاوف التضليل الانتخابي

Midjourney، وهو منشئ صور الذكاء الاصطناعي المعروف بإنشاء صور مزيفة لاعتقال دونالد ترامب مطالبات الصور المحظورة والتي تتضمن اسم المرشح الرئاسي وكذلك الرئيس الحالي جو بايدن.

ويأتي القرار فيما يحذر الخبراء والمدافعون عن الخوف منه تكنولوجيا الذكاء الاصطناعي سيتم استخدامها للتأثير على الناخبين ونشر معلومات مضللة قبل الانتخابات الرئاسية لعام 2024.

اختبار السياسة الجديدة من قبل وكالة انباء وذكرت الصحيفة أن المحاولات أظهرت تحذيرًا بعنوان “تم اكتشاف رسالة محظورة” لطلبات الحصول على صور “ترامب وبايدن يتصافحان على الشاطئ”. أدت المحاولات الإضافية إلى قيام منشئ الصور بتحذير المستخدمين من أنهم “أطلقوا تنبيهًا بإساءة الاستخدام”.

“أنا لا أهتم حقًا بالخطاب السياسي. ليس هذا هو الهدف من فيلم Midjourney. أنا لا أهتم بذلك حقًا. ومع ذلك، فأنا أيضًا لا أريد أن أقضي كل وقتي في محاولة السيطرة على الخطاب السياسي. لذلك نحن” قال ديفيد هولز، الرئيس التنفيذي لشركة Midjourney، في مؤتمر صحفي يوم 13 مارس: “سنحصل على القليل من الركلة”. طرحت Midjourney فكرة حظر مثل هذه المطالبات. الشهر الماضي. أخبر هولز أعضاء الصحافة أنه يتصور واقعًا أكثر رعبًا للذكاء الاصطناعي في عام 2028، مع قدرة الجهات الفاعلة السيئة على ضبط التزييف العميق وروبوتات الدردشة بشكل أكثر مما يمكننا حتى تخيله اليوم. ولتحقيق هذه الغاية، قال: “إن أمر الاعتدال هذا صعب للغاية”.

أصدرت أدوات الذكاء الاصطناعي الأخرى حظرًا سريعًا مماثلاً لمكافحة انتشار الصور المثيرة للقلق. في العام الماضي، حاول منشئ الصور Bing من Microsoft القيام بذلك عدم السماح بالمطالبات التي تحتوي على عبارة “البرجين التوأمين” للحد من انتشار الميمات التي تحتوي على شخصيات متحركة تستحضر هجمات 11 سبتمبر – بالطبع، وجد منشئو الميمات الحل المناسب لهم.

بعد فترة وجيزة، تم تجديد مولد الصور المتقدم الخاص بـ OpenAI، DALL-E 3، باستخدام سياسات استخدام أكثر تقييدًا، مضيفًا “نظام أمان متدرج” يحد من “قدرة DALL-E 3 على إنشاء محتوى عنيف أو يحض على الكراهية أو للبالغين،” حسبما أفاد Chance Townsend من Mashable. تم إصدار OpenAI مبادئ توجيهية محددة بشأن التضليل الانتخابي في يناير، مع الإشارة إلى أن DALL-E 3 قد ترفض “الطلبات التي تتطلب إنشاء صور لأشخاص حقيقيين، بما في ذلك المتقدمين”.

وفي شهر فبراير، أعلنت شركة OpenAI أنها قامت بذلك تم الكشف عن حسابات الجهات الفاعلة السيئة التابعة لدول أجنبية وإغلاقها باستخدام تقنيات الذكاء الاصطناعي التوليدية.

حتى الآن، لم يصدر حزب “ميدجورني” الأكثر تراخيًا بيانًا أو يضع سياسات جديدة لمكافحة المعلومات المضللة في الانتخابات. وتمنع المنصة المستخدمين من إنشاء صور “أو حملات سياسية، أو محاولة التأثير على نتيجة الانتخابات”. وكانت أيضًا واحدة من الشركات الكبرى الوحيدة في مجال صناعة صور الذكاء الاصطناعي التي لم توقع أي صفقة. ميثاق الصناعة الطوعية التعهد باتخاذ الاحتياطات اللازمة ضد التزييف العميق والمعلومات الخاطئة، والذي تم تقديمه الشهر الماضي. في العام الماضي، أفاد مركز مكافحة الكراهية الرقمية أن مستخدمي Midjourney يمكنهم ذلك تجاوز إرشادات المجتمع والاعتدال بسهولة لتوليد صور تآمرية وعنصرية بشكل منهجي.

أ تقرير حديث اختبرت المنظمة غير الربحية العديد من مولدات الصور، بما في ذلك Midjourney، حول قدرتها على كبح التحريض على الترويج للمعلومات الخاطئة عن الانتخابات. وتمكنت الصور التي تم إنشاؤها من تضمين معلومات مضللة انتخابية في 41% من الحالات. كان أداء Midjourney هو الأسوأ بين جميع الأدوات التي تم اختبارها، حيث فقدت المعلومات الخاطئة بنسبة 65% من الوقت.

وحذر المركز من أن “قاعدة بيانات Midjourney العامة لصور الذكاء الاصطناعي تظهر أن الجهات الفاعلة السيئة تستخدم الأداة بالفعل لإنتاج صور يمكن أن تدعم معلومات مضللة عن الانتخابات”.