هل أنت أكثر سوادًا من ChatGPT؟ خذ هذا الاختبار لمعرفة

طورت وكالة الإعلانات الإبداعية ماكيني اختبار يسمى “هل أنت أكثر سوادًا من ChatGPT؟” » لتسليط الضوء على تحيزات الذكاء الاصطناعي.

تختبر اللعبة معرفة الشخص بالثقافة السوداء مقارنة بما تم تدريب ChatGPT لمعرفته عن مجتمع السود. ويطرح أسئلة مثل: “ماذا يعني عندما يقول شخص ما: ليس عليه الكثير الآن؟” “” و”ما هو ردك إذا تمت دعوتك لحضور حدث ما؟” » عندما شاركت في الاختبار، حصلت أنا وChatGPT على المركز الأول – عندما يقول شخص ما “ليس كثيرًا معه”، فهذا يعني عادةً التساهل معه. لكن ChatGPT فشل عندما يتعلق الأمر بالثانية. عندما يدعوك شخص ما إلى حدث ما، فإن الرد النمطي داخل مجتمع السود هو: “من سيكون هناك أيضًا؟” لكن ChatGPT قال: “شكرًا على الدعوة! »

“إنه أمر مثير للاهتمام لأنه تم تقديمه على أنه هذا الروبوت الذي يعرف كل شيء، ومن الواضح أنك لا تعرف كل شيء، خاصة عندما يتعلق الأمر بأشياء ليست خاصة بالأشخاص البيض،” ميغان وودز، محررة في ماكيني و قال أحد مبدعي اللعبة لـ TechCrunch.

وقال وودز إن فكرة الاختبار جاءت العام الماضي خلال عملية عصف ذهني إبداعي في ماكيني. لقد استغرق الأمر من Woods وفريقًا بقيادة Black عامًا لإنشاء هذا المنتج، بهدف تسليط الضوء بشكل هزلي على مدى انفصال ChatGPT عن المستخدمين السود. وأشارت إلى أن النقطة العمياء في ChatGPT يبدو أنها تنبع من حقيقة أن العديد من العناصر الثقافية السوداء لا يتم توثيقها بالضرورة عبر الإنترنت؛ بل تنتقل شخصيًا أو شفهيًا عبر الأجيال. وهذا يعني أن الخوارزمية الخاصة بها تفتقد العديد من الفروق الدقيقة عند البحث في الإنترنت عن معلومات حول الأشخاص السود.

وقال وودز: “البقع العمياء يمكن أن تكون مزعجة للغاية”. “إنه أمر خطير للغاية.”

قد يكون الذكاء الاصطناعي في طور النجاح، لكن النساء والبنائين السود والبني والمؤسسين في الصناعة يتحدثون عنه منذ فترة طويلة. ليتم تجاهلها أو ضع جانبا. والنتيجة هي أن ابتكار الذكاء الاصطناعي يتم بناؤه بدونه الرؤية الثقافية والتعقيدات التي تجعلها مناسبة لمختلف الثقافات. وفي أقصى الحالات، فإن الافتقار إلى التنوع يعني أن السيارات يتم تطويرها باستخدام الذكاء الاصطناعي لا يمكن الكشف عن الجلد الأسودمما يؤدي إلى تزايد عدد الحوادث. ومن ناحية أخرى، فهذا يعني مجرد مربع دردشة لا يمكنه التمييز بين أغنية ويتني هيوستن وأخرى.

جيرالد كارتر مؤسس منظمة العفو الدولية متجهة، وهي شركة تساعد في اكتشاف وتخفيف تحيز الذكاء الاصطناعي، قالت إن اختبار ماكيني يقوم بعمل جيد في مجال التلعيب وزيادة الوعي بأوجه القصور في الذكاء الاصطناعي. وقال: “يمكن معالجة العديد من الفروق الدقيقة من خلال تضمين وجهات نظر متنوعة على جميع المستويات”. “لكي يصل الذكاء الاصطناعي إلى إمكاناته الكاملة، يجب أن يعمل لصالح الجميع، في كل مكان. »

الشركة الأم لـ ChatGPT، OpenAI، لديها تلقى انتقادات لعدم وجود التنوع داخل مجلس إدارتها. وقال وودز إنه لا يبدو أيضًا أن ChatGPT يتعلم من الاختبار، نظرًا لأنه يستمر في الحصول على نفس الإجابات الخاطئة في كثير من الحالات. “افتراضنا هو أنه لن يتمكن أبدًا من الفهم الكامل للعديد من الأشياء التي نطلبها منه”.

لقد تواصلنا مع OpenAI للتعليق وسنقوم بتحديث هذه المقالة عندما نسمع الرد.

وقال كارتر إن ChatGPT يمكن أن يعمل بشكل أفضل مع المزيد من المحاصيل من خلال مصادر أفضل وجمع بيانات أكثر شمولاً. يتمثل النهج الأكثر إلحاحًا في مراقبة انحراف نموذج الذكاء الاصطناعي وإجراء تحسينات باستخدام أدوات تركز على المنظورات الثقافية.

بينما تعمل الشركات الكبرى على جعل الذكاء الاصطناعي مفيدًا للجميع، فقد أخذ بناة الصناعة ذوو البشرة السوداء والسمراء الأمور بأيديهم لضمان التنوع في هذه الموجة التالية من الذكاء الاصطناعي.

على سبيل المثال، يعمل كارتر مع الشركات لمساعدتها في الحصول على بيانات أكثر شمولا. خلقت إيرين ريديك ChatNoirGPT (لا علاقة لها بـ OpenAI) لتقديم نظرة أعمق حول الثقافة والتاريخ الأسود، وتامار هوجينز جمعت 1.4 مليون دولار لبديل ChatGPT، المسمى Spark Plug، والذي يترجم نصوص الأدب الكلاسيكي إلى لهجة اللغة الإنجليزية الأمريكية الأفريقية (AAVE).

قال وودز، فيما يتعلق بما يجب القيام به لجعل الذكاء الاصطناعي أكثر شمولاً، “قم بالتوظيف والاحتفاظ والتأكد من وجود الأشخاص على الطاولة”. “أعلم أن الأمر يبدو مبتذلاً، لكنني أعتقد أنه يمكن أن يبدأ في إحداث تأثير”.