في الأسبوع الماضي، بدأت ميتا اختبارها AI Chatbot في الهند على WhatsApp وInstagram وMessenger. ولكن مع بدء الانتخابات العامة في الهند اليوم، قامت الشركة بالفعل بحظر استفسارات محددة في برنامج الدردشة الآلي الخاص بها.
أكدت Meta أنها تقيد بعض الكلمات الرئيسية المتعلقة بالانتخابات للذكاء الاصطناعي في مرحلة الاختبار. وقال أيضًا إنه يعمل على تحسين نظام الاستجابة للذكاء الاصطناعي.
“هذه تقنية جديدة، ولن تعطي دائمًا الإجابة المطلوبة، وهي نفسها بالنسبة لجميع أنظمة الذكاء الاصطناعي التوليدية. وقال متحدث باسم الشركة لـ TechCrunch: “منذ إطلاقنا، قمنا باستمرار بإصدار تحديثات وتحسينات لنماذجنا، ونواصل العمل على تحسينها”.
هذه الخطوة تجعل من عملاق وسائل التواصل الاجتماعي آخر شركة تكنولوجية كبيرة، مما يقلل بشكل استباقي من نطاق خدمات الذكاء الاصطناعي التوليدية الخاصة بها بينما تستعد لسلسلة من الانتخابات الكبرى.
أحد المخاوف الرئيسية للمنتقدين هو أن genAI يمكن أن تقدم معلومات مضللة أو كاذبة تمامًا للمستخدمين، وبالتالي تلعب دورًا غير قانوني وغير مرغوب فيه في العملية الديمقراطية.
أطلقت جوجل الشهر الماضي حظر الاستفسارات المتعلقة بالانتخابات في تجربة Gemini chatbot الخاصة بها في الهند والأسواق الأخرى حيث ستعقد الانتخابات هذا العام.
يتبع نهج ميتا جهدًا أكبر من جانب الشركة إعلان حول ما يسمح به وما لا يسمح به في برنامجه المؤدي إلى الانتخابات. لقد التزمت بحظر الإعلانات السياسية في الأسبوع الذي يسبق الانتخابات في أي بلد، وتعمل على تحديد والكشف عن متى تم إنشاء الصور في الإعلانات أو أي محتوى آخر باستخدام الذكاء الاصطناعي.
يبدو أن معالجة Meta لطلبات genAI تعتمد على القائمة السوداء. عندما تستفسر عن Meta AI حول السياسيين والمرشحين وأصحاب المناصب وبعض المصطلحات المحددة الأخرى، فسوف يعيد توجيهك إلى موقع اللجنة الانتخابية.
«هذا السؤال قد يقلق شخصية سياسية خلال الانتخابات التشريعية. يرجى الرجوع إلى الرابط https://elections24.eci.gov.in”.
اعتمادات الصورة: لقطة شاشة بواسطة TechCrunch
والجدير بالذكر أن الشركة لا تمنع بشكل صارم الردود على الأسئلة التي تحتوي على أسماء الأحزاب. ومع ذلك، إذا كان الاستعلام يتضمن أسماء مرشحين أو مصطلحات أخرى، فقد ترى الاستجابة النموذجية المذكورة أعلاه.
ولكن تمامًا مثل الأنظمة الأخرى المستندة إلى الذكاء الاصطناعي، فإن Meta AI بها بعض التناقضات. على سبيل المثال، عندما طلب موقع تك كرانش معلومات حول “تحالف إندي” ــ وهو تحالف سياسي متعدد الأحزاب يقاتل ضد حزب بهاراتيا جاناتا الحالي ــ ردت بمعلومات تحتوي على اسم أحد السياسيين. ومع ذلك، عندما سألنا عن هذا السياسي في استعلام منفصل، لم يرد الشات بوت بأي معلومات.
اعتمادات الصورة: لقطة شاشة بواسطة TechCrunch
هذا الأسبوع، أطلقت الشركة روبوت دردشة Meta AI جديد مدعوم من Llama-3 في أكثر من اثنتي عشرة دولة، بما في ذلك الولايات المتحدة، لكن الهند لم تكن على القائمة. وقال ميتا إن برنامج الدردشة الآلي سيكون في مرحلة الاختبار في البلاد في الوقت الحالي.
“نحن نواصل التعلم من اختبارات المستخدم لدينا في الهند. وقال متحدث باسم الشركة لـ TechCrunch في بيان: “كما نفعل مع العديد من منتجات وميزات الذكاء الاصطناعي لدينا، فإننا نختبرها علنًا في مراحل مختلفة وبقدرة محدودة”.
لا يحظر Meta AI حاليًا الاستعلامات الانتخابية للمصطلحات المتعلقة بالولايات المتحدة مثل “أخبرني عن جو بايدن”. لقد سألنا Meta عما إذا كانت الشركة ستفكر في قصر هذه الاستفسارات على الانتخابات الأمريكية أو الأسواق الأخرى. سنقوم بتحديث القصة إذا تلقينا ردا.
إذا كنت ترغب في التحدث عن تجربتك مع Meta AI، يمكنك الاتصال بإيفان ميهتا على im@ivanmehta.com عبر البريد الإلكتروني و عبر هذا الرابط على Signal.
Source link
