كشفت منظمة تعمل على تطوير معايير رياضية للذكاء الاصطناعي أنها تلقت تمويلًا من OpenAI مؤخرًا نسبيًا، مما أثار ادعاءات بارتكاب مخالفات من البعض في مجتمع الذكاء الاصطناعي.
كشفت Epoch AI، وهي منظمة غير ربحية تمولها في المقام الأول مؤسسة Open Philanthropy، وهي مؤسسة للأبحاث وتقديم المنح، في 20 ديسمبر أن OpenAI دعمت إنشاء FrontierMath. كان FrontierMath، وهو اختبار يحتوي على مشاكل على مستوى الخبراء مصممًا لقياس المهارات الرياضية للذكاء الاصطناعي، أحد المعايير التي استخدمتها OpenAI لإظهار الذكاء الاصطناعي الرائد التالي. o3.
في أ وظيفة في منتدى LessWrong، يدعي أحد مقاولي Epoch AI تحت اسم المستخدم “Meemi” أن العديد من المساهمين في معيار FrontierMath لم يتم إبلاغهم بمشاركة OpenAI حتى يتم الإعلان عن ذلك.
وكتب ميمي: “لم يكن التواصل بشأن هذا الأمر شفافاً”. “في رأيي، كان ينبغي لشركة Epoch AI أن تكشف عن تمويل OpenAI، ويجب أن يكون لدى المقاولين معلومات شفافة حول إمكانية استخدام عملهم للقدرات، عند اختيار ما إذا كانوا سيعملون على معيار أم لا.”
على شبكات التواصل الاجتماعي، عدد قليل المستخدمين أثار مخاوف من أن السرية قد تؤدي إلى تآكل سمعة FrontierMath كسلطة موضوعية. بالإضافة إلى دعم FrontierMath، تمكنت OpenAI من الوصول إلى العديد من مشاكل وحلول المعيار – وهي حقيقة لم تكشف عنها Epoch AI حتى 20 ديسمبر، عندما تم الإعلان عن o3.
ردًا على منشور ميمي، ادعى تاماي بيسيروغلو، الشريك الإداري لشركة Epoch AI وأحد مؤسسي المنظمة، أن نزاهة FrontierMath لم يتم المساس بها، لكنه اعترف بأن Epoch AI “ارتكبت خطأ” بعدم كونها أكثر شفافية.
كتب بيسيروغلو: “لم يُسمح لنا بالكشف عن الشراكة حتى وقت إطلاق o3، وكان ينبغي لنا بعد فوات الأوان أن نتفاوض بشكل أكثر جدية حتى نتمكن من أن نكون شفافين مع المساهمين المرجعيين في أقرب وقت ممكن”. “يستحق علماء الرياضيات لدينا أن يعرفوا من يمكنه الوصول إلى عملهم. وحتى لو كنا مقيدين تعاقديًا فيما يمكننا قوله، كان ينبغي لنا أن نجعل الشفافية مع المساهمين لدينا جزءًا غير قابل للتفاوض من اتفاقيتنا مع OpenAI.
وأضاف بيسيروغلو أنه على الرغم من أن OpenAI لديها إمكانية الوصول إلى FrontierMath، إلا أنها لديها “اتفاق شفهي” مع Epoch AI بعدم استخدام مجموعة مشاكل FrontierMath لتدريب الذكاء الاصطناعي الخاص بها. (سيكون تدريب الذكاء الاصطناعي على FrontierMath مشابهًا لـ تعليم للاختبار.) وقال بيسيروغلو إن Epoch AI لديه أيضًا “مجموعة منفصلة من الاحتياطيات” التي تعمل بمثابة ضمانة إضافية للتحقق المستقل من النتائج المعيارية لـ FrontierMath.
وكتب بيسيروغلو: “لقد دعمت OpenAI قرارنا بالكامل بالحفاظ على مجموعة منفصلة وغير مرئية”.
ومع ذلك، ولتعكير المياه، قام إلوت جليزر، عالم الرياضيات الرئيسي في Epoch AI، تمت الإشارة إليه في منشور على Reddit أن Epoch AI لم يكن قادرًا على التحقق بشكل مستقل من نتائج FrontierMath o3 الخاصة بـ OpenAI.
قال جليزر: “رأيي الشخصي هو أن نتيجة (OpenAI) مشروعة (أي أنهم لم يتدربوا على مجموعة البيانات) وأنه ليس لديهم أي حافز للكذب بشأن أداء القياس الداخلي”. “ومع ذلك، لا يمكننا أن نضمن ذلك حتى يكتمل تقييمنا المستقل.”
الملحمة هي مرة أخرى آخر مثال التحدي المتمثل في وضع معايير تجريبية لتقييم الذكاء الاصطناعي – والحصول على الموارد اللازمة لتطوير المعايير دون خلق تصور لتضارب المصالح.
Source link
