يقول المصدر إن OpenAI أنشأت فريقًا للتحكم في الذكاء الاصطناعي “الفائق الذكاء” – ثم تركته يتلاشى
OpenAI فريق المحاذاة الفائقة، المسؤولة عن تطوير طرق التحكم في أنظمة الذكاء الاصطناعي “فائقة الذكاء” وقيادتها، حصلت على وعود بالحصول على 20% من موارد تكنولوجيا المعلومات في الشركة، وفقًا لأحد الأشخاص في ذلك الفريق. لكن طلبات الحصول على جزء من هذا الحساب كانت تُرفض في كثير من الأحيان، مما يمنع الفريق من القيام بعمله.
تسببت هذه المشكلة وغيرها في استقالة العديد من أعضاء الفريق هذا الأسبوع، بما في ذلك القائد المشارك جان ليك، وهو باحث سابق في DeepMind ساعد في تطوير ChatGPT وGPT-4 وسابقه من ChatGPT، InstructGPT.
أعلن ليك عن بعض أسباب استقالته صباح الجمعة. “لقد اختلفت مع المديرين التنفيذيين لشركة OpenAI حول الأولويات الأساسية للشركة لبعض الوقت، حتى وصلنا أخيرًا إلى نقطة الانهيار،” كتب Leike في سلسلة من المقالات حول X. “أعتقد أنه يجب تخصيص المزيد من النطاق الترددي لدينا للتحضير. الأجيال القادمة من النماذج، بشأن الأمن، والمراقبة، والإعداد، والسلامة، وقوة الخصومة، والاصطفاف (الفائق)، والخصوصية، والتأثير المجتمعي والمواضيع ذات الصلة. من الصعب جدًا حل هذه القضايا، وأخشى أننا لسنا على الطريق الصحيح للقيام بذلك .
ولم ترد OpenAI على الفور على طلب للتعليق على الموارد التي وعدت بها وخصصتها لهذا الفريق.
شكلت OpenAI فريق Superalignment في يوليو الماضي، بقيادة إيليا سوتسكيفر، المؤسس المشارك لـ OpenAI، في يوليو الماضي. الذي استقال أيضًا من الشركة هذا الأسبوع. كان هدفها الطموح هو حل التحديات التقنية الرئيسية للتحكم في الذكاء الاصطناعي الفائق على مدى السنوات الأربع المقبلة. انضم إلى الفريق علماء ومهندسون من قسم المحاذاة السابق في OpenAI بالإضافة إلى باحثين من مؤسسات أخرى داخل الشركة، وكان من المتوقع أن يساهم الفريق بأبحاث تسلط الضوء على أمان النماذج الداخلية وغير التابعة لـ OpenAI، من خلال مبادرات تشمل برنامج المنح البحثية. والتماس ومشاركة العمل مع صناعة الذكاء الاصطناعي بأكملها.
نجح فريق Superalignment في نشر مجموعة من الأبحاث الأمنية ومنح ملايين الدولارات على شكل منح لباحثين خارجيين. ولكن مع بدء إطلاق المنتجات في الحصول على حصة متزايدة من النطاق الترددي القيادي لشركة OpenAI، وجد فريق Superalignment نفسه مضطرًا إلى النضال من أجل المزيد من الاستثمارات الأولية – وهي الاستثمارات التي اعتبرها ضرورية لمهمة الشركة المعلنة المتمثلة في تطوير الذكاء الاصطناعي الفائق لصالح الجميع. إنسانية. .
وتابع لايكي: “إن بناء آلات أكثر ذكاءً من البشر هو مسعى خطير بطبيعته”. “ولكن في السنوات الأخيرة، تراجعت ثقافة السلامة وعملياتها في المرتبة الثانية أمام المنتجات اللامعة. »
كانت معركة Sutskever مع الرئيس التنفيذي لشركة OpenAI Sam Altman مصدر إلهاء إضافي كبير.
قرر Sutskever، جنبًا إلى جنب مع مجلس إدارة OpenAI السابق، إقالة Altman بشكل مفاجئ في أواخر العام الماضي بسبب مخاوف من أن Altman لم يكن “صريحًا دائمًا” مع أعضاء مجلس الإدارة. وتحت ضغط من مستثمري OpenAI، بما في ذلك مايكروسوفت والعديد من موظفي الشركة، أعيد ألتمان في النهاية إلى منصبه، واستقال معظم أعضاء مجلس الإدارة، واستقال سوتسكيفر. سيكون لم يعد إلى العمل قط.
وفقًا للمصدر، كان لـ Sutskever دورًا فعالًا في فريق Superalignment، حيث لم يساهم في البحث فحسب، بل كان بمثابة جسر للأقسام الأخرى داخل OpenAI. وسيكون بمثابة سفير من نوع ما، مع التركيز على أهمية عمل الفريق لصانعي القرار الرئيسيين في OpenAI.
بعد رحيل لايكي، كتب ألتمان في X أنه أدرك أن هناك “الكثير الذي يتعين القيام به” وأنهم “مصممون على القيام بذلك”. وألمح إلى شرح أطول قدمه صباح يوم السبت المؤسس المشارك جريج بروكمان:
وفي حين لم يكن هناك سوى القليل من الملموس في استجابة بروكمان فيما يتعلق بالسياسات أو الالتزامات، إلا أنه قال: “نحن بحاجة إلى حلقة ردود فعل ضيقة للغاية، واختبارات صارمة، ومراجعة منتبهة في كل خطوة، وأمن على مستوى عالمي، وانسجام بين الأمن والقدرات. »
بعد رحيل Leike وSutskever، تم تعيين جون شولمان، وهو مؤسس مشارك آخر لـ OpenAI، لقيادة نوع العمل الذي يقوم به فريق Superalignment، ولكن لن يكون هناك فريق متخصص بعد الآن – بل سيكون هناك فريقًا فضفاضًا الفريق المرتبط. مجموعة من الباحثين المدمجين في أقسام الشركة. ووصف متحدث باسم OpenAI ذلك بأنه “تكامل أعمق (للفريق).”
والخوف هو أنه نتيجة لذلك، فإن تطوير الذكاء الاصطناعي في OpenAI قد لا يركز على الأمن كما كان من الممكن أن يكون.
نحن نطلق رسالة إخبارية عن الذكاء الاصطناعي! يسجل هنا لبدء استلامها في صناديق البريد الوارد الخاصة بك في 5 يونيو.
