تعترف Google بأن معاينات الذكاء الاصطناعي الخاصة بها تحتاج إلى تحسين، ولكننا جميعًا نساعدها في الاختبار التجريبي

تشعر Google أيضًا بالحرج من معاينات الذكاء الاصطناعي الخاصة بها. بعد طوفان من يغمس والميمات من الأسبوع الماضي، التي اشتكت من رداءة الجودة والمعلومات الخاطئة الصريحة الناجمة عن ميزة البحث الجديدة التي تعمل بالذكاء الاصطناعي سيئة التصميم لعملاق التكنولوجيا، أصدرت الشركة خطأً من نوع ما يوم الخميس. جوجل – الشركة التي أصبح اسمها مرادفًا لبحث الويب – والتي تركز علامتها التجارية على “تنظيم معلومات العالم” وجعلها في متناول المستخدم – في الواقع كتب في مشاركة بلوق أن “رؤى غريبة أو غير دقيقة أو غير مفيدة حول الذكاء الاصطناعي قد ظهرت بالتأكيد”.

هذا بخس.

ال الاعتراف بالفشليبدو أن ما كتبته ليز ريد، نائب الرئيس ورئيس قسم البحث في Google، هو بمثابة شهادة على كيف أن الدافع لدمج تكنولوجيا الذكاء الاصطناعي في كل شيء قد أدى الآن، بطريقة أو بأخرى، إلى جعل بحث Google أسوأ.

في المقال الذي يحمل عنوان “حول الأسبوع الماضي” (هل تجاوز الأمر العلاقات العامة؟)، يشرح ريد الطرق العديدة التي ترتكب بها رؤى الذكاء الاصطناعي الخاصة به الأخطاء. على الرغم من أنهم لا “يهلوسون” أو يختلقون الأشياء كما تفعل نماذج اللغة الرئيسية الأخرى (LLMs)، إلا أنهم يمكن أن يخطئوا “لأسباب أخرى”، مثل “إساءة تفسير الاستعلامات، وإساءة تفسير فارق بسيط في اللغة على الويب”. أو عدم توفر الكثير من المعلومات المثيرة للاهتمام.”

وأشار ريد أيضًا إلى أن بعض لقطات الشاشة التي تمت مشاركتها على وسائل التواصل الاجتماعي خلال الأسبوع الماضي كانت مزيفة، بينما كانت بعضها الآخر عبارة عن استفسارات سخيفة، مثل “كم عدد الصخور التي يجب أن آكلها؟” “- شيء لم يبحث عنه أحد من قبل. نظرًا لوجود القليل من المعلومات الواقعية حول هذا الموضوع، قام الذكاء الاصطناعي من Google بتوجيه المستخدم إلى المحتوى الساخر. (في حالة الصخور، كان المحتوى الساخر نشرت على الموقع الإلكتروني لموفر البرامج الجيولوجية.)

تجدر الإشارة إلى أنه إذا بحثت في Google عن “كم عدد الحجارة التي يجب أن آكلها؟” » وتعرض عليك مجموعة من الروابط غير المفيدة، أو حتى مقالة مجنونة، فلن تتفاجأ. ما كان رد فعل الناس عليه هو الثقة التي رد بها الذكاء الاصطناعي بأن “يوصي الجيولوجيون بتناول حجر صغير واحد على الأقل يوميًا» كما لو كانت إجابة واقعية. قد لا يكون الأمر “هلوسة” من الناحية الفنية، لكن المستخدم النهائي لا يهتم. هذا جنون.

والأمر المثير للقلق أيضًا هو أن ريد يدعي أن Google “اختبرت الميزة على نطاق واسع قبل إطلاقها”، بما في ذلك “جهود الفريق الأحمر القوية”.

إذًا، لا يوجد أحد في Google يتمتع بروح الدعابة؟ ألم يفكر أحد في أي مطالبات من شأنها أن تولد نتائج سيئة؟

بالإضافة إلى ذلك، قللت جوجل من اعتماد ميزة الذكاء الاصطناعي على بيانات مستخدم Reddit كمصدر للمعرفة والحقيقة. على الرغم من أن الأشخاص أضافوا “Reddit” بشكل منتظم إلى عمليات البحث الخاصة بهم لفترة طويلة مثل Google لقد جعلته أخيرًا مرشح بحث مدمجًا، Reddit ليس مجموعة من المعرفة الواقعية. ومع ذلك، يشير الذكاء الاصطناعي إلى منشورات منتدى Reddit للإجابة على الأسئلة، دون أن يفهم متى تكون المعرفة المباشرة بـ Reddit مفيدة ومتى لا تكون كذلك – أو ما هو أسوأ من ذلك، عندما تكون متصيدًا.

رديت اليوم هو اصنع بنكا من خلال تقديم بياناتها لشركات مثل جوجل, OpenAI و آحرون لتدريب نماذجهم، ولكن هذا لا يعني أن المستخدمين يريدون أن يقرر الذكاء الاصطناعي من Google متى يبحثون عن إجابة على Reddit، أو يقترح أن رأي شخص ما هو حقيقة. هناك فروق دقيقة في معرفة متى يجب البحث على موقع Reddit، لكن الذكاء الاصطناعي في Google لا يفهمها بعد.

وكما تعترف ريد، فإن “المنتديات غالبًا ما تكون مصدرًا رائعًا للمعلومات الحقيقية والمباشرة، ولكن في بعض الحالات يمكن أن تؤدي إلى نصائح أقل من مفيدة، مثل استخدام الغراء لجعل الجبن يلتصق بالبيتزا”. ، في إشارة إلى واحدة من أكثر حالات فشل ميزات الذكاء الاصطناعي إثارةً خلال الأسبوع الماضي.

تقترح معاينة Google للذكاء الاصطناعي إضافة الغراء لجعل الجبن يلتصق بالبيتزا، وتبين أن المصدر هو تعليق Reddit عمره 11 عامًا من المستخدم F*cksmith 🙂 pic.twitter.com/uDPAbsAKeO

– بيتر يانغ (@petergyang) 23 مايو 2024

إذا كان الأسبوع الماضي بمثابة كارثة، فإن جوجل على الأقل تكرر الأمر بسرعة وفقًا لذلك – أو هكذا تقول.

وتقول الشركة إنها نظرت في أمثلة من رؤى الذكاء الاصطناعي وحددت الأنماط التي يمكن أن تعمل فيها بشكل أفضل، بما في ذلك إنشاء آليات أفضل للكشف عن الاستعلامات غير المنطقية، والحد من استخدام المحتوى الذي ينشئه المستخدم للحصول على إجابات قد تقدم نصائح مضللة، وإضافة قيود التشغيل للاستعلامات حيث لم تكن معاينات الذكاء الاصطناعي مفيدة، حيث لم تعرض معاينات الذكاء الاصطناعي لموضوعات الأخبار الصعبة، “حيث تكون الحداثة والواقعية مهمة”، وإضافة تحسينات إضافية إلى وسائل الحماية الخاصة بعمليات البحث الصحية.

نظرًا لأن شركات الذكاء الاصطناعي تنشئ روبوتات دردشة تتحسن باستمرار كل يوم، فإن السؤال ليس ما إذا كانت ستتفوق على بحث Google في مساعدتنا على فهم المعلومات العالمية، ولكن ما إذا كان بحث Google سيتمكن يومًا ما من اللحاق بالذكاء الاصطناعي لتحديها. فى المقابل.

على الرغم من أن أخطاء جوجل سخيفة، إلا أنه من السابق لأوانه استبعادها من السباق، خاصة في ضوء الحجم الهائل لفريق اختبار جوجل التجريبي، والذي يضم في الأساس أي شخص يستخدم البحث.

يقول ريد: “ليس هناك شيء يضاهي رؤية ملايين الأشخاص يستخدمون هذه الميزة في الكثير من الأبحاث الجديدة”.