تدمج New Relic منصة المراقبة الخاصة بها مع NVIDIA NIM لتسريع اعتماد الذكاء الاصطناعي وعائد الاستثمار

يتكامل New Relic مع الخدمات المصغرة للاستدلال NVIDIA NIM للمساعدة في تقديم نماذج عالية الأداء محسنة لوحدات معالجة الرسومات NVIDIA

بقايا جديدةأعلنت منصة المراقبة الشاملة لكل مهندس عن تكامل منصتها مع نفيديا نيمس استنتاج الخدمات الصغيرة لتقليل تعقيد وتكلفة تطوير ونشر ومراقبة تطبيقات الذكاء الاصطناعي التوليدية (GenAI). الآن يمكن للعملاء استخدامها مراقبة بقايا الذكاء الاصطناعي الجديدة للحصول على رؤية كاملة لمجموعة الذكاء الاصطناعي للتطبيقات المبنية باستخدام NVIDIA NIM، كل ذلك من خلال إعداد مبسط مع ضمان أمان البيانات. ويكمل هذا ميزات الأمان القوية وسهولة استخدام نماذج NVIDIA NIM ذاتية الاستضافة، مما يؤدي إلى تسريع تسليم تطبيقات الذكاء الاصطناعي التوليدية. معًا، يمكن لـ New Relic المدمج مع NVIDIA NIM مساعدة العملاء على اعتماد الذكاء الاصطناعي بشكل أسرع وتحقيق عائد استثمار أسرع.

تعد إمكانية المراقبة أمرًا ضروريًا لنشر نماذج فعالة من حيث التكلفة وعالية الأداء

تتبنى المؤسسات الذكاء الاصطناعي التوليدي بسرعة لتحسين التجارب الرقمية وزيادة الإنتاجية وزيادة الإيرادات. تتوقع جارتنر أن أكثر من 80% من المؤسسات ستستخدم GenAI أو تنشر تطبيقات GenAI بحلول عام 2026. يعد النشر السريع وعائد الاستثمار الأسرع أمرًا بالغ الأهمية للمؤسسات للحصول على ميزة في السوق وقابلية المراقبة هي المفتاح. فهو يوفر رؤية شاملة في الوقت الفعلي لمجموعة تطبيقات الذكاء الاصطناعي (عبر الخدمات والبنية التحتية وطبقة الذكاء الاصطناعي) لضمان التشغيل الفعال والموثوق والفعال من حيث التكلفة.

قال أشان ويلي، الرئيس التنفيذي لشركة New Relic: “في سوق اليوم شديد التنافسية، لا تستطيع المؤسسات الانتظار لسنوات لرؤية عائد الاستثمار من الذكاء الاصطناعي. “تحل إمكانية الملاحظة هذه المشكلة من خلال توفير الرؤية عبر مجموعة الذكاء الاصطناعي بأكملها. نحن رواد في إمكانية مراقبة الذكاء الاصطناعي من خلال توسيع نظامنا الأساسي ليشمل تطبيقات الذكاء الاصطناعي المبنية باستخدام NVIDIA NIM. إن الجمع بين تقنية الذكاء الاصطناعي من NVIDIA وخبرتنا في إمكانية المراقبة وAPM يمنح الشركات ميزة تنافسية في سباق الذكاء الاصطناعي.

قالت أماندا سوندرز، مديرة برامج الذكاء الاصطناعي في NVIDIA: “بينما تعمل الشركات على اعتماد الذكاء الاصطناعي التوليدي، يمكن لـ NVIDIA NIM مساعدتهم على نشر التطبيقات بسرعة في الإنتاج”. “إن تكامل New Relic مع NVIDIA NIM يمكّن فرق تكنولوجيا المعلومات والتطوير من تحسين تطبيقات الذكاء الاصطناعي الخاصة بهم من خلال المراقبة السريعة للرؤى التشغيلية والاستجابة لها.

يعمل New Relic على تسريع عائد الاستثمار لتطبيقات الذكاء الاصطناعي المبنية باستخدام NVIDIA NIM

يمكن أن تؤدي تطبيقات الذكاء الاصطناعي إلى تعقيد مجموعات التكنولوجيا، وزيادة المخاوف الأمنية، وتكون باهظة التكلفة. توفر مراقبة Relic AI الجديدة عرضًا كاملاً لمكدس الذكاء الاصطناعي، إلى جانب المقاييس الرئيسية حول الإنتاجية وزمن الوصول والتكلفة، مع ضمان خصوصية البيانات. كما أنه يتتبع تدفقات الطلب بين الخدمات والنماذج لفهم الأعمال الداخلية لتطبيقات الذكاء الاصطناعي. توسع New Relic مراقبتها العميقة لتشمل NVIDIA NIM، وتدعم مجموعة واسعة من نماذج الذكاء الاصطناعي، بما في ذلك Databricks DBRX، وGemma من Google، وMeta’s Llama 3، وMicrosoft Phi-3، وMistral Large وMixtral 8x22B، وSnowflake’s Arctic. ويساعد ذلك المؤسسات على نشر تطبيقات الذكاء الاصطناعي المبنية باستخدام NVIDIA NIM بثقة، وتسريع وقت التسويق وتحسين عائد الاستثمار.

تشمل الميزات الرئيسية وحالات الاستخدام لمراقبة الذكاء الاصطناعي ما يلي:

• الرؤية الكاملة لمكدس الذكاء الاصطناعي: حدد المشكلات بشكل أسرع من خلال نظرة شاملة للتطبيقات والبنية الأساسية المستندة إلى NVIDIA GPU وطبقة الذكاء الاصطناعي وجودة الاستجابة وعدد الرموز المميزة وإشارات APM الذهبية.
• معلومات تتبع متعمقة لكل استجابة: قم بمعالجة مشكلات الأداء والجودة مثل التحيز والسمية والهلوسة من خلال تتبع دورة الحياة الكاملة لاستجابات الذكاء الاصطناعي.
• المخزون النموذجي: يمكنك بسهولة عزل مشكلات الأداء والخطأ والتكلفة المتعلقة بالنموذج من خلال تتبع المقاييس الرئيسية من جميع خدمات NVIDIA NIM الصغيرة للاستدلال في مكان واحد.
• مقارنة النماذج: قارن أداء الخدمات الصغيرة للاستدلال NVIDIA NIM التي تعمل في الإنتاج في عرض واحد لتحسين اختيار النموذج بناءً على البنية التحتية واحتياجات المستخدم.
• رؤى GPU المتعمقة: تحليل مقاييس الحوسبة المتسارعة المهمة مثل استخدام وحدة معالجة الرسومات ودرجة الحرارة وحالات الأداء؛ فهم السياق وحل المشكلات بشكل أسرع.
• تحسين أمن البيانات: بالإضافة إلى الميزة الأمنية لنموذج NVIDIA المستضاف ذاتيًا، يتيح لك New Relic استبعاد مراقبة البيانات الحساسة (PII) في طلبات واستجابات الذكاء الاصطناعي الخاصة بك.

تعمل New Relic على تعميق نظامها البيئي المتكامل الذي يضم أكثر من 60 الذكاء الاصطناعي مع NVIDIA

يتبع هذا التكامل الإضافة الأخيرة لـ New Relic إلى النظام البيئي لشركاء AIOps من NVIDIA. من خلال الاستفادة من الحوسبة المتسارعة لـ NVIDIA AI، تجمع New Relic بين إمكانية المراقبة والذكاء الاصطناعي لتبسيط عمليات تكنولوجيا المعلومات وتسريع الابتكار من خلال التعلم الآلي ومساعد الذكاء الاصطناعي المولد، New Relic AI. تقدم New Relic حل إمكانية المراقبة الأكثر شمولاً مع أكثر من 60 عملية تكامل للذكاء الاصطناعي، بما في ذلك وحدات معالجة الرسومات NVIDIA وبرنامج NVIDIA Triton Inference Server.

قم بالتسجيل مجانًا في insideBIGDATA النشرة الإخبارية.

انضم إلينا على تويتر: https://twitter.com/InsideBigData1

انضم إلينا على لينكد إن: https://www.linkedin.com/company/insidebigdata/

انضم إلينا على فيس بوك: https://www.facebook.com/insideBIGDATANOW