في مؤتمرها GTC، نفيديا اليوم إعلان Nvidia NIM، عبارة عن منصة برمجية جديدة مصممة لتبسيط نشر نماذج الذكاء الاصطناعي المخصصة والمدربة مسبقًا في بيئات الإنتاج. يأخذ NIM العمل البرمجي الذي قامت به Nvidia حول الاستدلال النموذجي والتحسين ويجعل الوصول إليه سهلاً من خلال الجمع بين نموذج معين ومحرك الاستدلال المحسن ثم وضعه في حاوية، مما يجعله متاحًا كخدمة صغيرة.
عادةً، قد يستغرق الأمر أسابيع أو حتى أشهر من المطورين لشحن حاويات مماثلة، كما تقول Nvidia – وهذا إذا كانت الشركة لديها موهبة داخلية في مجال الذكاء الاصطناعي. من خلال NIM، تهدف Nvidia بوضوح إلى إنشاء نظام بيئي للحاويات الجاهزة للذكاء الاصطناعي والتي تستخدم أجهزتها كطبقة أساسية مع هذه الخدمات الصغيرة المختارة كطبقة برمجية أساسية للشركات التي تتطلع إلى تسريع خارطة طريق الذكاء الاصطناعي الخاصة بها.
يتضمن NIM حاليًا دعمًا لنماذج من NVIDIA وA121 وAdept وCohere وGetty Images وShutterstock بالإضافة إلى نماذج مفتوحة من Google وHugging Face وMeta وMicrosoft وMistral AI وStability AI. تعمل Nvidia بالفعل مع Amazon وGoogle وMicrosoft لإتاحة خدمات NIM الصغيرة هذه على SageMaker وKubernetes Engine وAzure AI على التوالي. وسيتم أيضًا دمجها في أطر عمل مثل Deepset وLangChain وLlamaIndex.
“نعتقد أن وحدة معالجة الرسومات Nvidia هي أفضل مكان لإجراء الاستدلال على هذه النماذج على (…)، ونعتقد أن NVIDIA NIM هي أفضل حزمة برامج، وأفضل بيئة تنفيذ، يمكن للمطورين الاعتماد عليها حتى يتمكنوا من التركيز. قال مانوفير داس، رئيس تكنولوجيا المعلومات التجارية: “على تطبيقات المؤسسات – ودع Nvidia تقوم بالعمل لإنتاج هذه النماذج لهم بأكثر الطرق كفاءة واحترافية، حتى يتمكنوا من القيام ببقية عملهم”. في Nvidia خلال مؤتمر صحفي سبق إعلانات اليوم.
أما بالنسبة لمحرك الاستدلال، فستستخدم Nvidia خادم Triton Inference Server وTensorRT وTensorRT-LLM. ستشمل بعض خدمات Nvidia الصغيرة المتاحة من خلال NIM Riva لتخصيص نماذج الكلام والترجمة، وcuOpt لتحسين التوجيه، ونموذج Earth-2 لمحاكاة الطقس والمناخ.
وتخطط الشركة لإضافة ميزات إضافية بمرور الوقت، بما في ذلك إتاحة مشغل Nvidia RAG LLM باعتباره NIM، مما يعد بتسهيل إنشاء روبوتات دردشة مولدة تعمل بالذكاء الاصطناعي وقادرة على استخراج البيانات الشخصية.
لن يكون مؤتمر المطورين بدون بعض الإعلانات من العملاء والشركاء. يشمل مستخدمو NIM الحاليون Box وCloudera وCohesity وDatastax وDropbox
و نت اب.
قال جنسن هوانغ، المؤسس والرئيس التنفيذي لشركة NVIDIA: “تعتمد منصات المؤسسات القائمة على منجم ذهب من البيانات التي يمكن تحويلها إلى برامج تجريبية مساعدة للذكاء الاصطناعي. “تم إنشاء خدمات الذكاء الاصطناعي المصغرة هذه بالتعاون مع النظام البيئي الشريك لنا، وهي بمثابة اللبنات الأساسية للشركات في جميع الصناعات لتصبح شركات ذكاء اصطناعي.
Source link
