تعمل بوابة الذكاء الاصطناعي الجديدة مفتوحة المصدر في كونغ على تسهيل إنشاء تطبيقات متعددة LLM

تطلق شركة API Kong بوابة AI مفتوحة المصدر، وهي امتداد لبوابة API الحالية التي تسمح للمطورين وفرق العمليات بدمج تطبيقاتهم والوصول إليها باستخدام واحد أو أكثر من نماذج اللغات الكبيرة (LLMs) عبر واجهة برمجة تطبيقات واحدة. بالإضافة إلى ذلك، يطلق كونغ العديد من الميزات الخاصة بالذكاء الاصطناعي والهندسة السريعة وإدارة بيانات الاعتماد وغير ذلك الكثير.

قال لي ماركو بالادينو، المؤسس المشارك والرئيس التنفيذي للتكنولوجيا في شركة Kong: “نعتقد أن الذكاء الاصطناعي يمثل حالة استخدام إضافية لواجهات برمجة التطبيقات”. “تعتمد واجهات برمجة التطبيقات على حالات الاستخدام: الهاتف المحمول والخدمات الصغيرة – ويصادف أن يكون الذكاء الاصطناعي هو الأحدث. عندما ننظر إلى الذكاء الاصطناعي، فإننا ننظر حقًا إلى واجهات برمجة التطبيقات في كل مكان. نحن ندرس واجهات برمجة التطبيقات عندما يتعلق الأمر باستهلاك الذكاء الاصطناعي، وندرس واجهات برمجة التطبيقات لتحسين الذكاء الاصطناعي والذكاء الاصطناعي نفسه. (…) لذا، كلما زاد عدد الذكاء الاصطناعي، زاد استخدامنا لواجهات برمجة التطبيقات في العالم.

يقول بالادينو إنه بينما تسعى كل مؤسسة تقريبًا إلى استخدام الذكاء الاصطناعي، فإنها تخشى أيضًا تسرب البيانات. ويعتقد أن هذه الشركات سوف ترغب في نهاية المطاف في تشغيل نماذجها محليًا وربما استخدام السحابة كبديل. ومع ذلك، في الوقت الحالي، تحتاج هذه الشركات أيضًا إلى معرفة كيفية إدارة بيانات الاعتماد للوصول إلى النماذج المستندة إلى السحابة، والتحكم في حركة المرور وتسجيلها، وإدارة الحصص، والمزيد.

وأشار: “من خلال بوابة API الخاصة بنا، أردنا تقديم عرض يسمح للمطورين بأن يكونوا أكثر إنتاجية عند الاستفادة من الذكاء الاصطناعي من خلال القدرة على الاستفادة من بوابتنا لاستخدام واحد أو أكثر من موفري LLM دون الحاجة إلى تغيير التعليمات البرمجية الخاصة بهم”. تدعم البوابة حاليًا نماذج Anthropic وAzure وCohere وMeta’s LLaMA وMistral وOpenAI.

يقول فريق Kong أن معظم موفري واجهة برمجة التطبيقات الآخرين يتعاملون حاليًا مع واجهات برمجة تطبيقات الذكاء الاصطناعي مثل أي واجهة برمجة تطبيقات أخرى. ومع ذلك، من خلال وضع هذه الميزات الإضافية الخاصة بالذكاء الاصطناعي فوق واجهة برمجة التطبيقات، يعتقد فريق Kong أنه يمكنه تمكين حالات استخدام جديدة (أو على الأقل تسهيل تنفيذ الحالات الحالية). باستخدام AI Response and Request Transformers، وهي جزء من AI Gateway الجديدة، يمكن للمطورين تعديل المطالبات ونتائجها بسرعة لترجمتها تلقائيًا أو إزالة معلومات التعريف الشخصية، على سبيل المثال.

تم أيضًا دمج الهندسة السريعة بشكل عميق في البوابة، مما يسمح للشركات بتطبيق إرشاداتها فوق هذه النماذج. وهذا يعني أيضًا أن هناك نقطة مركزية لإدارة هذه الإرشادات والمطالبات.

لقد مضى ما يقرب من تسع سنوات منذ ذلك الحين إطلاق منصة إدارة Kong API. في ذلك الوقت، كانت الشركة التي أصبحت الآن كونغ لا تزال تُعرف باسم Mashape، ولكن كما أخبرني أوغوستو مارييتي، المؤسس المشارك والرئيس التنفيذي لشركة Mashape/Kong، في مقابلة أجريت معه في وقت سابق من هذا الأسبوع، فقد كان هذا بمثابة جهد أخير تقريبًا. وقال: “لم يكن Mashape يذهب إلى أي مكان، وكان Kong هو المنتج رقم واحد لواجهة برمجة التطبيقات على GitHub”. وأشار مارييتي إلى أن التدفق النقدي كان إيجابيًا في الربع الأخير – ولا يسعى حاليًا للحصول على تمويل – لذا فقد نجح الأمر بشكل جيد.

الآن، تعد Kong Gateway جوهر منصة الشركة وهي أيضًا القوة الدافعة وراء بوابة الذكاء الاصطناعي الجديدة. في الواقع، يحتاج مستخدمو Kong الحاليون فقط إلى ترقية التثبيت الحالي الخاص بهم للوصول إلى جميع ميزات الذكاء الاصطناعي الجديدة.

تتوفر الآن ميزات الذكاء الاصطناعي الجديدة هذه مجانًا. وبمرور الوقت، يخطط كونغ أيضًا لإطلاق ميزات مدفوعة الأجر، لكن الفريق أكد أن هذا ليس هدف هذا الإصدار الحالي.