قبل بضع سنوات فقط، كان الذكاء الاصطناعي يهيمن عليه نماذج صغيرة مخصصة، كل منها مصمم لغرض محدد. واليوم، يحدث تحول هائل. هذه النماذج تكبر كل يوم. وهي مدعومة بالشبكات العصبية، وتتحول إلى نماذج ذكاء اصطناعي أكثر عمومية، قادرة على القيام بالعديد من المهام. لبناء هذه النماذج، وخاصة النماذج اللغوية الكبيرة (LLM)، يتطلب الأمر المزيد والمزيد من البيانات والمزيد والمزيد من موارد الحوسبة. تتطلب نماذج الذكاء الاصطناعي موارد حاسوبية هائلة (1) لتدريبها واستخدامها ببساطة.
إلى جانب ثورة الذكاء الاصطناعي، هناك الظهور المتزايد باستمرار لإنترنت الأشياء والأجهزة المتطورة. تقوم أجهزة إنترنت الأشياء بجمع البيانات للمعالجة وتقوم أجهزة الحافة بالمعالجة. تعمل هذه الشبكة من الأجهزة المادية، بدءًا من الأدوات المنزلية اليومية وحتى المعدات الصناعية، بموارد محدودة، بما في ذلك الذاكرة وقوة الحوسبة. يمكن لنماذج الذكاء الاصطناعي استغلال الحجم الكبير من البيانات التي تجمعها هذه الأجهزة، ولكن ليس بشكلها الحالي.
تفعيل LLMs للمحيط
خذ على سبيل المثال مصنعًا حديثًا مجهزًا بخطوط إنتاج آلية. إذا كانت هذه الآلات مجهزة بإنترنت الأشياء وأجهزة الحافة، فيمكنها أيضًا تشخيص المشكلات ذاتيًا والتنبؤ باحتياجات الصيانة والتكيف في الوقت الفعلي مع التغييرات في جدول الإنتاج أو التصميم.
ماذا لو كان بإمكان خط الإنتاج هذا استخدام الذكاء الاصطناعي لاكتشاف العيوب المجهرية في الوقت الفعلي (2) والسماح للآلات بضبط عملياتها على الفور؟ يمكن للكاميرات عالية الدقة المتصلة بوحدات المعالجة أداء مثل هذه المهام المعقدة من خلال الاستفادة من قوة نماذج الذكاء الاصطناعي الكبيرة. في هذه الحالة، من المعروف أن نماذج الرؤية الحاسوبية التي تحلل الصور في الوقت الفعلي تتطلب استخدامًا كثيفًا للموارد. ومع ذلك، فإن الأنظمة المدمجة التي تدير خط الإنتاج (الأجهزة الطرفية في هذا السيناريو) محدودة من حيث سعة الحوسبة والذاكرة. يجب أن تكون هذه الأجهزة صغيرة الحجم بحيث تتناسب مع الآلات، ومتينة لتحمل ظروف المصنع، وسريعة الاستجابة للحفاظ على كفاءة الإنتاج.
وتنشأ المعضلة: كيف يمكننا تجهيز خط إنتاج المصنع، المحدود بالقيود المتأصلة، بقدرات نماذج الذكاء الاصطناعي الموسعة التي يمكنها تحويله إلى عملية تصنيع ديناميكية وقابلة للتكيف وعالية الكفاءة؟
الحل المحتمل
قد يكمن الحل في المجال الكمي. في الواقع، تحمل الحوسبة الكمومية وعدًا كبيرًا عندما يتعلق الأمر باختناقات الحوسبة. في سياق إنترنت الأشياء، تعد التطبيقات المحتملة للحوسبة الكمومية واسعة النطاق. ومع ذلك، نظرًا للحالة الحالية للأجهزة الكمومية، فإن هذه الحسابات ممكنة فقط من خلال المنصات السحابية، والوصول إلى الأجهزة الكمومية عبر الإنترنت. السبب يكمن في التحديات الكامنة المرتبطة بالأنظمة الكمومية. في سياق إنترنت الأشياء وأجهزة الحافة، حيث يتطلب الأمر إجراء حسابات مدمجة وحسابات في الوقت الفعلي، فإن الأجهزة الكمومية الحالية ليست مناسبة ببساطة.
على الرغم من أن الحوسبة الكمومية الحديثة بعيدة المنال بشكل واضح في الوقت الحالي، إلا أن الخوارزميات المستوحاة من الكم توفر بديلاً ممكنًا. توفر هذه الخوارزميات، التي تعمل على الأجهزة التقليدية، ميزة حسابية على نظيراتها التقليدية. بالنسبة للمستقبل القريب للحوسبة المتطورة، قد توفر الأساليب المستوحاة من الكم جسرًا بين الوعد الكمي وواقعنا الكلاسيكي.
قوة شبكات الموتر
يعتمد النهج الواعد المستوحى من الكم لحالات استخدام الحوسبة الطرفية على شبكات الموتر.
انطلاقًا من مجال فيزياء الكم (3)، تجتذب شبكات الموتر المزيد والمزيد من الاهتمام في مجال التعلم العميق والذكاء الاصطناعي. شبكة الموتر هي إطار لتمثيل المعلومات المعقدة ومتعددة الأبعاد بكفاءة. يمكن لهذه الشبكات تقسيم المعلومات عالية الأبعاد إلى مكونات أصغر وأكثر قابلية للإدارة. ومن خلال القيام بذلك، فهم يلتقطون المعلومات الأساسية مع التخلص من التكرار.
تعمل شبكات Tensor بشكل جيد مع الشبكات العصبية، والتي تشكل قلب العديد من نماذج الذكاء الاصطناعي.
يمكن أن تحتوي الشبكات العصبية، وخاصة العميقة منها، على مليارات من المعلمات. غالبًا ما تحتوي هذه المعلمات على الكثير من المعلومات غير الأساسية، مما يؤدي إلى زيادة الذاكرة والمتطلبات الحسابية. تسمح شبكات Tensor بتمثيل هذه الشبكات الكبيرة باستخدام معلمات أقل، مما يؤدي إلى ضغط النموذج دون المساس بشكل كبير بدقته (4).
عندما يتعلق الأمر بدمج شبكات الموتر مع نماذج الذكاء الاصطناعي الكبيرة القائمة على الشبكات العصبية، يمكن النظر في نهجين رئيسيين:
ضغط النموذج: يتم ضغط نموذج الذكاء الاصطناعي بعد التدريب باستخدام تقنيات التحلل الموتر. يسمح هذا الأسلوب بتقليل الحجم بشكل كبير مع الاحتفاظ بمعظم أداء النموذج.
طبقات التوتر: تم بناء نموذج الذكاء الاصطناعي باستخدام شبكات الموتر ثم تم تدريبه باستخدام بنية الموتر. يسمح هذا النهج أيضًا بتقليل الحجم بشكل كبير، ويحتفظ بأداء النموذج، ويمكنه أيضًا تحسين أداء التدريب.
أظهرت التجارب الحديثة باستخدام هذه الأساليب نتائج واعدة، مما يتيح ضغط النموذج الذي يقلل بشكل كبير من عدد المعلمات بعدة أوامر من حيث الحجم (5)، مما يؤدي إلى إنشاء نماذج أكثر ملاءمة لحوسبة الحافة.
خاتمة
نظرًا لأن أجهزة إنترنت الأشياء تهدف إلى جمع المزيد والمزيد من المعلومات لتشغيل نماذج الذكاء الاصطناعي الكبيرة، فإن هذه النماذج بدورها يجب أن تعمل ضمن الموارد المحدودة للأجهزة الطرفية. وتوضح النماذج اللغوية الكبيرة، التي تقود التقدم في معالجة اللغة الطبيعية، هذا التحدي.
في هذا المشهد، تظهر الشبكات الموترة كمرشحين محتملين لإزالة هذا القيد. من خلال الاستفادة من شبكات الموتر، من الممكن ضغط بنيات LLM الضخمة دون إضعاف كفاءتها وجعلها قابلة للإدارة في الأنظمة المدمجة.
المراجع
(1) بوب، ر.، وآخرون. (2022). التحجيم الفعال للاستدلال المحولات. arXiv. http://arxiv.org/abs/2211.05102
(2) جويجو، د.، وآخرون. (2022). رؤية الآلة الكمومية للكشف عن العيوب في التصنيع. arXiv. https://arxiv.org/abs/2208.04988
(3) أوروس، ر. (2013). مقدمة عملية لشبكات الموتر: حالات منتجات المصفوفة وحالات الأزواج المتشابكة المتوقعة. arXiv. https://arxiv.org/abs/1306.2164
(4) جهرمي، س، وآخرون. (2022). الشبكات العصبية المتوترة المتغيرة للتعلم العميق. arXiv. https://arxiv.org/abs/2211.14657
(5) باتل، ر. وآخرون. (2022). الشبكات العصبية الموترية المستوحاة من الكم للمعادلات التفاضلية الجزئية. arXiv. http://arxiv.org/abs/2208.02235
عن المؤلف
لوك أندريا هو مدير الهندسة في الحوسبة المتعددة الأكوان متخصصة في الذكاء الاصطناعي والحوسبة الكمومية. مع حصوله على درجة الدكتوراه في الفيزياء النظرية وتدريبه كعالم بيانات في قطاعي الخدمات والصناعة، يقود حاليًا فرقًا تعمل على تطوير ونشر أنظمة الذكاء الاصطناعي والكم المتطورة المناسبة لمختلف التطبيقات الصناعية.
قم بالتسجيل مجانًا في insideBIGDATA النشرة الإخبارية.
انضم إلينا على تويتر: https://twitter.com/InsideBigData1
انضم إلينا على لينكد إن: https://www.linkedin.com/company/insidebigdata/
انضم إلينا على فيس بوك: https://www.facebook.com/insideBIGDATANOW
