جي بي تي-4، OpenAI تشير دراسة إلى أن أحدث نموذج لغة متعدد الوسائط (LLM) يمكنه استغلال ثغرات يوم الصفر بشكل مستقل. ذكرت بواسطة TechSpot.
ال يذاكر أظهر باحثون من جامعة إلينوي أوربانا شامبين أن LLMs، بما في ذلك GPT-4، يمكنها تنفيذ هجمات على الأنظمة باستخدام نقاط الضعف غير المكشوف عنها، والمعروفة باسم عيوب اليوم صفر. وكجزء من خدمة ChatGPT Plus، أظهر GPT-4 تقدمًا كبيرًا مقارنة بأسلافه من حيث الاختراق الأمني دون تدخل بشري.
تضمنت الدراسة اختبار LLMs على مجموعة من 15 نقطة ضعف “عالية إلى خطيرة” من مجالات مختلفة، مثل خدمات الويب وحزم Python، والتي لم تكن هناك إصلاحات لها في ذلك الوقت.
سرعة الضوء قابلة للسحق
وكان GPT-4 فعالاً بشكل مدهش في استغلال 87% من هذه الثغرات الأمنية بنجاح، مقارنة بمعدل نجاح صفر% للنماذج السابقة مثل GPT-3.5. تشير النتائج إلى أن GPT-4 يمكنه تحديد واستغلال الثغرات الأمنية التي غالبًا ما تتجاهلها أدوات فحص الثغرات التقليدية مفتوحة المصدر.
لماذا هذا مثير للقلق
إن الآثار المترتبة على مثل هذه القدرات كبيرة، مع إمكانية إضفاء الطابع الديمقراطي على أدوات الجرائم السيبرانية، وجعلها في متناول الأفراد الأقل مهارة المعروفين باسم “أطفال السيناريو”. سلط البروفيسور المساعد في جامعة UIUC دانييل كانغ الضوء على المخاطر التي تشكلها برامج LLM القوية هذه، والتي يمكن أن تؤدي إلى زيادة في الهجمات الإلكترونية إذا ظلت تقارير الثغرات التفصيلية متاحة.
يدعو كانغ إلى الحد من الكشف التفصيلي عن الثغرات الأمنية ويقترح إجراءات أمنية أكثر استباقية مثل التحديثات المنتظمة. ومع ذلك، فقد سلطت دراسته الضوء أيضًا على الفعالية المحدودة لحجب المعلومات كاستراتيجية دفاعية. وشدد كانغ على الحاجة إلى اعتماد أساليب أمنية قوية لمواجهة التحديات التي تفرضها التقنيات المتقدمة. منظمة العفو الدولية تقنيات مثل GPT-4.