أعلنت Microsoft وOpenAI أن مجرمي الإنترنت يستفيدون من قوة نماذج اللغات الكبيرة (LLMs) مثل ChatGPT لتعزيز أساليب الهجوم الإلكتروني الحالية. حددت المنظمات عدة مجموعات ترعاها الدولة تحاول استغلال أدوات مثل ChatGPT لإجراء أبحاث حول الأهداف المحتملة وتطوير أساليب الهندسة الاجتماعية المتطورة.
إقرأ أيضاً: تم تحديث سلسلة Samsung Galaxy S24 لإدخال تحسينات على الشاشة والكاميرا والمزيد؛ التفاصيل هنا
#الهاكرز استغلال نماذج اللغة الكبيرة مثل #ChatGPT وتقول مايكروسوفت و #OpenAI. تستخدم مجموعات من روسيا وكوريا الشمالية وإيران والصين LLMs للبحث والبرمجة النصية والتصيد الاحتيالي ⚠️
– الوجهة IA (@aidedestinationhq) 14 فبراير 2024
نجحت شركة OpenAI، بالتعاون مع شركة Microsoft Threat Intelligence، في إحباط جهود خمسة جهات فاعلة تابعة لدول كانت تعتزم استغلال خدمات الذكاء الاصطناعي في عمليات إلكترونية شائنة.
أعلنت الشركة التي يقودها سام ألتمان أنها نجحت في تحييد العديد من الجهات الخبيثة التابعة لدول مختلفة. وتشمل هذه إعصار الفحم، وإعصار السلمون، المرتبطين بالصين، وكريمسون ساندستورم، المرتبط بإيران، وإميرالد سلييت، المرتبط بكوريا الشمالية، وفورست بليزارد، المرتبط بروسيا.
تم إنهاء حسابات OpenAI المرتبطة بهؤلاء الأفراد. وقد سعى هؤلاء الأفراد الخبيثون إلى إساءة استخدام خدمات OpenAI في أنشطة مثل استخراج معلومات مفتوحة المصدر، وترجمة النص، واكتشاف أخطاء الترميز، وتنفيذ مهام ترميز التعليمات البرمجية.
وفقًا لمايكروسوفت، فإن مجموعات الجرائم الإلكترونية، والجهات الفاعلة التي تهدد الدول القومية، وغيرهم من الخصوم يستكشفون ويختبرون تقنيات الذكاء الاصطناعي المختلفة عند ظهورها. هدفهم هو فهم الفوائد المحتملة التي يمكن أن تقدمها هذه التقنيات لعملياتهم وتحديد الإجراءات الأمنية التي يجب عليهم العمل حولها.
تقول Microsoft وOpenAI إن المتسللين يستخدمون ChatGPT لتعزيز الهجمات الإلكترونية https://t.co/QTtaCGJpsw
– الحافة (@verge) 14 فبراير 2024
وشددت الشركة على أهمية الحفاظ على فهم سياقي للمخاطر المرتبطة بالذكاء الاصطناعي وتقنيات المسح، حيث سيواصل المهاجمون التركيز عليها وتقييم قدراتهم الحالية وضوابطهم الأمنية.
سلط عملاق التكنولوجيا الضوء على أهمية دمج ممارسات النظافة مثل المصادقة متعددة العوامل (MFA) ودفاعات الثقة المعدومة. يعد هذا أمرًا بالغ الأهمية حيث يمكن للمهاجمين الاستفادة من الأدوات المستندة إلى الذكاء الاصطناعي لتعزيز هجماتهم الإلكترونية الحالية، والتي تعتمد بشكل كبير على الهندسة الاجتماعية واستغلال الأجهزة والحسابات غير الآمنة.
