يريد Hugging Face مساعدة المستخدمين على محاربة التزييف العميق للذكاء الاصطناعي.
الشركة التي تطور أدوات التعلم الآلي وتستضيف مشاريع الذكاء الاصطناعي توفر أيضًا موارد لتطوير الذكاء الاصطناعي الأخلاقي. يتضمن هذا الآن أ مجموعة يسمى “المصدر والعلامات المائية والكشف عن التزييف العميق”، والذي يتضمن أدوات لدمج العلامات المائية في الملفات الصوتية، وLLMs، والصور، بالإضافة إلى أدوات للكشف عن التزييف العميق.
أدى التوافر الواسع النطاق لتكنولوجيا الذكاء الاصطناعي التوليدية إلى انتشار التزييف العميق للصوت والفيديو والصور. لا تساهم ظاهرة التزييف العميق في انتشار المعلومات الخاطئة فحسب، بل تؤدي أيضًا إلى السرقة الفكرية وانتهاك حقوق الطبع والنشر للأعمال الإبداعية. لقد أصبحت تقنية التزييف العميق تمثل تهديدًا كبيرًا لدرجة أن الرئيس بايدن أمر تنفيذي بشأن الذكاء الاصطناعي العلامة المائية المطلوبة على وجه التحديد للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. جوجل و OpenAI تم إطلاق أدوات مؤخرًا لتضمين العلامات المائية في الصور التي تم إنشاؤها بواسطة نماذج الذكاء الاصطناعي التوليدية الخاصة بهم.
كانت الموارد إعلان بقلم مارغريت ميتشل، الباحثة وكبيرة علماء الأخلاقيات في شركة Hugging Face والموظفة السابقة في Google. أنشأت ميتشل وآخرون يركزون على التأثير الاجتماعي مجموعة مما أسمته عناصر “التكنولوجيا المتطورة” لمعالجة “ظهور المحتوى البشري “المزيف” الناتج عن الذكاء الاصطناعي”.
تستهدف بعض الأدوات الموجودة في المجموعة المصورين والمصممين الذين يحمون أعمالهم من استخدامها لتدريب نماذج الذكاء الاصطناعي، مثل Fawkes، التي “تسمم” أو تحد من استخدام برامج التعرف على الوجه على الصور التي يمكن للجمهور الوصول إليها. تعمل أدوات أخرى مثل WaveMark وTruepic وPhotoguard وImatag على حماية الاستخدام غير المصرح به للأعمال الصوتية أو المرئية من خلال تضمين علامات مائية يمكن اكتشافها بواسطة برامج معينة. هناك أداة Photoguard محددة في المجموعة تجعل الصورة “محصنة” ضد التحرير التوليدي القائم على الذكاء الاصطناعي.
أصبحت إضافة علامات مائية إلى الوسائط التي أنشأها الذكاء الاصطناعي التوليدي أمرًا ضروريًا لحماية الأعمال الإبداعية وتحديد المعلومات المضللة، ولكنها ليست مضمونة. غالبًا ما تتم إزالة العلامات المائية المضمنة في البيانات التعريفية تلقائيًا عند تحميلها على مواقع خارجية مثل الشبكات الاجتماعية، ويمكن للمستخدمين الضارين العثور على حلول بديلة عن طريق التقاط لقطة شاشة لصورة تحمل علامة مائية.
ومع ذلك، فإن الأدوات المجانية والمتاحة مثل تلك التي تشاركها Hugging Face أفضل بكثير من لا شيء.
