يريد Snap مساعدتك في تحديد الصور التي تم إنشاؤها بواسطة Snapchat AI باستخدام العلامات المائية
تخطط Snap لطرح ميزة العلامة المائية التي ستساعدك على التمييز بشكل أفضل بين الصور الحقيقية والصور المصممة بالذكاء الاصطناعي. الثلاثاء, شركة رسائل الهاتف المحمول إعلان أن Snapchat سيضيف العلامة المائية إلى الصور التي تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي التوليدية من Snap.
ستظهر العلامة المائية، التي تظهر على شكل شعار شبح صغير مع الأيقونة اللامعة المألوفة، على جميع هذه الصور المصدرة أو المحفوظة في Camera Roll. يبدو أن العلامة المائية لن تظهر إذا قمت بمشاركة الصور في تطبيق Snapchat.
في السنوات الأخيرة، أطلقت شركة Snap مجموعة متنوعة من الأدوات القائمة على الذكاء الاصطناعي. يمكنك استخدام الذكاء الاصطناعي لإنشاء خلفيات لإضفاء الإثارة على محادثاتك، وتحويل وجهك بعدسات غريبة، ووضع نفسك في مشاهد مختلفة عبر Snapchat Dreams، والدردشة مع My AI chatbot، وحتى إنشاء حيوان أليف افتراضي.
المعضلة هنا هي أنه يمكن بسهولة خداع الناس للاعتقاد بأن الصورة التي ينشئها الذكاء الاصطناعي حقيقية. بالطبع، إذا قمت بمشاركة صورة تم التقاطها باستخدام مرشح يجعلني أبدو وكأنني كائن فضائي أو أخطبوط، فإن الشخص الآخر يعرف أنها ليست حقيقية (إلا إذا كان يؤمن بوجود كائنات فضائية أو كائنات بحرية تتحدث). وفي حالات أخرى، يمكن لأدوات الذكاء الاصطناعي أن تجعل شيئًا ما يبدو شرعيًا تمامًا.
أيضًا: أصبح الذكاء الاصطناعي في Snapchat أكثر غرابة: تقديم حيوانات أليفة تعمل بالذكاء الاصطناعي
يستخدم Snap بالفعل بعض الحيل لتمييز بعض العناصر التي تم إنشاؤها بواسطة الذكاء الاصطناعي. تظهر الرموز والرموز والتسميات السياقية عندما تتفاعل مع ميزة Snapchat المدعومة بالذكاء الاصطناعي. ستعرض صورة Dreams المصممة بواسطة الذكاء الاصطناعي خريطة منبثقة تحتوي على مزيد من التفاصيل. الصورة التي تستخدم أداة التوسيع لتظهر مصغّرة بشكل أكبر ستضيف رمز التألق للإشارة إلى أنها تم إنشاؤها بواسطة الذكاء الاصطناعي.
ونظرًا لاستخدام الذكاء الاصطناعي وإساءة استخدامه لأسباب سياسية، أشارت Snap أيضًا إلى أن موظفيها يقومون بمراجعة الإعلانات السياسية بحثًا عن استخدام مضلل للمحتوى. وعلى وجه الخصوص، يبحثون عن علامات تشير إلى استخدام الذكاء الاصطناعي لإنشاء صورة مضللة.
وأوضحت شركة Snap في بيانها الصحفي أن الشركة تحاول أيضًا العثور على العيوب المحتملة واختبارها في نماذج الذكاء الاصطناعي الخاصة بها. تستخدم شركة Snap تقنية الفريق الأحمر، وهي عملية تتظاهر فيها أطراف داخلية أو خارجية بمظهر المتسللين والمهاجمين الذين يسعون إلى استغلال نقاط الضعف أو التحايل على وسائل الحماية في نماذج الذكاء الاصطناعي التوليدية. في حالة شركة Snap، تبحث الفرق الحمراء عن نتائج ومحتوى الذكاء الاصطناعي الذي يحتمل أن يكون متحيزًا.
وقالت Snap في بيانها: “نحن نؤمن بالإمكانات الهائلة لتكنولوجيا الذكاء الاصطناعي لتحسين قدرة مجتمعنا على التعبير عن أنفسهم والتواصل مع بعضهم البعض، ونحن ملتزمون بمواصلة تحسين بروتوكولات الأمان والشفافية هذه”.
