هيئة مراقبة حماية البيانات في المملكة المتحدة تنهي تحقيق الخصوصية في برنامج الدردشة GenAI الخاص بشركة Snap، لكنها تحذر الصناعة

أغلقت هيئة حماية البيانات البريطانية تحقيقًا استمر لمدة عام تقريبًا في برنامج الدردشة الآلي My AI التابع لشركة Snap، قائلة إنها راضية عن أن شركة التواصل الاجتماعي قد عالجت المخاوف بشأن المخاطر التي تهدد حياة الأطفال المحرومين. وفي الوقت نفسه، أصدر مكتب مفوض المعلومات (ICO) تحذيرًا عامًا للصناعة لتكون استباقية في تقييم المخاطر التي تهدد حقوق الأشخاص قبل جلب أدوات الذكاء الاصطناعي إلى السوق.

يشير GenAI إلى نسخة من الذكاء الاصطناعي التي غالبًا ما تضع إنشاء المحتوى في المقدمة. في حالة شركة Snap، تعمل التقنية على تشغيل برنامج الدردشة الآلي الذي يمكنه الاستجابة للمستخدمين بطريقة إنسانية، مثل إرسال الرسائل النصية واللقطات، مما يسمح للنظام الأساسي بتوفير التفاعل الآلي.

يتم تشغيل Chatbot AI من Snap بواسطة ChatGPT من OpenAI، لكن شركة التواصل الاجتماعي تقول إنها تطبق وسائل حماية مختلفة على التطبيق، بما في ذلك البرمجة التوجيهية والوعي بالعمر افتراضيًا، والتي تهدف إلى منع الأطفال من مشاهدة المحتوى غير المناسب للعمر. ويتضمن أيضًا أدوات الرقابة الأبوية.

وكتب ستيفن ألموند، المدير التنفيذي للمخاطر التنظيمية في ICO، في بيان: “إن تحقيقنا في My AI يجب أن يكون بمثابة دعوة للاستيقاظ للصناعة”. إفادة يوم الثلاثاء. “يجب على المنظمات التي تطور أو تستخدم الذكاء الاصطناعي التوليدي أن تفكر في حماية البيانات منذ البداية، بما في ذلك التقييم الدقيق للمخاطر التي تهدد حقوق الأشخاص وحرياتهم وتخفيفها قبل طرح منتجاتهم في السوق. »

وأضاف: “سنواصل مراقبة تقييمات المخاطر الخاصة بالمنظمات واستخدام جميع سلطاتنا التنفيذية – بما في ذلك الغرامات – لحماية الجمهور من الأذى”.

مرة أخرى في أكتوبرأرسل ICO لشركة Snap إشعارًا تنفيذيًا أوليًا بخصوص ما وصفه في ذلك الوقت بأنه “فشل محتمل في تقييم مخاطر الخصوصية التي يشكلها برنامج الدردشة الآلي المولد بتقنية الذكاء الاصطناعي “My AI” بشكل صحيح.”

يبدو أن هذا الإشعار الأولي الصادر في الخريف الماضي هو التوبيخ العام الوحيد الموجه إلى شركة Snap. من الناحية النظرية، يمكن للنظام فرض غرامات تصل إلى 4% من حجم الأعمال السنوي للشركة في حالة حدوث خرق مؤكد للبيانات.

عند إعلانه عن اختتام تحقيقه يوم الثلاثاء، أشار ICO إلى أن الشركة قد اتخذت “خطوات مهمة لإجراء مراجعة أكثر تعمقًا للمخاطر التي يشكلها “My AI”” بعد تدخلها. قال ICO أيضًا أن Snap تمكنت من إثبات أنها نفذت “تدابير التخفيف المناسبة” استجابةً للمخاوف المثارة – دون تحديد التدابير الإضافية (إن وجدت) التي اتخذتها الشركة (لقد طلبنا ذلك).

ويمكن نشر المزيد من التفاصيل عند نشر القرار النهائي للهيئة التنظيمية في الأسابيع المقبلة.

“إن ICO مقتنعة بأن Snap قد أجرت الآن تقييمًا للمخاطر المتعلقة بـ “My AI” والذي يتوافق مع قانون حماية البيانات. وأضافت الهيئة التنظيمية أن الطرح الأولي للعملة سيستمر في مراقبة نشر “My AI” وكيفية معالجة المخاطر الناشئة.

عندما طلبنا الرد على نتيجة التحقيق، أرسل لنا متحدث باسم Snap بيانًا كتب فيه: “يسعدنا أن ICO قد وافق على أننا وضعنا التدابير المناسبة لحماية مجتمعنا عند استخدام My AI. على الرغم من أننا قمنا بتقييم المخاطر التي يشكلها My AI بعناية، إلا أننا نقبل أنه كان من الممكن توثيق تقييمنا بشكل أكثر وضوحًا وإجراء تغييرات على إجراءاتنا الشاملة لتعكس التعليقات البناءة من ICO. نحن نرحب باستنتاج ICO بأن تقييم المخاطر الخاص بنا متوافق تمامًا مع قوانين حماية البيانات في المملكة المتحدة ونتطلع إلى مواصلة شراكتنا البناءة.

ورفضت شركة Snap توضيح إجراءات التخفيف التي نفذتها استجابةً لتدخل ICO.

وقالت الهيئة التنظيمية في المملكة المتحدة إن الذكاء الاصطناعي الإنتاجي يظل يمثل أولوية للتنفيذ. يخبر المطورين نصيحة يتم إنتاجه وفقًا لقواعد الذكاء الاصطناعي وحماية البيانات. كما أن لديها استشارة مفتوحة طلب التعليق على كيفية تطبيق قانون الخصوصية على تطوير واستخدام نماذج الذكاء الاصطناعي التوليدية.

على الرغم من أن المملكة المتحدة لم تقدم بعد تشريعًا رسميًا بشأن الذكاء الاصطناعي، إلا أن الحكومة فعلت ذلك اختارت الاعتماد على المنظمين مثل ICO لتحديد كيفية تطبيق القواعد المختلفة الحاليةوقد فعل المشرعون في الاتحاد الأوروبي للتو الموافقة على إطار عمل قائم على المخاطر للذكاء الاصطناعي – يجب أن ينطبق هذا في الأشهر والسنوات القادمة – والذي يتضمن التزامات الشفافية لروبوتات الدردشة المدعومة بالذكاء الاصطناعي.