تستخدم فرانسين بينيت علم البيانات لجعل الذكاء الاصطناعي أكثر عرضة للمساءلة

لمنح أكاديميي الذكاء الاصطناعي وغيرهم الوقت الذي يستحقونه – والذي طال انتظاره – في دائرة الضوء، تطلق TechCrunch سلسلة مقابلة مع التركيز على النساء المتميزات اللاتي ساهمن في ثورة الذكاء الاصطناعي. سنقوم بنشر العديد من المقالات على مدار العام مع استمرار ازدهار الذكاء الاصطناعي، لتسليط الضوء على الأعمال الرئيسية التي غالبًا ما يتم تجاهلها. اقرأ المزيد من الملفات الشخصية هنا.

فرانسين بينيت هو عضو مجلس إدارة مؤسس لمعهد Ada Lovelace ويعمل حاليًا كمدير مؤقت للمنظمة. وقبل ذلك، عملت في مجال التكنولوجيا الحيوية، باستخدام الذكاء الاصطناعي للعثور على علاجات طبية للأمراض النادرة. كما شاركت أيضًا في تأسيس شركة استشارية لعلوم البيانات، وهي أحد الأمناء المؤسسين لشركة DataKind UK، التي تدعم الجمعيات الخيرية لعلوم البيانات في المملكة المتحدة.

باختصار، كيف كانت بدايتك في مجال الذكاء الاصطناعي؟ ما الذي جذبك للميدان؟

لقد بدأت بالرياضيات البحتة ولم أكن مهتمًا حقًا بأي شيء تطبيقي. لقد أحببت العبث بالكمبيوتر، لكنني اعتقدت أن الرياضيات التطبيقية كانت مجرد حساب التفاضل والتكامل وليست مثيرة للاهتمام من الناحية الفكرية. جئت إلى الذكاء الاصطناعي والتعلم الآلي لاحقًا، عندما أصبح واضحًا بالنسبة لي وللجميع أنه نظرًا لأن البيانات أصبحت أكثر وفرة في العديد من السياقات، فقد فتحت إمكانيات طرق مثيرة لحل جميع أنواع المشكلات بطرق جديدة باستخدام الذكاء الاصطناعي . والتعلم الآلي، وكانوا أكثر إثارة للاهتمام مما كنت أتخيله.

ما هو العمل الذي تفتخر به أكثر (في مجال الذكاء الاصطناعي)؟

أنا فخور جدًا بالعمل الذي لا يعتبر الأكثر تعقيدًا من الناحية الفنية ولكنه يحقق تحسينات حقيقية للأشخاص – على سبيل المثال، استخدام التعلم الآلي لمحاولة العثور على أنماط لم تتم ملاحظتها مسبقًا في تقارير الحوادث الأمنية. سلامة المرضى في المستشفى لمساعدة المتخصصين في الرعاية الصحية على تحسين مستقبل. نتائج المرضى. وأنا فخور بتمثيل أهمية وضع الناس والمجتمع بدلاً من التكنولوجيا في مركز الأحداث مثل قمة سلامة الذكاء الاصطناعي لهذا العام في المملكة المتحدة. Je pense que cela n’est possible qu’avec autorité, car j’ai eu l’expérience de travailler avec la technologie, d’être enthousiasmé par celle-ci et d’approfondir la façon dont elle affecte réellement la vie des gens dans الممارسة.

كيف يمكننا معالجة تحديات صناعة التكنولوجيا التي يهيمن عليها الذكور، وبالتالي صناعة الذكاء الاصطناعي التي يهيمن عليها الذكور؟

بشكل أساسي عن طريق اختيار العمل في أماكن ومع أشخاص يهتمون بالشخص ومهاراته بدلاً من الجنس والسعي لاستخدام نفوذي لجعل ذلك هو القاعدة. كما أن العمل في فرق متنوعة كلما أمكنني ذلك – فالتواجد في فريق متوازن بدلاً من أن نكون “أقلية” استثنائية يخلق جوًا مختلفًا حقًا ويسمح للجميع بالوصول إلى إمكاناتهم بشكل أكبر. وبشكل أكثر عمومية، نظرا لأن الذكاء الاصطناعي متعدد الأوجه ومن المرجح أن يؤثر على العديد من مناحي الحياة، وخاصة تلك الموجودة في المجتمعات المهمشة، فمن الواضح أن الناس من جميع مناحي الحياة بحاجة إلى المشاركة في بنائه وتشكيله، إذا كان الأمر كذلك. سوف تعمل بشكل جيد.

ما هي النصيحة التي تقدمها للنساء الراغبات في دخول مجال الذكاء الاصطناعي؟

يتمتع! يعد هذا مجالًا مثيرًا للاهتمام ومحفزًا فكريًا ومتغيرًا باستمرار – ستجد دائمًا شيئًا مفيدًا وصعبًا للقيام به، وهناك العديد من التطبيقات المهمة التي لم يفكر فيها أحد بعد. أيضًا، لا تقلق كثيرًا بشأن الحاجة إلى معرفة كل شيء تقني (حرفيًا، لا أحد يعرف كل شيء تقني) – فقط ابدأ بشيء يثير اهتمامك واعمل من هناك.

ما هي القضايا الأكثر إلحاحا التي تواجه الذكاء الاصطناعي أثناء تطوره؟

في الوقت الحالي، أعتقد أن هناك نقصًا في الرؤية المشتركة لما نريد أن يفعله الذكاء الاصطناعي لنا وما يمكن وما لا يمكنه فعله لنا كمجتمع. إن العديد من التطورات التقنية جارية الآن، والتي من المرجح أن تخلف تأثيرات بيئية ومالية واجتماعية كبيرة للغاية، وهناك قدر كبير من الحماس لنشر هذه التكنولوجيات الجديدة دون فهم شامل للمخاطر المحتملة أو العواقب غير المقصودة. معظم الأشخاص الذين يطورون التكنولوجيا ويتحدثون عن المخاطر والعواقب ينتمون إلى فئة سكانية ضيقة إلى حد ما. لدينا الآن فرصة لتقرير ما نريد رؤيته من الذكاء الاصطناعي والعمل على تحقيقه. يمكننا أن نفكر مرة أخرى في أنواع أخرى من التقنيات وكيف تمكنا من إدارة تطورها أو ما كنا نتمنى أن نفعله بشكل أفضل: ما هي مرادفاتنا لمنتجات الذكاء الاصطناعي لاختبار التصادم في السيارات الجديدة؛ تحميل مطعم مسؤولية التسمم الغذائي عن طريق الخطأ؛ استشارة الأشخاص المعنيين عند الحصول على رخصة البناء؛ استئناف قرار الذكاء الاصطناعي كما يمكن للمرء أن يستأنف البيروقراطية البشرية.

ما هي المشكلات التي يجب أن يكون مستخدمو الذكاء الاصطناعي على دراية بها؟

أود أن يكون لدى الأشخاص الذين يستخدمون تقنيات الذكاء الاصطناعي الثقة في ماهية الأدوات وما يمكنهم فعله وأن يتحدثوا عما يريدون من الذكاء الاصطناعي. من السهل أن نرى الذكاء الاصطناعي كشيء غير معروف ولا يمكن السيطرة عليه، لكنه في الواقع مجرد مجموعة من الأدوات – وأريد أن يشعر البشر بالقدرة على تحمل مسؤولية ما يفعلونه بهذه الأدوات. ولكن لا ينبغي أن يقع هذا على عاتق مستخدمي التكنولوجيا فحسب: بل ينبغي للحكومة والصناعة أن تعمل على تهيئة الظروف اللازمة حتى يتسنى لمستخدمي الذكاء الاصطناعي اكتساب الثقة.

ما هي أفضل طريقة لتطوير الذكاء الاصطناعي بشكل مسؤول؟

كثيرًا ما نطرح هذا السؤال في معهد Ada Lovelace، الذي يهدف إلى استخدام الذكاء الاصطناعي للبيانات لصالح الناس والمجتمع. هذا سؤال صعب، وهناك المئات من الزوايا التي يمكنك اتخاذها، ولكن هناك زاويتان مهمتان للغاية من وجهة نظري.

الأول هو أن تكون على استعداد في بعض الأحيان لعدم البناء أو التوقف. نرى دائمًا أنظمة الذكاء الاصطناعي تتمتع بزخم كبير، حيث يحاول البناؤون إضافة “حواجز حماية” بعد ذلك للتخفيف من مواطن الخلل والأضرار، ولكن لا يضعون أنفسهم في موقف يكون فيه التوقف أمرًا ممكنًا.

والثاني هو المشاركة ومحاولة فهم كيف سيختبر جميع أنواع الأشخاص ما تقوم ببنائه. إذا تمكنت حقا من التعمق في تجاربهم، فمن المرجح أن تستفيد من النوع الإيجابي من الذكاء الاصطناعي المسؤول ــ بناء شيء يحل مشكلة حقيقية للناس، استنادا إلى رؤية مشتركة لما هو عليه. مثل – بالإضافة إلى تجنب السلبية – دون أن تجعل حياة شخص ما أسوأ عن طريق الخطأ لأن وجوده اليومي يختلف تمامًا عن حياتك.

على سبيل المثال، دخل معهد آدا لوفليس في شراكة مع هيئة الخدمات الصحية الوطنية لتطوير تقييم التأثير الخوارزمي الذي ينبغي للمطورين تنفيذه كشرط للوصول إلى البيانات الصحية. وهذا يتطلب من المطورين تقييم التأثيرات المجتمعية المحتملة لنظام الذكاء الاصطناعي الخاص بهم قبل التنفيذ ودمج التجارب الحياتية للأشخاص والمجتمعات التي يمكن أن تتأثر.

كيف يمكن للمستثمرين تعزيز الذكاء الاصطناعي المسؤول بشكل أفضل؟

من خلال طرح أسئلة حول استثماراتهم وعقودهم المستقبلية المحتملة – بالنسبة لنظام الذكاء الاصطناعي هذا، كيف يبدو العمل ببراعة والمسؤولية؟ أين يمكن أن تسوء الأمور؟ ما هي التأثيرات المحتملة على الإنسان والمجتمع؟ كيف سنعرف ما إذا كان علينا التوقف عن البناء أو تغيير الأشياء بشكل كبير، وماذا سنفعل بعد ذلك؟ لا توجد وصفة واحدة تناسب الجميع، ولكن ببساطة من خلال طرح الأسئلة والإشارة إلى أهمية التحلي بالمسؤولية، يستطيع المستثمرون تغيير المجالات التي تكرس فيها شركاتهم اهتمامها وجهودها.