كيف يمكن للذكاء الاصطناعي دعم التنوع والإنصاف والشمول؟

التنوع والشمول

المشاركة تعنى الاهتمام

29 أبريل، 2022

هناك تاريخ من عدم الثقة بين مجتمعات اللون والتقنيات الناشئة مثل الذكاء الاصطناعي. كيف يمكننا إعادة بناء الثقة والتأكد من استخدام الذكاء الاصطناعي بشكل أخلاقي؟

 

By

اخصائي تصميم المشاريع والاتصالات ، التحالف العالمي للذكاء الاصطناعي ، المنتدى الاقتصادي العالمي


 

  • يقام شهر التاريخ الأسود خلال شهر فبراير في الولايات المتحدة وكندا والمملكة المتحدة.
  • إن حركة الحقوق المدنية في الولايات المتحدة والتكنولوجيا الناشئة متشابكتان بشكل وثيق ، لا سيما من منظور موجه نحو العدالة.
  • يجب أن يكون الذكاء الاصطناعي أخلاقيًا ومنصفًا في منهجه لضمان تمكين المجتمعات وإفادة المجتمع.

 

التحيز في الخوارزميات هو إشراف بشري مكلف. مكلفة بسبب تأثيرها الهائل على المجتمعات المهمشة والممثلة تمثيلا ناقصا. مع استمرار الذكاء الاصطناعي (AI) في التوسع عبر الصناعات والوظائف ، يمكن أن يكون مليئًا بالتحيزات اللاواعية التي تضر أكثر مما تنفع.

 

بينما يتحدث أخصائيو أخلاقيات الذكاء الاصطناعي وممارسو الذكاء الاصطناعي المسؤولون غالبًا عن الحاجة إلى مزيد من الشفافية والمساءلة في دورة حياة الذكاء الاصطناعي ، غالبًا ما يكون شهر التاريخ الأسود هو الوقت الذي تقوم فيه المنظمات بتقييم العمل الهائل الذي تم إنجازه والذي لا يزال يتعين القيام به.

 

نحن نثق في الذكاء الاصطناعي، وهو بودكاست شارك في استضافته ميريام فوجل من EqualAI و Kay Firth-Butterfield من المنتدى الاقتصادي العالمي ، يستكشف الفرص والتحديات المتعلقة بتوسيع نطاق الذكاء الاصطناعي المسؤول. في حلقة شهر التاريخ الأسود لهذا العام ، كيف يؤثر (ويجب) على الذكاء الاصطناعي أن يؤثر على احتفالنا في BHM ، انضم إليهم رينيه كامينغز ، عالم أخلاقيات الذكاء الاصطناعي ، عالم الجريمة ، عالم مجتمع جامعة كولومبيا ، ومؤسس Urban AI.

 

تركز الحلقة على أهمية الإنصاف والشمول في الذكاء الاصطناعي ، وكذلك روابطها بالعدالة والمشاركة المدنية.

 

تاريخ التكنولوجيا في المجتمعات السوداء

داخل المجتمعات الملونة في الولايات المتحدة ، هناك تاريخ من عدم الثقة في التكنولوجيا - فقد أظهر تطبيق القانون ، والخدمات الاجتماعية ، والإسكان ، والرعاية الصحية جميعًا تفاوتًا وانعدامًا للمساواة خاصة خلال جائحة COVID-19. يوضح كامينغز أنه حتى في التاريخ الحديث ، تم استخدام العديد من المجتمعات كـ "خنازير غينيا" في البحث ، لذا فإن مستويات عدم الثقة تعتمد على الأجيال والصدمات. يتطلب نشر التقنيات الجديدة ، مثل الذكاء الاصطناعي ، بناء واستعادة تلك الثقة والعدالة.

 

نظرًا لأن الذكاء الاصطناعي يهدف إلى مساعدة التفاعلات البشرية وتكرارها ، فإن آخر شيء يجب أن تفعله التكنولوجيا هو دعم التحيزات البشرية القديمة وإدامة الصور النمطية الضارة وغير الدقيقة. الأنظمة القديمة التي تستمر في تقويض مستقبل الأفراد ، وخاصة السود والسكان الأصليين والأشخاص الملونين (BIPOC) ، ليست أداة يجب مراعاتها لنشرها.

 

نظرًا لأن الذكاء الاصطناعي بدأ في المساعدة في وظائف مثل تحديد من يحصل على المنح الدراسية ، والرهون العقارية ، وفرص بناء رأس المال الاقتصادي ، فقد أصبح من الواضح لماذا يجب أن يكون الذكاء الاصطناعي - دون شك - غير متحيز وشامل. عند تكرار التفاعلات البشرية ، يجب أن تكون أفضل ما تقدمه البشرية ، وليس الأسوأ.

 

تصف منظمة العفو الدولية وأنت ، وهي منظمة غير ربحية تقوم بمهمة إشراك المجتمعات المهمشة وتثقيفها حول الذكاء الاصطناعي ، التحيز:

 

"الذكاء الاصطناعي ليس على علم بالأشياء التي نعرضها ، لكنه يحاول فهمها رغم ذلك ، ولذا إذا كانت الأشياء التي نعرضها للذكاء الاصطناعي هي نفسها تحيزات ، سواء كان ذلك بطريقة عنصرية أو معادية للأجانب ، على سبيل المثال ، سوف يعيد الذكاء الاصطناعي إنتاج هذا السلوك حتمًا ".

 

كان أحد الأمثلة الهامة والحديثة على تسليح التكنولوجيا أثناء احتجاجات Black Lives Matter لعام 2020 ، حيث "تم استخدام تقنية المراقبة لتتبع وتعقب وترهيب العديد من الصحفيين والمتظاهرين والناشطين - كنا نشهد العديد من التحديات عندما جاءت إلى عدم وجود نهج عادل أو عدم وجود نهج متنوع ، "يصف كامينغز.

 

إذا كانت التكنولوجيا التي تعمل بالذكاء الاصطناعي والتي تتيح التعرف على الوجه والصوت وتعقبهما منحازة بطبيعتها بسبب بياناتها وتصميمها ، فإن مجتمعات BIPOC المستهدفة تتعرض للضرر دون أن تدرك ذلك. إذا كان للذكاء الاصطناعي أن يكون قابلاً للتطوير ، فيجب أن يكون أخلاقيًا ومنصفًا في منهجه.

 

تكنولوجيا الثقة العامة والمشاركة المدنية

يحدث الكثير من الذكاء الاصطناعي دون علم الجمهور ، وبالتالي ، دون إشراك الجمهور في هذه العملية. تعتبر Renee Cummings من أشد المؤيدين للمشاركة المدنية والمجتمعية في تصميم ونشر التكنولوجيا الجديدة والناشئة مثل الذكاء الاصطناعي. من أجل بناء الثقة ، يحتاج الجمهور إلى المشاركة في "تقنية الثقة العامة".

 

يقول كامينغز ، بصفته أوصياء على الصالح العام ، يتحمل كل شخص المسؤولية الجماعية لضمان أن يكون الذكاء الاصطناعي مسؤولاً وجديرًا بالثقة. وبما أن المجتمعات هي في النهاية منتجة البيانات والمعرفة التي تسمح بتشغيل أنظمة الذكاء الاصطناعي ، فمن المنطقي تضمين أصواتهم في مراحل التصميم.

 

علاوة على ذلك ، لخلق مستقبل مستدام ، فإن التعليم والأصوات المتنوعة مطلوبة من أجل ابتكار أكثر شمولاً ، لا سيما فيما يتعلق بالأمن والسلامة العامة. إذا كان لدى المجتمع ، على سبيل المثال ، ارتياب دائم في إنفاذ القانون ، فعندما ينشر تطبيق القانون تقنية ، حتى لو كانت مفيدة ، فسيتم اعتبارها غير جديرة بالثقة.

 

لا يوجد أبدًا موقف يستدعي فيه نشر التكنولوجيا أو يجب أن يؤدي إلى حدوث أزمة في أي مجتمع. بدلاً من ذلك ، عند نشر أداة جديدة (من بين جميع الأدوات الموجودة) تكون هادفة ومقصودة في الشمولية ، يجب عليها تمكين المجتمعات وتقديم فائدة للمجتمع بأسره.

 

 

أربع طرق للتأكد من أن الذكاء الاصطناعي شامل

  • التنوع: مطلوب طوال دورة حياة الذكاء الاصطناعي بأكملها ، بدءًا من التفكير والتصميم والتطوير وحتى النشر ومراقبة ما بعد الإطلاق. كتب الرئيس التنفيذي لشركة Appen Mark Brayan للمنتدى الاقتصادي العالمي أن "إنشاء ذكاء اصطناعي شامل يتطلب تحولًا كاملاً في العقلية طوال عملية التنمية بأكملها".
  • الشفافية: ليس فقط في مرحلة التفكير أو التصميم ، ولكن أيضًا عند اختيار الاستثمارات ورأس المال المناسبين للمشاريع. الانفتاح على ما يتم تصميمه ، والأهم من ذلك ، لمن وتأثيراته ضروري لأي تقنية جديدة.
  • التعليم: تعليم وتجهيز المجتمعات غير الممثلة تمثيلا ناقصا بالأدوات والمهارات اللازمة لفهم (والعمل) في مجال الذكاء الاصطناعي. شارك الدكتور برانديز مارشال ، مؤسس DataEdX ، وزميل ممارس في Stanford PACS ، وزميل أبحاث شريك في Siegel Family Endowment ، في محادثة مجتمعية مفادها أن الوصول إلى مجتمعات BIPOC يتطلب تمثيلًا: "إذا لم ترها ، فلن تكون كذلك - وهذا أمر حيوي للغاية لجذب المزيد من الأشخاص إلى هذا التخصص ".
  • الدعوة: دعم ومتابعة عمل المنظمات والأفراد في الفضاء مثل Black in AI ، التي أزالت برامجها الحواجز التي يواجهها السود حول العالم في مجال الذكاء الاصطناعي ، وتحالف العمل العالمي للذكاء الاصطناعي (GAIA).

 

تم نشر هذه المقالة في الأصل من قبل المنتدى الاقتصادي العالمي ، في 01 مارس 2022 ، وتم إعادة نشرها وفقًا لـ Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International Public License. يمكنك قراءة المقال الأصلي هنا. الآراء المعبر عنها في هذا المقال هي آراء المؤلف وحده وليست من WorldRef.


 

استكشف خدمات WorldRef لتتعلم كيف نجعل عمليات عملك العالمية أسهل وأكثر اقتصادا!

محطة طاقة الرياح | حلول الطاقة المائيةمراجعة الطاقة | الطاقة الحرارية والتوليد المشترك | أنظمة الكهربائية | خدمات للبائعين  |  المصادر الصناعية المجانية   |  حلول الصناعية  |  التعدين ومعالجة المعادن  |  أنظمة مناولة المواد  |  التحكم في تلوث الهواء  |  معالجة المياه والصرف الصحي  |  النفط والغاز والبتروكيماويات  |  السكر والإيثانول الحيوي  |  الطاقة الشمسية  |  حلول طاقة الرياح