‫ كيف يكون الذكاء الاصطناعي متحيزا اجتماعيا؟

[ad_1]

مساحة إعلانية

أ. د يامين بودهان

مساحة إعلانية

مقالات

أ. د يامين بودهان
كيف يكون الذكاء الاصطناعي متحيزا اجتماعيا؟
28 مارس 2023 , 02:00ص

بروز برمجيات الذكاء الاصطناعي مثل Chat Gpt بدأ يحدث ثورة في الوصول إلى المعلومات واستخلاصها من الكم الضخم من البيانات والمصادر المفتوحة، فبمجرد ما يطرح أي سؤال على هذه المنصة متعددة اللغات فإنها تزودك بأحسن نتائج بحث، وتشعر وكأن الإجابة مخصصة لك، فهو يمكّن من استخلاص المعلومات من النصوص بكفاءة وبشكل سريع ودقيق، من خلال إنشاء نماذج للتفاعل والحوار بين الإنسان والحاسوب وكأنها تخرج من فم إنسان حقيقي، فهي توفر المعلومات بمهارة تفوق كفاءة البشر بأضعاف المرات وبسرعات قياسية، والمثير في هذه النماذج التفاعلية أنها تتمتع بقدرة متزايدة على الإدراك والاستنتاج والتوقع، والقدرة على تفسير البيانات الخارجية التي تجمعها بنفسها، و تحولها إلى مهام محددة، في مجالات عديدة كالتعليم، الإعلام، الصحة، الاستشارات، الأمن… إلخ.

يُتوقع أن تحدث تطبيقات الذكاء الاصطناعي في كل تلك المجالات تغييرا جذريا للإنسان والمجتمعات من حيث تحليل الأنماط اليومية للأفراد والمجموعات وتوجيههم في اتخاذ القرارات وتحسين حياتهم اليومية، حيث ستُدمج هذه التطبيقات في مجموعة متنوعة من القطاعات، كقطاع التعليم، المال والأعمال،الأمن القومي، الرعاية الصحية، النقل والمدن الذكية، حيث ستؤثر تقنيات تحليل البيانات الضخمة المرتبطة بالذكاء الاصطناعي تأثيرا عميقا في تحليل المعلومات في كل القطاعات السابقة والتوجيه لاتخاذ القرارات اللازمة بالدقة والسرعة اللازمتين.

لكن ما يثير التساؤل والنقاش أكثر رغم الجوانب الإيجابية الكثيرة للذكاء الاصطناعي هو الجوانب الأخلاقية المرتبطة بالتحيزات الاجتماعية التي تحكم نتائج البحث في الذكاء الاصطناعي، وما يرتبط أيضا بمسألة القيم الاجتماعية، هل هي عفوية وتقدم نتائج محايدة؟ أم العكس؟ فمخاوف كثيرة متعلقة بالنتائج التفضيلية لبعض الفئات الاجتماعية على أخرى وبعض القيم على أخرى التي ترد في نتائج بحث مختلف تطبيقاته، الأمر الذي سيكرس للتفاوت الاجتماعي مستقبلا، وللهيمنة والتضليل الذي سيمارسه من يغذي تطبيقات الذكاء الاصطناعي بالبيانات الكبرى.

فيمكن أن يتم تدريب الذكاء الاصطناعي على البيانات التي تحتوي على تحيزات اجتماعية مقصودة أو غير مقصودة نحو مجموعات معينة من الأفراد، ويوجد العديد من التحيزات الاجتماعية التي يمكن أن يعاني منها الذكاء الاصطناعي، ومن بين هذه التحيزات، كالتحيز العرقي من خلال إعطاء تفضيلات للأشخاص الذين ينتمون إلى مجموعة عرقية معينة على حساب أخرى، وكمثال على ذلك يمكن الإشارة إلى نظام الكشف الآلي عن الجرائم في الولايات المتحدة الأمريكية الذي يعتمد على تحليل بيانات الجرائم السابقة لتحديد الأماكن التي يرتفع فيها معدل الجريمة، وقد أظهرت الدراسات أن هذا النظام يعاني من تحيزات عرقية،حيث يقوم النظام بتوجيه المزيد من الشبهات والاتهامات إلى المناطق التي تسكنها الأقليات العرقية، حتى إذا كانت هذه المناطق ذات معدلات جريمة منخفضة، كمناطق السود أو المناطق التي يسكنها المسلمون، وهذا يعكس التحيز الذي ينشأ عندما يتم استخدام بيانات الماضي المتحيزة والمحدودة لتدريب نظام الذكاء الاصطناعي.

أو التحيز الجنسي، من خلال تفضيل جنس الذكور على الإناث أو العكس، ويمكن أن يكون ذلك نتيجة لاستخدام الأنظمة الذكية لمجموعات بيانات محددة تتضمن تحيزات جنسية سابقة، أو نتيجة الخوارزميات التي تفضل توظيف الرجال على النساء على أساس عوامل مثل الخبرة أو السن، ومن أشكال التحيزات الاجتماعية أيضا يوجد التحيز الثقافي واللغوي، لثقافات ولغات معينة على حساب طمس هويات ثقافية ولغات أخرى، حتى وإن كانت من أكثر اللغات استخداما.

كما يوجد نوع آخر من التحيزات التي تظهر في نتائج نماذج الذكاء الاصطناعي كشات جي بي تي هي التحيزات الثقافية فحين يتم تدريب النماذج الذكية الاصطناعية باستخدام بيانات من ثقافات محددة مثل الثقافة الغربية، من خلال التحيز لنشر العادات والتقاليد والقيم الاجتماعية واللغة الخاصة بهذه المجتمعات، على حساب الثقافات واللغات الأخرى، والنتيجة ستظهر تفاوتات ثقافية وقيمية في المجتمعات، وستسود الثقافات والقيم التي تروج لها نماذج الذكاء الاصطناعي، وسيتم طمس الثقافات والقيم الأخرى، والأمر كله مرتبط بتحيزات هذه الأنظمة، فهي ليست حيادية وسيتم توظيفها لفرض الهيمنة الثقافية والاجتماعية.

يمكن أن تتطور هذه التحيزات الاجتماعية نتيجة لعدة عوامل، بما في ذلك البيانات المستخدمة في تدريب النماذج الذكاء الاصطناعي وتصميمها، وكيفية استخدام هذه النماذج في العمليات الحيوية، لذلك إذا لم تراقب وتصحح هذه التحيزات الاجتماعية على مستوى البيانات الضخمة التي تغذى بها تطبيقات الذكاء الاصطناعي فستستمر في إعطاء نتائج ونماذج مضللة ومتحيزة اجتماعيا، وغالبا ما تكون الشركات الكبرى هي وراء ممارسة هذا التحيز فتكون أهدافها تجارية ولا يهمها الجانب الأخلاقي والقيمي، أو تكون تخدم أجندات سياسية وإيديولوجية معينة للدول الكبرى، فالصراع الدولي الآن تحول لصراع التحكم في البيانات الضخمة وتوجيه تطبيقات الذكاء الاصطناعي كنوع من أنواع الحروب الناعمة.