البيجيدي يتجه نحو تصويت كاسح على بنكيران وانتخابه على رأس المصباح    المحمدية.. مقطع الفيديو الذي يوثق لهجوم عصابة إجرامية على حافلة للنقل الحضري مشوب بعدم الدقة وعار من الصحة    ماراطون الرباط الدولي 2025.. فوز العداءين الأوغندي أبيل شيلانغات والمغربية رحمة الطاهيري بلقب الدورة الثامنة    الفدرالية البيمهنية لأنشطة الحبوب وتكامل الفلاح: شراكة استراتيجية من أجل تجميع رقمي يعزز الإنتاجية والربحية    استثمارات عقارية متزايدة لشقيقات الملك محمد السادس في فرنسا    استطلاع.. معظم الإسرائيليين يريدون إنهاء حرب غزة    هذه توقعات الأرصاد الجوية اليوم الأحد    تدخل أمني يوقف مخرب سيارات في مراكش    إصابات متفاوتة لأعضاء فريق حسنية جرسيف للدراجات في حادثة سير    جريمة بن أحمد.. الأمن يوقف شخصا جديدا    ماراطون الرباط الدولي: الأوغندي أبيل شيلانغات يتوج باللقب والمغربي عمر أيت شيتاشن بنصفه    فرنسا.. مقتل مصل طعنا داخل مسجد    الصين تخطو بثبات نحو الاستقلال التكنولوجي: تصنيع شرائح 3 نانومتر دون الاعتماد على معدات غربية    الرباط: تتويج التلاميذ الفائزين بالدورة السادسة لجائزة 'ألوان القدس'    الطالبي العلمي من الداخلة: نحترم التزاماتنا والحكومة تسهر على تنزيل الأوراش الملكية    الجزائر.. انهيار أرضي يودي بحياة عدة أشخاص    انفجار مرفأ في إيران يودي بعشرات القتلى    9 صحفيين يحصدون الجائزة الكبرى للصحافة في المجال الفلاحي والقروي    منصف السلاوي خبير اللقاحات يقدم سيرته بمعرض الكتاب: علينا أن نستعد للحروب ضد الأوبئة    هذا موعد والقنوات الناقلة لمباراة نهضة بركان وشباب قسنطينة    طنجة تحتضن اجتماع المجلس الإقليمي للاتحاد الاشتراكي استعدادًا للمؤتمر المقبل    اليوم يتعرف "البيجيديون" على أمينهم العام الجديد وسط غياب بارز للرؤية السياسية المستقبلية    18 قتيلا على الأقل و800 جريح في حصيلة جديدة لانفجار المرفأ في إيران    مشروع ورش الدار البيضاء البحري يرعب إسبانيا: المغرب يواصل رسم ملامح قوته الصناعية    تصاعد التوتر بين الهند وباكستان بعد قرار قطع المياه    كندا.. قتلى وجرحى إثر دهس سيارة لحشود في مهرجان بفانكوفر    تونس تتحول في عهد قيس سعيد إلى ظل باهت لنموذج سلطوي مأزوم    الجزائر في مواجهة مرآة الحقيقة: أكاذيب الداخل والخارج    "العدل" تستعدّ لإصدار نصّ تنظيمي بشأن تطبيق قانون العقوبات البديلة    برشلونة يحرز لقب كأس إسبانيا    "لبؤات الفوتسال" يواجهن أنغولا    جلسة حوارية "ناعمة" تتصفح كتاب "الحرية النسائية" للمؤرخ بوتشيش    "المرأة البامبارية" تُبرز قهر تندوف    المديني: روايتي الجديدة مجنونة .. فرانسيس بابا المُبادين في غزة    احتجاج أمام "أفانتي" في المحمدية    فوزي لقجع نائب أول لرئيس الاتحاد الإفريقي لكرة القدم    الأمن يصيب جانحا بالرصاص بالسمارة    الدوري الماسي: البقالي يحل ثانيا في سباق 3000 متر موانع خلال ملتقى شيامن بالصين    الكلية متعددة التخصصات بالناظورتحتضن يوما دراسيا حول الذكاء الاصطناعي    المباراة الوطنية الخامسة عشر لجودة زيت الزيتون البكر الممتازة للموسم الفلاحي 2024/2025    أدوار جزيئات "المسلات" تبقى مجهولة في جسم الإنسان    تتويج 9 صحفيين بالجائزة الوطنية الكبرى للصحافة في المجال الفلاحي والقروي    جديد نصر مكري يكشف عن مرحلة إبداعية جديدة في مسيرته الفنية    جيدو المغرب ينال ميداليات بأبيدجان    المغرب يرسّخ مكانته كمركز صناعي إفريقي ويستعد لبناء أكبر حوض لبناء السفن في القارة    البشر يواظبون على مضغ العلكة منذ قرابة 10 آلاف سنة    من تندرارة إلى الناظور.. الجهة الشرقية في قلب خارطة طريق الغاز بالمغرب    تتويج الفائزين في مباريات أحسن رؤوس الماشية ضمن فعاليات المعرض الدولي للفلاحة بالمغرب 2025    المرتبة 123 عالميا.. الرباط تتعثر في سباق المدن الذكية تحت وطأة أزمة السكن    الجهات تبصِم "سيام 2025" .. منتجات مجالية تعكس تنوّع الفلاحة المغربية    العالم والخبير في علم المناعة منصف السلاوي يقدم بالرباط سيرته الذاتية "الأفق المفتوح.. مسار حياة"    متدخلون: الفن والإبداع آخر حصن أمام انهيار الإنسانية في زمن الذكاء الاصطناعي والحروب    مصل يقتل ب40 طعنة على يد آخر قبيل صلاة الجمعة بفرنسا    كردية أشجع من دول عربية 3من3    دراسة: النوم المبكر يعزز القدرات العقلية والإدراكية للمراهقين    وداعًا الأستاذ محمد الأشرافي إلى الأبد    قصة الخطاب القرآني    المجلس العلمي للناظور يواصل دورات تأطير حجاج الإقليم    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



الذكاء الاصطناعي يرث ميول البشر العنصرية
نشر في بيان اليوم يوم 26 - 06 - 2020

وقعت أنظمة الذكاء الاصطناعي الخاصة ببرامج الصحافة التي تقدمها مايكروسوفت عبر منصتها الإخبارية في أزمة نشر محتوى إخباري أشعل أزمة عنصرية بين المتابعين.
وكشف تقرير لصحيفة الغارديان البريطانية أن النظام الاصطناعي الخاص بمايكروسوفت نشر خبرا عن أحد أعضاء فريق، ليتل مكس، الغنائي في بريطانيا، وكان الخبر يخص المطربة جيد ثيرلوول، لكن النظام التقني وبشكل خاطئ نشر مع الخبر صورة لأحد أعضاء الفريق الأخريات وهي، لي آن بينيك، وذلك لأن كلاهما من أصحاب البشرة السمراء، وقد عجز النظام التقني عن التفرقة بينهما بشكل صحيح.
وكشف التقرير عن استياء عضو الفريق المنشور عنها الخبر، حيث قالت إن خطأ الصورة مرتبط بمزحة عنصرية تستخدم ضد الفريق بالفعل، بسبب أنهم من أصحاب البشرة السمراء، وقول إنهم يشبهون بعضهم البعض.
وصححت المنصة ذلك الخطأ ولكن بعد أن أثار حالة من الجدل بين المستخدمين ومتابعي الفريق الغنائي البريطاني.
ميول نازية
قامت شركة مايكروسوفت خلال شهر مارس بإصدار "تشاتبوت" يتمتع بخصائص الذكاء الاصطناعي، يدعى "تاي"، وتوصيله بموقع تويتر، إلا أن الأمور سرعان ما اتخّذت منحى كارثيا كان مُتوقّعا منذ البداية. ففي غضون 24 ساعة، أخذ البوت يطلق عبارات غلبت عليها العنصرية والميول النازية. في الواقع، التقط البوت أغلب هذه العبارات إثر دمجه لمختلف الأساليب التي اعتمدها رواد تويتر الذين تفاعلوا معه.
وكانت مايكروسوفت قد أعلنت خلال فترة سابقة عن استبدال 70 من فريقها الصحافي ببرامج ذكاء اصطناعي يمكنها القيام بكافة المهام التي يقوم بها الصحافيون، حتى وقعت هذه الأزمة بعد مرور الأسبوع الأول من تطبيق البرنامج.
وقضية العنصرية في تطبيقات الذكاء الاصطناعي ليست بالأمر الجديد، فقد سبق أن رصد باحثون في معهد ماساتشوستس للتكنولوجيا عام 2018 عنصرية وتحيزا في أنظمة الذكاء، أرجعوها للطريقة التي تجمع من خلالها التقنية البيانات.
ودرس الباحثون مجموعة من الأنظمة، فوجدوا أن العديد منها أظهر تحيزا صادما، ثم طوروا نظاما يساعدهم على التأكد من أن أنظمتهم أقل تحيزا.
وقالت كبيرة الباحثين، إيرين تشن، وهي طالبة دكتوراه ساهمت في كتابة الورقة البحثية مع البروفيسور ديفيد سونتاج "إن علماء الكمبيوتر يسارعون في كثير من الأحيان إلى القول إن الطريقة التي تجعل هذه الأنظمة أقل انحيازا، هي ببساطة تصميم خوارزميات أفضل".
واستطردت موضحة "تظهر الأبحاث أنه يمكنك في كثير من الأحيان إحداث فرق أكبر مع بيانات أفضل".
وفي أحد الأمثلة، درس فريق البحث نظام التنبؤ بالدخل، فوجد أنه من المرجح أن يُساء تصنيف الموظفات على أساس دخلهن المنخفض، والموظفين على أنهم من ذوي الدخل المرتفع.
ويقول سونتاج "إننا نعتبر هذا بمثابة صندوق أدوات لمساعدة مهندسي التعلم الآلي على معرفة الأسئلة التي يجب طرحها في بياناتهم، من أجل تشخيص سبب قيام الأنظمة بإجراء تنبؤات غير عادلة".
ووجد الباحثون أنهم إذا قاموا بزيادة مجموعة البيانات الدقيقة، فإن تلك الأخطاء ستقل بنسبة 40 في المئة.
وتقول "تشن" إن واحدة من أكبر المفاهيم الخاطئة، تتمثل في أن زيادة البيانات (بغض النظر عن الدقة) تكون دائما أفضل.
تحيز بشري
يذكر أن أنظمة الذكاء الاصطناعي المعتمدة في تطبيقات التعرف على الوجوه في فيسبوك وقعت سابقا في أخطاء تسببت في اتهام القائمين عليها بالعنصرية ضد السود.
ومؤخرا تعرّض تطبيق للذكاء الاصطناعي يعمل على توضيح الصور لانتقادات واسعة، بعد أن قام بتحويل صورة للرئيس الأميركي السابق باراك أوباما إلى رجل أبيض.
وتشمل الأمثلة الأخرى النائبة الأميركية ألكسندريا أوكاسيو كورتيز والممثلة لوسي ليو، حيث قام البرنامج أيضا بتحويل وجهيهما لتبدو بشرتهما بيضاء.
ويعتمد البرنامج على أداة للذكاء الاصطناعي طورت في جامعة ديوك، والتي تبحث من خلال الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لوجوه عالية الدقة، لتطابق تلك التي تبدو مشابهة للصور المدخلة عند ضغطها إلى نفس الحجم.
واستخدم فريق جامعة ديوك أداة للتعلم الآلي مع شبكتين عصبيتين، واحدة تطور الوجوه البشرية التي يخلقها الذكاء الاصطناعي وتحاكي تلك التي تم تدريبها عليها، والأخرى تأخذ هذه النتائج وتقرر ما إذا كانت مقنعة بما يكفي لتكون مشابهة للحقيقة.
وتفاخرت جامعة ديوك بأن نظامها قادر على تحويل صورة 16 × 16 بكسل إلى 1024 × 1024 بكسل في بضع ثوان، وهو ما يعادل 64 ضعف الدقة الأصلية، بحسب صحيفة ديلي ميل البريطانية.
وقام مستخدم لتويتر بمشاركة البرنامج، وبعد يوم واحد، اكتشف المستخدمون أن الأداة لم تكن دقيقة عندما يتعلق الأمر بمعالجة الوجوه السمراء.
ويعزى هذا الفشل إلى البيانات المستخدمة لتدريب الذكاء الاصطناعي، فإذا كان هناك نقص في التنوع بالصور التي يتم إدخالها إلى خوارزمية التعلم الآلي، فلن يتمكن البرنامج من العمل بشكل صحيح.
لسوء الحظ، أثبتت أبحاث جديدة أن ثلة من مستخدمي موقع تويتر لا يمثلون وحدهم مصدرا لتعلم مفردات تنم عن العنصرية بالنسبة لأجهزة الذكاء الاصطناعي. ففي الحقيقة، من الممكن أن يتبنّى أي برنامج ذو ذكاء اصطناعي، أثناء تعلّمه للغة البشر، المواقف المنحازة ذاتها التي يتخذها الإنسان.
وفي سياق آخر، أجرى الباحثون تجارب على نظام التعلم الآلي الذي يُستخدم على نطاق واسع والذي يُطلق عليه اسم "غلوف". وعلى خلفية هذه الأبحاث، اكتشف العلماء أن كل سلوك بشري متحيز قاموا باختباره قد تكرس بدوره في صلب النظام الاصطناعي.
من المثير للاهتمام أنه حتّى أجهزة الذكاء الاصطناعي التي تم "تدريبها" على نصوص كان من المفترض أنها محايدة، على غرار تلك التي تظهر في موقع "ويكيبيديا" أو المقالات الإخبارية، جاءت لتعكس التحيّز البشري المشترك.
وفي هذا الصدد، صرّحت الباحثة في علوم الكمبيوتر في جامعة برينستون، أيلين كالسكان، لموقع "لايف ساينس" أنه "كان من المدهش أن نرى جميع النتائج التي تم تضمينها داخل هذه النماذج، ومن المثير للاهتمام أنه حتّى أجهزة الذكاء الاصطناعي التي تم ‘تدريبها' على نصوص كان من المفترض أنها محايدة، على غرار تلك التي تظهر في موقع "ويكيبيديا" أو المقالات الإخبارية، جاءت لتعكس التحيّز البشري المشترك".
في واقع الأمر، يُستخدم "غلوف" كأداة لاستنباط تداعي المعاني في النصوص، التي تعدّ في حالة الذكاء الاصطناعي بمثابة مجموعة نصوص أو ما يعرف "بالذخيرة"، التي يتم تجميعها من الشبكة العنكبوتية العالمية. ومن المثير للاهتمام أن علماء النفس قد اكتشفوا منذ فترة طويلة أن الدماغ البشري يخلق الترابط بين الكلمات على أساس المعاني الكامنة وراءها.
ومن هذا المنطلق، لسائل أن يسأل: هل ينشئ الأشخاص هذه الارتباطات لامتلاكهم تحيّزا اجتماعيا متجذّرا وخارجا عن نطاق إدراكهم؟ أو هل أنهم يتشرّبون الانحياز من اللغة في حد ذاتها، خاصة وأن الكلمات السلبية مقترنة بشكل وثيق بالأقليات العرقية، والمسنين وغيرهم من المجموعات المهمّشة؟
لا توجد طرق سهلة
نجحت أيلين كالسكان برفقة زملائها في تطوير "اختبار الارتباط الضمني" لأجهزة الكمبيوتر، حيث أطلقوا عليه اسم "دبليو.إي.أي. تي"، في إشارة إلى "اختبار ترابط تضمين الكلمات". وقد قام هذا الاختبار بقياس مدى ترابط الكلمات بالاعتماد على ما تقدمه أداة "غلوف" من بيانات، وذلك مثلما ما يقيس "اختبار الارتباط الضمني" مدى ترابط الكلمات داخل الدماغ البشري.
في المقابل، أثارت نتائج أخرى قلق الباحثين بصفة أكبر وذلك حين أظهرت الأداة أسماء الأميركيين من أصل أوروبي على أنها أكثر جاذبية من أسماء الأميركيين من أصل أفريقي. وربطت الأداة بسهولة بالغة بين أسماء الذكور مع كلمات ذات صلة مهنية، فيما ارتبطت أسماء الإناث مع كلمات ذات معنى عائلي.
ومن جانب آخر، نسبت الرياضيات والعلوم للرجال، في حين ارتبطت النساء بالفنون. وعلى صعيد آخر، أشارت الأداة إلى أن الأسماء التي اقترنت بكبار السن كانت غير لطيفة مقارنة بأسماء الشباب.
وفي هذا الإطار، صرّحت أيلين كالسكان قائلة "لقد فوجئنا حقا من قدرتنا على تكرار جميع تجارب ‘اختبار الارتباط الضمني' التي تم القيام بها في الماضي من قبل الملايين من الأشخاص".
وفي السياق ذاته، أوردت أيلين كالسكان أن الحفاظ على الدقة أثناء برمجة أجهزة الذكاء الاصطناعي على فهم مسائل "الإنصاف" يشكل تحديا كبيرا، كما "أننا لا نعتقد أن تغييب جانب الانحياز من شأنه أن يتكفل بحل هذه المشاكل، حيث قد يعطّل التمثيل الدقيق للعالم بسبب ذلك".
وأفادت عالمة الكمبيوتر في كلية هارفارد، سوريل فريدلر، أن الدراسة الجديدة حول تحيّز الذكاء الاصطناعي، التي نشرت في مجلة "ساينس" العلمية، لا تعتبر مفاجئة، غير أن هذا لا ينفي أهميتها.
وبالتالي، فمن المرجح أن يتسلل التحيز إلى أي ذكاء اصطناعي يتعلم من لغة الإنسان بشكل عام. والجدير بالذكر أن سوريل فريدلر، التي تشارك في مجال ناشئ للأبحاث يطلق عليه اسم "الإنصاف والمساءلة والشفافية في التعلم الآلي"، قد بينت أنه لا توجد طرق سهلة لحل هذه المشاكل. في الوقت ذاته، قد يأمر المبرمجون النظام أحيانا بتجاهل صور نمطية محددة بشكل تلقائي.
البرامج التي تنهل من لغة الإنسان تكتسب "تمثيلا دقيقا للغاية عن العالم والثقافة"، حتى وإن كانت تلك الثقافة، على غرار الصور النمطية والأحكام المسبقة، تحمل في طياتها قضايا إشكالية.


انقر هنا لقراءة الخبر من مصدره.