تويتر تستعين بالبشر لكشف تحيزات الذكاء الاصطناعي

شركة تويتر تدعو الخبراء والمراقبين الخارجيين إلى دراسة كودها ونتائجها مقابل حصولهم على مكافآت مالية بهدف الكشف عن نقاط التحيز في خوارزمياتها لمعالجتها.
الاثنين 2021/08/02
مسابقة تويتر لكشف أخطاء التكنولوجيا

سان فرانسيسكو (الولايات المتحدة)- أعلنت شركة تويتر إطلاق حملة للكشف عن تحيزات تقنيات الذكاء الاصطناعي المستخدمة في نشر المحتوى على الموقع، حيث اتضح أن هذه التقنيات تمارس التحيز على أساس اللون في بعض الخدمات والبرامج.

وأطلقت تويتر مسابقة بين المبرمجين لكشف أخطاء التكنولوجيا التي يستخدمها الموقع وتسمح بنشر الصور بصورة غير صحيحة، حيث سيتم تقديم جوائز تصل إلى 3500 دولار لمن يكشف عن المشكلات.

وكانت تويتر قد أكدت في وقت سابق من العام الحالي وجود مشكلة في تقنية قص الصور آليا لكي تناسب المساحة المخصصة لظهورها على الموقع، حيث اتضح أن برمجة هذه التنقية تفضل عرض الأشخاص البيض في الصور على الأشخاص السود، في حين أن المفترض في الخوارزمية المستخدمة في هذه التقنية أن تختار الجزء الأهم من الصورة لعرضه.

وأجريت دراسة من قبل ثلاثة من باحثي الذكاء الاصطناعي بعد انتقادات المستخدمين العام الماضي حول معاينات الصور في المنشورات التي تستثني وجوه السود.

تويتر أطلقت مسابقة للمبرمجين لكشف أخطاء التكنولوجيا التي تمارس التحيز على أساس اللون في نشر الصور

ووجدت الدراسة اختلافا بنسبة 8 في المئة عن التكافؤ الديموغرافي لصالح النساء، و4 في المئة لصالح الأفراد البيض، واستشهدت بالعديد من الأسباب المحتملة، بما في ذلك المشكلات المتعلقة بخلفيات الصور ولون العين، لكنها قالت إن أيا منها ليس عذرا.

وكتب الباحثون “يعتبر الاقتصاص المستند إلى الذكاء الاصطناعي معيبا بشكل أساسي لأنه يزيل وكالة المستخدم ويقيد تعبير المستخدمين عن هويتهم وقيمهم، وبدلا من ذلك يفرض نظرة معيارية حول أي جزء من الصورة يعتبر الأكثر إثارة للاهتمام”.

ولمواجهة المشكلة، بدأ تويتر مؤخرا في عرض صور ذات نسبة عرض إلى ارتفاع قياسية بالكامل، دون أي اقتصاص، على تطبيقاته المحمولة وحاول توسيع هذا الجهد بالإعلان عن هذه المسابقة.

ودعت تويتر الخبراء والمراقبين الخارجيين إلى دراسة كودها ونتائجها والكشف عن الأخطاء مقابل حصولهم على مكافآت مالية، بهدف الكشف عن نقاط التحيز في خوارزمياتها لمعالجتها.

وأشار موقع “سي.نت دوت كوم” المتخصص في موضوعات التكنولوجيا إلى أن شركات التكنولوجيا اعتادت دعوة الخبراء والمتخصصين إلى الكشف عن أي ثغرات أمنية في منتجاتها مقابل منحهم مكافآت مالية، في حين أن هذه هي المرة الأولى التي تلجأ فيها شركة إلى هذا الأسلوب للكشف عن نقاط التحيز في خوارزمياتها.

ووجد باحثون في شركة “مايكروسوفت كورب” ومعهد ماساتشوستس للتكنولوجيا في عام 2018 ودراسة لاحقة للحكومة الأميركية أن أنظمة تحليل الوجه تخطئ في التعرف على الأشخاص الملونين أكثر من البيض، فيما ألغت شركة أمازون في عام 2018 أداة تجنيد تعمل بالذكاء الاصطناعي أظهرت تحيزا
ضد المرأة.

19