أوردت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) أكثر من 100 تحيز يؤثر في دقة وعدالة أنظمة الذكاء الاصطناعي. واستعرضت الهيئة في النسخة الأولى من «الدليل المرجعي لتحيزات الذكاء الاصطناعي» تعريفات التحيزات ونشأتها وتأثيرها على المجتمع مع أمثلة واقعية واستراتيجيات التخفيف من آثارها.

وقالت سدايا إن هذه التحيزات قد تؤدي إلى تقويض فاعلية أنظمة الذكاء الاصطناعي وتحولها من أداة لتعزيز العدالة والإنصاف إلى وسيلة تفاقم التحيز، مما قد يؤثر في سمعة المؤسسات ويعرضها للمساءلات القانونية أو شكاوى المستهلكين، مؤكدة أن حصر هذه التحيزات وفهم أسبابها ووضع آليات للحد منها يمثّل خطوة أساسية لضمان نجاح مشاريع الذكاء الاصطناعي.

وأشارت سدايا إلى أن تقنيات الذكاء الاصطناعي شهدت توسعاً ملحوظاً في مختلف القطاعات الحيوية والحساسة، مثل العدل والصحة والتعليم، الأمر الذي رافقه تزايد الاهتمام بمعالجة التحيزات التي قد تؤثر في عمليات صنع القرار، نتيجة الطبيعة المعقدة لهذه الأنظمة وتعدد مراحل تطويرها وتداخل أدوار المختصين فيها.

وأشار الدليل الصادر من سدايا إلى أن مصادر التحيز تتنوع بين بيانات تدريب لا تمثّل مختلف الفئات تمثيلاً كافياً، وخوارزميات قد تفضل -دون قصد- خصائص فئات معينة، إضافة إلى افتراضات وتقديرات مسبقة تنعكس في تفسير البيانات، مستشهداً بأدوات التوظيف التي قد تمنح أفضلية لمرشحين من خلفيات تعليمية نخبوية على حساب آخرين مؤهلين من خلفيات أقل حظاً.