سازمان داده و هوش مصنوعی عربستان سعودی (SDAIA) با انتشار اولین نسخه از «راهنمای مرجع سوگیری هوش مصنوعی» (AI Bias Reference Guide)، گامی حیاتی در جهت تضمین عدالت، شفافیت و قابلیت اطمینان در سیستم‌های هوش مصنوعی برداشته است. این اقدام تعهد جدی عربستان را به توسعه پایدار و اخلاقی فناوری‌های پیشرفته نشان می‌دهد.

ارزیابی تمام مراحل توسعه الگوریتم‌ها

این سند جامع بیش از ۱۰۰ نوع سوگیری مختلف را که می‌توانند بر دقت و انصاف سیستم‌ها تاثیر منفی بگذارند، بررسی کرده است. این راهنما فرایند بروز سوگیری را در تمام مراحل زیر تشریح می‌کند:

• جمع‌آوری داده‌ها (Data Collection): نحوه گردآوری نمونه‌های غیرنمایانگر یا ناقص.
• آموزش مدل‌ها (Model Training): ایجاد ترجیحات الگوریتمی ناخواسته در طی یادگیری ماشین.
• استقرار و تفسیر نتایج (Deployment & Interpretation): نحوه استفاده نا نادرست از خروجی‌های مدل در سیستم‌های تصمیم‌گیری واقعی.

عوامل ایجاد انحراف در خروجی مدل‌ها

راهنمای منتشر شده توسط SDAIA، سه منبع اصلی بروز سوگیری در سیستم‌ها را مشخص کرده است:

۱. داده‌های آموزشی نامناسب: استفاده از داده‌هایی که نمایندگی کافی از تمام گروه‌های جمعیتی ندارند.

۲. ترجیحات الگوریتمی ناخواسته: الگوریتم‌هایی که بدون قصد قبلی به ویژگی‌های خاصی وزن بیشتری می‌دهند.

۳. فرضیات تحلیلی نادرست: فرضیات خطا آلود که در طول فرآیند تحلیل داده توسط توسعه‌دهندگان اعمال می‌شوند.

مثال کاربردی: ابزارهای جذب و استخدام هوش مصنوعی ممکن است متقاضیان مؤسسات تحصیلی خاص را بر افراد واجد شرایط از مراکز کمتر برخوردار ترجیح دهند؛ نمونه‌ای روشن از چگونگی بازتولید تبعیض در عمل.

مخاطرات عدم کنترل سوگیری الگوریتمی

با پذیرش سریع هوش مصنوعی در حوزه‌های حساس مانند بهداشت و درمان، آموزش و سیستم‌های قضایی، SDAIA هشدار می‌دهد که سوگیری کنترل‌نشده می‌تواند تبعات جبران‌ناپذیری به همراه داشته باشد:

• کاهش اثربخشی و افت دقت کارکرد سیستم‌های هوش مصنوعی.
• تقویت و تثبیت نتایج تبعیض‌آمیز اجتماعی.
• آسیب شدید به اعتبار سازمان‌های ارائه‌دهنده خدمات.
• ایجاد مسئولیت‌های حقوقی و شکایات قانونی مصرف‌کنندگان.

تکمیل چارچوب‌های حکمرانی داده

این راهنما بر پایه اقدامات قبلی سازمان داده و هوش مصنوعی عربستان بنا شده است که شامل موارد زیر می‌شود:

• اصول اخلاق هوش مصنوعی (AI Ethics Principles)
• اصول هوش مصنوعی مولد (Generative AI Principles)
• چارچوب پذیرش هوش مصنوعی (AI Adoption Framework)