اگر هوش مصنوعی به انسانها آسیب بزند، چه کسی مسئول است؟ سازمان ملل درباره خلأ بزرگ پاسخگویی هشدار داد
همزمان با گسترش سریع هوش مصنوعی در سراسر جهان، یکی از مهمترین پرسشهای حقوقی و اخلاقی نیز بیش از گذشته مطرح شده است: اگر هوش مصنوعی به انسانها آسیب برساند، چه کسی باید پاسخگو باشد؟
این موضوع در دومین روز نخستین گفتوگوی جهانی سازمان ملل درباره حکمرانی هوش مصنوعی در ژنو به محور اصلی بحثها تبدیل شد؛ جایی که کارشناسان بینالمللی نسبت به افزایش شواهد مربوط به نقض حقوق بشر با استفاده از فناوریهای هوش مصنوعی هشدار دادند.
شواهد نگرانکننده از سوءاستفاده از هوش مصنوعی
«سونیا لیوینگستون» از پنل علمی مستقل بینالمللی هوش مصنوعی که به دستور مجمع عمومی سازمان ملل تشکیل شده است، اعلام کرد یافتههای اولیه این گروه تصویری نگرانکننده از پیامدهای هوش مصنوعی ارائه میدهد.
او گفت در بررسی انجامشده در ۱۱ کشور از کشورهای جنوب جهان، در برخی کلاسهای درس دستکم یک کودک گزارش کرده است که از هوش مصنوعی برای تولید تصاویر یا ویدئوهای جعلی و با محتوای جنسی از او استفاده شده است. به گفته وی، گزارشهای مربوط به تولید محتوای سوءاستفاده جنسی از کودکان با استفاده از هوش مصنوعی که به سامانه گزارشدهی CyberTip Line در آمریکا ارسال میشود، با سرعت زیادی در حال افزایش است.
آسیبها از مزایا پیشی گرفتهاند
لیوینگستون تأکید کرد شواهد موجود نشان میدهد موارد نقض حقوق افراد، بهویژه گروههای آسیبپذیر و محروم، بسیار مستندتر و قانعکنندهتر از مزایای اثباتشده هوش مصنوعی است. به گفته او، این فناوری به ابزاری برای ایجاد فریب، دستکاری افکار عمومی، انتشار اطلاعات نادرست، تضعیف اعتماد عمومی و سوءاستفاده از دادههای شخصی تبدیل شده است.
سازمان ملل: همه کشورها باید در قانونگذاری مشارکت داشته باشند
سازمان ملل معتقد است هوش مصنوعی هم ظرفیت ایجاد منافع گسترده را دارد و هم میتواند خسارتهای جدی به همراه داشته باشد؛ به همین دلیل، تعیین قوانین و چارچوبهای حکمرانی این فناوری نباید تنها در اختیار کشورهای پیشرفته یا شرکتهای بزرگ فناوری باشد. بر همین اساس، دومین نشست این ابتکار قرار است در ماه مه سال آینده در شهر نیویورک برگزار شود.
اعتماد عمومی بدون مسئولیتپذیری شکل نمیگیرد
«ولکر تورک»، کمیسر عالی حقوق بشر سازمان ملل، تأکید کرد برای آنکه هوش مصنوعی در خدمت انسان باشد، باید اصول برابری، مسئولیتپذیری و نظارت انسانی از همان مرحله طراحی، توسعه و استقرار در این فناوری گنجانده شود.
او گفت همانطور که استانداردهای ایمنی برای داروها، خودروها و هواپیماها مانعی برای پیشرفت محسوب نمیشوند، وجود مقررات و استانداردهای سختگیرانه نیز عامل اصلی اعتماد مردم به فناوریهای نوین است.
هزینه واقعی هوش مصنوعی را چه کسانی میپردازند؟
یکی دیگر از محورهای مهم این نشست، مصرف بالای انرژی و منابع طبیعی توسط مراکز دادهای بود که مدلهای پیشرفته هوش مصنوعی را اجرا میکنند.
«ساشا لوچیونی»، همبنیانگذار گروه Sustainable AI، هشدار داد اگرچه بسیاری از مردم تنها با یک تلفن همراه یا لپتاپ میتوانند از مزایای هوش مصنوعی بهرهمند شوند، اما پیامدهای منفی این فناوری در سطح محلی و برای جوامعی که میزبان زیرساختهای آن هستند بسیار سنگین است. بسیاری از مناطق محروم جهان با افزایش مصرف آب، انرژی، انتشار گازهای گلخانهای و آثار زیستمحیطی و بهداشتی ناشی از مراکز داده روبهرو هستند.
نگرانی از تشدید نابرابری در کشورهای در حال توسعه
«جالاک کاکار»، کارشناس سیاستگذاری دیجیتال از مرکز حکمرانی ارتباطات دانشگاه ملی حقوق دهلی، هشدار داد که مدل فعلی توسعه هوش مصنوعی ممکن است شکاف اقتصادی میان کشورهای توسعهیافته و کشورهای جنوب جهان را عمیقتر کند.
به گفته او، ارزش اقتصادی حاصل از هوش مصنوعی عمدتاً در مناطقی ایجاد میشود که فاصله زیادی با جوامعی دارند که بیشترین تأثیرات منفی این فناوری را تجربه میکنند.
«جعبه سیاه» هوش مصنوعی باید شفاف شود
«امال الفلاح سگروچنی» از مراکش نیز با اشاره به پیچیدگی روزافزون مدلهای زبانی بزرگ گفت درک نحوه تصمیمگیری این سامانهها به یکی از بزرگترین چالشهای قانونگذاری تبدیل شده است.
او توضیح داد مدلهای زبانی بزرگ هنگام فعالیت، حدود ۱۸۰ میلیارد پارامتر را پردازش میکنند و همین موضوع باعث شده حتی بسیاری از پژوهشگران حوزه هوش مصنوعی نیز نتوانند سازوکار دقیق تصمیمگیری این الگوریتمها را بهطور کامل توضیح دهند. تعداد حقوقدانان و متخصصان علوم اجتماعی که توانایی تحلیل این فناوریهای پیچیده را داشته باشند نیز بسیار محدود است.
افزایش خشونت آنلاین علیه زنان با کمک هوش مصنوعی
«سیما بحوث»، مدیر اجرایی نهاد زنان سازمان ملل (UN Women)، با ارائه آماری نگرانکننده به تأثیرات جنسیتی این فناوری پرداخت:
- از هر چهار زن فعال حقوق بشر، خبرنگار یا کنشگر اجتماعی، یک نفر تجربه خشونت آنلاین با کمک هوش مصنوعی را داشته است.
- ۶ درصد از شرکتکنندگان گفتهاند قربانی تصاویر یا ویدئوهای جعلی (دیپفیک) شدهاند.
- زنان تنها حدود ۳۰ درصد نیروی کار صنعت هوش مصنوعی را تشکیل میدهند.
- بر اساس گزارش سازمان ملل، ۸۸ درصد پژوهشگران برجسته این حوزه مرد هستند.
بحوث تأکید کرد بخش زیادی از این موارد سوءاستفاده هرگز ثبت، گزارش یا مستندسازی نمیشود.
هدف گفتوگوی جهانی هوش مصنوعی
سازمان ملل اعلام کرده است هدف از برگزاری گفتوگوی جهانی درباره حکمرانی هوش مصنوعی، ایجاد فضایی برای مشارکت همه کشورها در تدوین آینده این فناوری است. مزایای هوش مصنوعی باید بهصورت عادلانه میان همه کشورها توزیع شود و حفاظت از حقوق بشر، مسئولیتپذیری و عدالت به اصول جداییناپذیر توسعه آن تبدیل گردد.
