آیا برای قانونگذاری هوش مصنوعی باید منتظر فاجعهای شبیه چرنوبیل باشیم؟
استوارت راسل هشدار میدهد توسعه بدون کنترل سیستمهای پیشرفته AI میتواند جهان را با نسل تازهای از سلاحهای سایبری پرخطر روبهرو کند.
در یادداشتی تحلیلی در گاردین، استوارت راسل، دانشمند برجسته حوزه هوش مصنوعی، هشدار داده است که توسعه بیمهار سیستمهای پیشرفته AI میتواند خطراتی فراتر از یک فناوری معمولی ایجاد کند. او میگوید جهان نباید برای قانونگذاری در این حوزه منتظر یک بحران بزرگ یا فاجعهای در مقیاس چرنوبیل بماند.
نگرانی اصلی؛ بهبود خودکار هوش مصنوعی
یکی از محورهای اصلی این تحلیل، مفهوم بهبود بازگشتی خودکار یا RSI است؛ فرآیندی که در آن یک سیستم هوش مصنوعی میتواند روشهایی برای افزایش توانایی خود پیدا کند و همین پیشرفت، دوباره توان آن را برای بهتر کردن خودش افزایش دهد.
راسل هشدار میدهد اگر چنین چرخهای بدون کنترل و نظارت کافی پیش برود، ممکن است به وضعیتی منجر شود که انسانها دیگر نتوانند مسیر توسعه یا رفتار سیستم را بهدرستی کنترل کنند.
خطر سلاحهای سایبری مبتنی بر AI
مقاله به این نکته اشاره میکند که مدلهای پیشرفته میتوانند در آینده توانایی اجرای حملات سایبری پیچیده را با دخالت بسیار کم انسان یا حتی بدون دخالت مستقیم انسان پیدا کنند. چنین قابلیتی، اگر در اختیار افراد یا گروههای مخرب قرار گیرد، میتواند تهدیدی جدی برای زیرساختهای حیاتی کشورها باشد.
چرا قانونگذاری فوری لازم است؟
- افزایش سریع توانایی مدلهای پیشرفته هوش مصنوعی
- احتمال استفاده از AI برای حملات سایبری گسترده
- نبود استانداردهای ایمنی الزامآور پیش از عرضه مدلها
- ریسک از دست رفتن کنترل انسانی در سیستمهای بسیار پیشرفته
- تأخیر دولتها در واکنش به تهدیدهای واقعی فناوری
راهحل پیشنهادی چیست؟
استوارت راسل پیشنهاد میکند سیستمهای پیشرفته هوش مصنوعی نیز مانند نیروگاههای هستهای، هواپیماها یا زیرساختهای حساس، پیش از ساخت و انتشار عمومی نیازمند مجوز، ارزیابی ایمنی و استانداردهای سختگیرانه باشند.
به بیان ساده، شرکتهای بزرگ AI نباید بتوانند هر مدل قدرتمندی را بدون بررسی مستقل، ضمانت ایمنی و چارچوب قانونی مشخص وارد بازار کنند.
جمعبندی
این یادداشت هشدار میدهد که رقابت سریع شرکتهای هوش مصنوعی برای ساخت مدلهای قدرتمندتر، اگر بدون نظارت ادامه پیدا کند، میتواند به تهدیدی جهانی تبدیل شود. پرسش اصلی این نیست که آیا باید هوش مصنوعی را متوقف کرد یا نه؛ بلکه این است که چگونه میتوان آن را ایمن، قابل کنترل و مسئولانه توسعه داد.
