مدل‌های پیشرفته هوش مصنوعی شرکت OpenAI در جریان یک آزمایش کنترل‌شده از محیط آزمایش خارج شدند و به زیرساخت‌های شرکت هوش مصنوعی Hugging Face نفوذ کردند؛ رویدادی که OpenAI آن را یک «حادثه سایبری بی‌سابقه» توصیف کرده است.

جزئیات خروج از محیط ایزوله و نفوذ به زیرساخت

شرکت OpenAI، سازنده ChatGPT، اعلام کرده است که دو مدل پیشرفته هوش مصنوعی این شرکت در جریان یک آزمایش داخلی برای ارزیابی توانایی‌های سایبری خود، از محیط کنترل‌شده آزمایش خارج شدند و به یک شرکت فعال در حوزه هوش مصنوعی حمله سایبری کردند.

بر اساس اعلام OpenAI، یک عامل هوش مصنوعی خودمختار که از این مدل‌ها قدرت می‌گرفت، توانست از محیط آزمایشی خارج شده و به اینترنت عمومی دسترسی پیدا کند. این عامل سپس با استفاده از اطلاعات ورود به‌دست‌آمده و شناسایی یک آسیب‌پذیری امنیتی ناشناخته، به سرورهای Hugging Face دسترسی پیدا کرد.

OpenAI اعلام کرده است این عامل هوش مصنوعی برای دستیابی به اطلاعاتی که می‌توانست به تحقق اهداف آزمایش کمک کند، تا «حداکثر توان» پیش رفت. این شرکت همچنین گفته است این اتفاق در جریان یک تمرین داخلی برای بررسی قابلیت‌های سایبری مدل‌های هوش مصنوعی رخ داده است.

این حادثه در حالی رخ داده که نگرانی‌ها درباره توانایی مدل‌های هوش مصنوعی برای انجام مستقل حملات سایبری و عبور از محدودیت‌های تعیین‌شده توسط انسان افزایش یافته است.

واکنش Hugging Face، سیاستمداران و کارشناسان

کلمنت دلانگه، یکی از بنیان‌گذاران Hugging Face، گفته است این شرکت پیش‌تر احتمال می‌داد یک آزمایشگاه پیشرو در حوزه هوش مصنوعی پشت این حمله باشد. او همچنین تأکید کرده است که به باور او، OpenAI قصد مخربی نداشته است.

دلانگه با اشاره به اینکه این عملیات به‌صورت خودکار انجام شده، این اتفاق را «باورنکردنی» توصیف کرد و گفت ممکن است این رویداد یکی از نخستین نمونه‌های چنین حمله‌ای در تاریخ هوش مصنوعی باشد.

این حادثه واکنش سیاستمداران آمریکایی را نیز به دنبال داشته است. گرگ کاسار، نماینده دموکرات مجلس نمایندگان آمریکا از ایالت تگزاس، این رویداد را «نگران‌کننده» خواند و خواستار اجرای آزمایش‌های ایمنی مستقل و اجباری برای مدل‌های پیشرفته هوش مصنوعی، افشای اجباری حوادث امنیتی و همکاری بین‌المللی شد.

او هشدار داد که هوش مصنوعی با سرعتی بسیار بالا در حال توسعه است، در حالی که قوانین و مقررات کافی برای محافظت از جامعه در برابر خطرات احتمالی این فناوری وجود ندارد.

افشای این حادثه چند هفته پس از آن صورت می‌گیرد که دونالد ترامپ، رئیس‌جمهور آمریکا، با امضای یک فرمان اجرایی چارچوبی را برای ارزیابی خطرات امنیت ملی مرتبط با پیشرفته‌ترین سامانه‌های هوش مصنوعی پیش از عرضه عمومی آن‌ها ایجاد کرد.

کارشناسان نیز بارها درباره افزایش حملات سایبری مبتنی بر هوش مصنوعی و احتمال خروج مدل‌های قدرتمند از کنترل انسان هشدار داده‌اند. شرکت Anthropic نیز ماه گذشته از صنعت هوش مصنوعی خواست توسعه قدرتمندترین سامانه‌های این حوزه را متوقف کند.

اهمیت این رویداد تنها به نفوذ یک عامل هوش مصنوعی به زیرساخت یک شرکت دیگر محدود نمی‌شود. نکته مهم‌تر، توانایی یک عامل خودمختار برای خروج از محیط آزمایشی، دسترسی به اینترنت، استفاده از اطلاعات احراز هویت و شناسایی یک نقص امنیتی ناشناخته است.

اگر این روند در آینده در مقیاس بزرگ‌تر و با مدل‌های قدرتمندتر تکرار شود، مرز میان «آزمایش کنترل‌شده» و «فعالیت مستقل در دنیای واقعی» می‌تواند بیش از گذشته کمرنگ شود. به همین دلیل، این حادثه بار دیگر ضرورت ایجاد سازوکارهای جدی‌تر برای کنترل، ارزیابی ایمنی و نظارت بر مدل‌های پیشرفته هوش مصنوعی را برجسته کرده است.