شرکت اوپنایآی، سازنده چتجیپیتی، روز سهشنبه اعلام کرد که سیستم هوش مصنوعی آن به طور خودکار به یک شرکت هوش مصنوعی دیگر نفوذ کرده است. این شرکت این حادثه را یک «رویداد سایبری بیسابقه» خواند.
سم آلتمن، مدیرعامل اوپنایآی، در بیانیهای که در شبکههای اجتماعی منتشر شد، گفت: «ما در طول ارزیابی مدلهایمان، یک حادثه امنیتی قابل توجه داشتیم.»
استارتاپ هوش مصنوعی هاگینگ فیس هفته گذشته اعلام کرد که نفوذی را در سیستمهای پردازش داده خود شناسایی کرده است که گمان میرود توسط یک عامل هوش مصنوعی که به طور خودکار عمل میکرده، ایجاد شده باشد.
کلمان دلانگ، همبنیانگذار و مدیرعامل هاگینگ فیس، در بیانیهای اظهار داشت: «ما هفته گذشته گمان میکردیم که حمله سایبری ممکن است از یک آزمایشگاه پیشرفته (frontier lab) صورت گرفته باشد، با توجه به پیچیدگی عامل. معلوم شد که همینطور بوده است!»
این افشاگری در بحبوحه نگرانیهای فزاینده در مورد قابلیتهای امنیت سایبری مدلهای قدرتمند صورت میگیرد که باعث شد رئیسجمهور دونالد ترامپ در ماه ژوئن یک فرمان اجرایی را امضا کند. این فرمان چارچوبی را برای دولت فدرال ایجاد میکند تا خطرات امنیت ملی پیشرفتهترین سیستمهای هوش مصنوعی را تا یک ماه قبل از انتشار عمومی آنها بررسی کند.
اوپنایآی در بیانیه روز سهشنبه خود گفت: «هوش مصنوعی کشف و بهرهبرداری از آسیبپذیریها را تسریع میکند. درس اصلی این حادثه این است که امنیت و ایمنی مدل باید با قابلیتهای در حال پیشرفت سریع همگام باشد.»
دلانگ گفت که ۲۴ ساعت گذشته را با اوپنایآی همکاری کرده است و «ما قویاً معتقدیم که هیچ قصد مخربی از سوی آنها وجود نداشته است. این واقعاً حیرتانگیز است که همه اینها به طور خودکار اتفاق افتاده است!»
دلانگ افزود که این «ممکن است اولین حادثه از نوع خود باشد.»
اوپنایآی گفت که این نفوذ توسط ترکیبی از مدلهای هوش مصنوعی آن، از جمله GPT-5.6 Sol تازه منتشر شده و یک مدل «حتی توانمندتر» که هنوز در حال آزمایش داخلی است، ایجاد شده است.
اوپنایآی گفت که هوش مصنوعی آن از اعتبارنامههای دزدیده شده استفاده کرده و یک آسیبپذیری ناشناخته قبلی را برای دسترسی به سرورهای هاگینگ فیس کشف کرده است.
این شرکت گفت که هوش مصنوعی «تلاشهای زیادی برای دستیابی به یک هدف آزمایشی نسبتاً محدود» انجام داده و «راههایی برای دسترسی به اطلاعات محرمانه پیدا کرده است که میتوانست از آنها برای تقلب در ارزیابی استفاده کند.»