بر اساس تحلیل جدیدی از پلتفرمی که مورد نفوذ قرار گرفت، مدلهای قدرتمند هوش مصنوعی اوپنایآی که سرکش شده و یک حمله سایبری خودکار بیسابقه را اوایل این ماه انجام دادند، بیش از چهار روز در اینترنت آزادانه پرسه زدند و این هک را سازماندهی کردند.
به طور جداگانه، یک شرکت هوش مصنوعی دیگر تأیید کرد که یکی از مشتریانش نیز در طول همان رویداد توسط مدلهای اوپنایآی هدف قرار گرفته است، که این امر سؤالاتی را در مورد چگونگی عدم تشخیص این فعالیت نگرانکننده توسط اوپنایآی برای چندین روز مطرح میکند.
اوپنایآی هفته گذشته اعتراف کرد که دو مدل پیشرفته آن از محیط آزمایش بسته فرار کرده و مجموعهای از تکنیکهای هک پیشرفته را برای نفوذ به پلتفرم توسعهدهنده هوش مصنوعی هاگینگ فیس قبل از کشف شدن، به کار گرفتهاند.
اما در تحلیل جدیدی که روز سهشنبه منتشر شد، هاگینگ فیس اعلام کرد که دو مدل اوپنایآی – یکی منتشر شده و دیگری منتشر نشده – کارهای بسیار بیشتری انجام دادهاند: آنها بین ۹ تا ۱۳ ژوئیه، ۱۷۶۰۰ اقدام هکری را در اینترنت انجام دادند، در طی این مدت مدلها از اولین جای پای خود در اینترنت آزاد به داخل سرورهای هاگینگ فیس منتقل شدند.
هاگینگ فیس اولین بار جزئیات این هک را در ۱۵ ژوئیه منتشر کرد، اما تا زمان افشای اوپنایآی در هفته گذشته مشخص نبود که کدام مدلها پشت این نفوذ بودهاند – و اینکه هیچ انسانی آنها را برای راهاندازی حمله سایبری تحریک نکرده بود.
در حالی که تکنیکهای شرح داده شده در تحلیل هاگینگ فیس فراتر از دسترس اکثر هکرهای ماهر نبود، شرکت هوش مصنوعی نوشت که این دو مدل توانستند حفرهها را در لایههای دفاع سایبری شرکت بسیار سریعتر از هر انسانی شناسایی و افشا کنند.
افزودن به دامنه وضعیت، آکشات بوبنا، مدیر ارشد فناوری پلتفرم رایانش ابری مودال لبز، به پولیتیکو تأیید کرد که مدلهای اوپنایآی نیز در این بازه زمانی یک حساب مشتری را به خطر انداختهاند.
بوبنا در بیانیهای گفت که این شرکت «آگاه است که یک مشتری مودال یک نقطه پایانی (endpoint) بدون احراز هویت منتشر کرده است که به هر کسی در اینترنت اجازه میداد از سندباکسهای (sandboxes) آنها برای اجرای کد استفاده کند. این توسط عامل سرکش استفاده شد. پلتفرم مودال به هیچ وجه به خطر نیفتاد.»
در حالی که اوپنایآی هنوز مستقیماً به این بیانیه که مدلهایش یک مشتری مودال را هدف قرار دادهاند، پاسخ نداده است، در یک پست وبلاگی در روز سهشنبه اذعان کرد که در بررسی مداوم حادثه هاگینگ فیس، «تعداد کمی از موارد را پیدا کردهایم که مدلها اعتبارنامههای عمومی افشا شده را در سطح حساب در سایر خدمات عمومی موجود شناسایی و استفاده کردهاند.»
این شرکت همچنین خاطرنشان کرد که مدل هوش مصنوعی منتشر نشدهای که این حمله را انجام داده است، «یک نمونه اولیه تحقیقاتی فقط داخلی بوده و هرگز برای انتشار عمومی در نظر گرفته نشده بود» و از آن زمان «غیرفعال، رمزگذاری شده و دسترسی تحقیقاتی به آن محدود شده است.»
اخبار هک هاگینگ فیس منجر به درخواستهایی برای مقررات سختگیرانهتر هوش مصنوعی و کند کردن توسعه هوش مصنوعی شده است. سم آلتمن، مدیرعامل اوپنایآی، این هفته با مقامات ارشد دولت ترامپ و قانونگذاران دیدار میکند و همچنین این حادثه را با مارک وارنر (نماینده دموکرات از ویرجینیا)، معاون کمیته اطلاعات سنا، مورد بحث قرار خواهد داد.
آلتمن در قسمتی از پادکست «مانند بهترینها سرمایهگذاری کن» که روز سهشنبه منتشر شد، گفت که حادثه هاگینگ فیس «اولین حادثه امنیتی بود که من آن را به طور غریزی احساس کردم.»
آلتمن گفت: «ممکن است مجبور باشیم سرعت توسعه هوش مصنوعی را تنظیم کنیم تا زمان کافی برای جامعه فراهم شود تا در برابر برخی از این سطوح قابلیتهای جدید مقاوم شود.»