هاگینگ فیس، پلتفرمی که میزبان مدلها و مجموعهدادههای هوش مصنوعی است، میگوید یک چارچوب عامل هوش مصنوعی پشت نقض اخیر برخی از پایگاههای داده داخلی و اعتبارنامههای خدماتی آن بوده است.
چرا اهمیت دارد: این نقض ظاهراً یکی از اولین موارد مستند از یک عامل هوش مصنوعی است که یک حمله سایبری را هدایت میکند – که نشاندهنده تغییری از هک با کمک هوش مصنوعی به عملیات تحت رهبری هوش مصنوعی است.
خبر اصلی: هاگینگ فیس در پستی در وبلاگ خود در اواخر هفته گذشته اعلام کرد که یک نفوذ را در بخشی از محیط تولید خود شناسایی کرده است که «به طور کامل توسط یک سیستم عامل هوش مصنوعی خودمختار هدایت شده است.»
- هاگینگ فیس گفت که چارچوب عامل هوش مصنوعی دهها هزار اقدام خودکار را اجرا کرده است.
- در طول یک آخر هفته، عوامل مهاجم یک مجموعه داده مخرب را بارگذاری کردند، از آسیبپذیریها در خط لوله پردازش دادههای هاگینگ فیس بهرهبرداری کردند، امتیازات خود را افزایش دادند و اعتبارنامههای ابری و سایر اعتبارنامههای داخلی حساس را به سرقت بردند.
سطح تهدید: این شرکت گفت که هیچ مدرکی مبنی بر دستکاری مهاجم در مدلهای عمومی، مجموعهدادهها، پلتفرم Spaces (اسپیسز) میزبانی شده در فضای ابری و زنجیره تأمین نرمافزاری گستردهتر خود مشاهده نکرده است.
تصویر بزرگ: حملات قبلی از هوش مصنوعی برای تولید کد، نوشتن ایمیلهای فیشینگ یا خودکارسازی وظایف فردی استفاده میکردند.
- هاگینگ فیس میگوید این حمله از یک سیستم عامل خودمختار برای اجرای نفوذ از ابتدا تا انتها استفاده کرده است.
نکته جالب: هاگینگ فیس میگوید هوش مصنوعی به شناسایی نفوذ و سپس بازسازی نحوه وقوع آن کمک کرده است.
- هنگامی که هاگینگ فیس برای اولین بار شروع به تجزیه و تحلیل حمله کرد، به مدلهای پیشرفته روی آورد، اما موانع ایمنی آنها وظایف مربوط به تجزیه و تحلیل بدافزار و تجزیه و تحلیل واکنش به حادثه را مسدود کرد.
- سپس، هاگینگ فیس به GLM-5.2 (جیالام-۵.۲)، یک مدل چینی با وزن باز که اخیراً منتشر شده است، روی آورد و آن را در زیرساخت خود اجرا کرد تا بدافزار را به صورت محلی و بدون محدودیتهای ایمنی تجزیه و تحلیل کند.
- هاگینگ فیس در پست وبلاگ خود نوشت: «درس عملی برای مدافعان: قبل از وقوع حادثه، یک مدل توانمند را که میتوانید در زیرساخت خود اجرا کنید، تأیید و آماده داشته باشید، هم برای جلوگیری از قفل شدن موانع و هم برای جلوگیری از خروج دادهها و اعتبارنامههای مهاجم از محیط شما.»
بله، اما: منابع به آکسیوس میگویند که دولت ترامپ در حال بررسی ممنوعیت مدلهای متنباز است.
بین خطوط: این حادثه نگاهی اولیه به آیندهای ارائه میدهد که بسیاری از کارشناسان امنیت سایبری پیشبینی میکردند: آیندهای که در آن مدافعان از ابزارهای هوش مصنوعی خود برای شناسایی و توقف سریع ابزارهای هوش مصنوعی مهاجمان استفاده میکنند.
- اما زمان میبرد تا مدافعان ابزارهای هوش مصنوعی مناسب را برای دفع همه حملاتی که به سمت آنها میآید پیدا کرده و بسازند – به ویژه در حالی که هم هکرهای دولتی و هم مجرمان سایبری شروع به توسعه مهارکنندههای هوش مصنوعی چندوجهی خود میکنند.
آنچه باید تماشا کرد: هاگینگ فیس در حال بررسی این است که آیا نفوذگران به مجموعهدادههای مشتری یا شریک دسترسی داشتهاند یا خیر.
- این شرکت همچنین به طور عمومی عامل حمله یا نوع مدلی را که استفاده شده است، مشخص نکرده است.
عمیقتر شوید: جرایم سایبری مبتنی بر هوش مصنوعی آسانتر میشوند