طبق یک تحقیق جدید، پیشرفته‌ترین مدل‌های هوش مصنوعی جهان ناگهان توانسته‌اند با نرخ موفقیت نگران‌کننده‌ای، طرح‌های حمله سایبری علیه خدمات حیاتی مانند شبکه‌های برق و سیستم‌های آبرسانی را ترسیم کنند.
چرا اهمیت دارد: زمان برای اپراتورهای زیرساخت‌های حیاتی رو به پایان است. تحقیقات جدید شرکت امنیت سایبری «فرینوس» نشان می‌دهد که مدل‌های مرزی (Frontier) برتر، به‌طرز خطرناکی در نقشه‌برداری حملات ماهر هستند و تنها مسئله زمان است تا مدل‌های هوش مصنوعی رایگان، اجرای چنین هک‌هایی را آسان‌تر کنند.
- «این ساعتی است که سریع‌تر از هر چیزی که تاکنون دیده‌ایم حرکت می‌کند»، استیو سوئیک، مدیر ارشد سابق امنیت در شرکت آمریکایی الکتریسیته پاور، در یک نشست خبری به خبرنگاران گفت.
جزئیات خبر: پژوهشگران در «فرینوس» ۱۰ مدل هوش مصنوعی را از نظر توانایی برنامه‌ریزی حملات علیه سیستم‌های صنعتی، مانند نرم‌افزارهایی که فرآیندهای تصفیه آب را پایش می‌کنند، آزمایش کردند.
- سه مورد از ۱۰ مدل آزمایش‌شده، در حدود ۹۰ درصد تلاش‌ها توانستند طرح‌های حمله را با موفقیت تدوین کنند.
- عملکرد به‌شدت متفاوت بود: سه مدلی که پژوهشگران آن‌ها را در مرز توانمندی‌ها می‌دانستند، تنها در ۱۷.۹ تا ۳۱.۹ درصد تلاش‌ها موفق بودند.
- قوی‌ترین مدل با وزن آزاد (Open-weight) خارجی ۳۶.۲ درصد اوقات موفق عمل کرد، در حالی که قوی‌ترین مدل با وزن آزاد آمریکا تنها ۵.۲ درصد موفقیت داشت.
- «فرینوس» نام مدل‌های آزمایش‌شده را فاش نکرد.
نگاه دقیق‌تر: این تحقیق شامل نزدیک به ۱۷,۰۰۰ تست بود، از جمله ۲,۵۲۰ تلاش برای تدوین طرح‌های حمله کامل.
- مدل‌ها اطلاعاتی درباره اهداف احتمالی دریافت کردند و وظیفه داشتند مراحل لازم برای دستیابی به اهداف خاص را کنار هم بچینند.
تصویر کلی: خدمات حیاتی مانند سیستم‌های آبرسانی و کارخانه‌های تولیدی، مدت‌هاست هدف دشمنان دولتی و مجرمان سایبری قرار دارند.
- بسیاری از اپراتورها با محدودیت‌های نیروی انسانی و بودجه روبرو هستند. همچنین، آزمایش و ارتقای سیستم‌هایشان می‌تواند خطر اختلال در خدمات ضروری را ایجاد کند که تحمل آن را ندارند.
- برخلاف شبکه‌های سنتی شرکتی، سیستم‌های صنعتی نسبت به ترافیک و دستورات غیرمنتظره حساس هستند. حتی یک تلاش ناموفق برای حمله نیز ممکن است عملیات ضروری را مختل کند.
سطح تهدید: هری توماس، بنیانگذار مشترک و مدیر فنی «فرینوس» گفت که پس از دسترسی مهاجمان به یک شبکه صنعتی، هوش مصنوعی می‌تواند به آن‌ها کمک کند تا بدون محدودیت زمانی مشابهی که هکرهای انسانی با آن مواجه‌اند، سیستم‌ها را به‌صورت مخفیانه نقشه‌برداری کرده و نقاط ضعف را شناسایی کنند.
- «هوش مصنوعی مشکل صبر ندارد»، توماس گفت. «نیازی به غذا خوردن ندارد، نیازی به خوابیدن ندارد و نیازی به استفاده از سرویس بهداشتی ندارد.»
- پل شاور، رئیس فناوری عملیاتی در شرکت امنیت سایبری «آرمادین»، افزود که عامل‌های هوش مصنوعی اکنون می‌توانند بدون لزوماً فعال کردن هشدارهای امنیتی، اقدام به شناسایی اولیه (Reconnaissance) و تحلیل حجم زیادی از داده‌ها کنند.
نکته جالب: توماس گفت که پژوهشگران از یک تنظیمات نسبتاً ساده برای هدایت مدل‌ها در انجام وظایفشان استفاده کردند. ابزارهای پیچیده‌تر که زمینه و بازخورد اضافی فراهم می‌کنند، می‌توانند عملکرد آن‌ها را بهبود بخشند.
- «یک چارچوب (Harness) قدرتمندتر می‌توانست به این مدل‌های هوش مصنوعی مزیت بیشتری بدهد»، او گفت.
چه چیزی را باید دنبال کنیم: در هفته‌های اخیر چندین ابتکار — از جمله از سوی کاخ سفید، شرکت‌های هوش مصنوعی مرزی و سازمان‌های امنیت سایبری — برای کمک به کاهش هزینه‌ها و ارائه منابع به سازمان‌های زیرساخت حیاتی شکل گرفته است.
مطالعه بیشتر: پیشرفت‌های ترسناک هوش مصنوعی مسابقه برای ایمن‌سازی زیرساخت‌های حیاتی را تسریع می‌کند