وقتی روز سهشنبه سیستم پیامرسانی طبقهبندیشده آژانس امنیت ملی آمریکا از کار افتاد، مردم آمریکا به حدس و گمان درباره علل احتمالی پرداختند. آیا دشمن خارجی بود؟ یک حمله سایبری؟ یا عامل هوش مصنوعی سرکش؟
به گفته مقامات آمریکایی، علت واقعی بسیار سادهتر بود. جی کلیتون، مدیر اطلاعات ملی، در شبکه فاکس نیوز اعلام کرد که این آژانس در پاسخ به آسیبپذیریهای کشفشده در زبان برنامهنویسی رایج PHP در حال ارتقای سیستمهای خود بوده است.
این اصلاحیه، نمونهای از آغاز عصر جدیدی از آشوب دیجیتال بود.
کارشناسان و مقامات دولتی تأکید دارند که موج اختلالات دیجیتال در هفته گذشته ظاهراً به هم مرتبط نیستند و ارتباطی با حملات سایبری مجرمانه یا خارجی ندارند. آنها گفتند که این قطعیها ناشی از تلاشهای شتابزده برای رفع باگهای نرمافزاری انباشتهشده طی دهههاست که اکنون توسط ابزارهای هوش مصنوعی به سرعت شناسایی میشوند. اکنون دولتها و کسبوکارها در سراسر جهان در تکاپو هستند تا قبل از سوءاستفاده هکرها، آسیبپذیریها را یافته و اصلاح کنند.
«آنچه شاهد آن هستیم، وضعیتی عادی جدید است»، گفت ژنرال بازنشسته پل ناکاسون، فرمانده سابق فرماندهی سایبری ایالات متحده و آژانس امنیت ملی آمریکا، که روز چهارشنبه در کنفرانس امنیت ملی دانشگاه واندربیلت در واشنگتن با خبرنگاران صحبت کرد.
ناکاسون که اکنون عضو هیئت مدیره اوپنایآی (OpenAI)، سازنده چتبات ChatGPT است، افزود: «صنایع و سازمانها سعی دارند به سرعت مدرنسازی کنند و همزمان از خود دفاع نمایند.»
او گفت که هوش مصنوعی در حال حاضر به سرعت آسیبپذیریهایی را شناسایی میکند که شرکتها را مجبور به صدور مداوم وصلههای جدید برای رفع آنها میسازد. (واشینگتن پست با اوپنایآی مشارکت محتوایی دارد.)
اینترنت همچنان عمدتاً بر پایه همان مجموعه پروتکلهایی عمل میکند که دههها پیش طراحی شده بودند. زیرساخت دیجیتال جهان شامل تودهای عظیم از سختافزارهای فیزیکی کاملاً متفاوت و لایههای متعدد نرمافزاری است. آسیبپذیریها و باگها همهجا کمین کردهاند و برخی از اجزای کلیدی نرمافزار اینترنت که مورد استفاده افراد و شرکتها در سراسر جهان است، به صورت رایگان توسط گروههای کوچکی از داوطلبان در پروژههای مبهم «متنباز» نگهداری میشوند.
جانت مانفرا، رئیس جهانی ریسک، حریم خصوصی و انطباق در گوگل کلاود، گفت: «سیستمهای حیاتی به شدت به هم متصل هستند و بسیاری از آنها هنوز به معماریهای قدیمی و شکنندهای وابستهاند که در آنها یک تنظیم نادرست توسط فروشنده، خرابی سختافزار یا حمله سایبری میتواند منجر به شکستهای زنجیرهای شود.»
در طول سالها، هکهای بزرگ و قطعیهای گسترده زمانی رخ دادهاند که یک جزء کلیدی نرمافزاری از کار بیفتد یا هکرها روش بهرهبرداری جدیدی پیدا کنند که قبلاً کسی متوجه آن نشده بود. در سال ۱۹۹۱، یک غلط تایپی تنها در کد جدید صادر شده توسط شرکت مخابراتی DSC Communications باعث از کار افتادن میلیونها خط تلفن در طی چند ماه شد که در آن زمان یکی از مخربترین شکستهای نرمافزاری تاریخ محسوب میشد.
اما با ورود هوش مصنوعی، فرآیند کشف این حفرهها به شدت تسریع یافته است.
در ماه مارس، شرکت آنتروپیک (Anthropic) از مدل هوش مصنوعی «مایثوس» (Mythos) رونمایی کرد که توانایی بالایی در اسکن حجم عظیمی از کدها و یافتن باگها دارد. سازنده چتبات کلود (Claude) این مدل را با گروه منتخبی از شرکتهای بزرگ فناوری و امنیت سایبری به اشتراک گذاشت که بلافاصله شروع به یافتن صدها آسیبپذیری در نرمافزارهای حیاتی کردند، برخی از آنها دههها بود که غیرفعال مانده بودند. این شرکتهای بزرگ برای رفع هر چه بیشتر باگها شتاب گرفتهاند، اما دسترسی به قویترین مدلهای هوش مصنوعی سایبری همچنان به شدت توسط دولت آمریکا، آنتروپیک و اوپنایآی کنترل میشود.
در حالی که هوش مصنوعی یافتن شکافهای سیستمی را آسان کرده است، اما رفع آنها همچنان فرآیندی طولانی است. در یک سیستم پیچیده، مهندسان باید مطمئن شوند که حتی یک اصلاح ساده در آینده مشکلات بزرگتری ایجاد نکند (در فاصله منتهی به حادثه سال ۱۹۹۱، شرکت DSC Communications دوره آزمایشی معمول ۱۳ هفتهای خود را به دلیل جزئی دانستن ارتقاها نادیده گرفته بود).
همزمان، مدلهای «وزن باز» (open weights) رایگان تولید شده توسط شرکتهای هوش مصنوعی چین به طور کلی به سطح توانایی مدلهای برتر سایبری آمریکا از اوایل امسال رسیدهاند؛ این امر به شرکتهای کوچکتر اجازه میدهد از آنها برای تقویت امنیت خود استفاده کنند، اما همچنین سلاحی قدرتمند در اختیار هکرها قرار داده است.
این هکرها به ویرانیهای اخیر دامن زدهاند.
بر اساس تحقیقات شرکت امنیت سایبری کراوداسترایک (CrowdStrike)، در اکتبر، فردی ۲۶ ساله ساکن چین با استفاده از مجموعهای از مدلهای هوش مصنوعی به چندین بانک کره جنوبی نفوذ کرد تا اطلاعات شخصی مشتریان را سرقت کند و سپس سعی کرد آنها را به صورت آنلاین بفروشد. همچنین در اوایل نوامبر، مقامات فرانسوی اعلام کردند که هکرهای تحت حمایت دولت ایران پشت سری حملات سایبری بودند که دمای صدها یخچال سوپرمارکت را افزایش دادند و منجر به فاسد شدن مقادیر زیادی مواد غذایی شدند.
لوکا تیلور، مشاور امنیتی استارتاپ امنیت سایبری آدرونایت (Adronite) که قبلاً در عملیات سایبری آژانس امنیت ملی آمریکا فعالیت داشت، گفت: «قطعاً احساس میکنم دما بالا رفته و چیزی در حال انباشته شدن است. اگر چیز دیگری نباشد، این ابزارها جسارت دشمنان و همچنین بازیگران تکروی (lone wolf) را افزایش میدهند.»
این هکها فوریت یافتن و رفع آسیبپذیریها را برای شرکتها و دولتها در سراسر جهان افزایش داده است. ترکیب این موارد با قطعیهای ناشی از ترک خوردن زیرساختهای دیجیتال و شتاب برای رفع باگها، فضایی اضطرابآور برای بسیاری از افرادی ایجاد کرده که موج قطعیها را نشانه دیگری از وضعیت بحرانی دائمی جهان میبینند.
نیکش آروا، مدیرعامل شرکت امنیت سایبری پالو آلتو نتورکز (Palo Alto Networks)، تخمین زد که «بدهی فنی» به اندازهای وجود دارد که «ممکن است ما ۱۲ تا ۱۸ ماه دیگر نیز مشغول این کار باشیم.» او تخمین زد که حجم اصلاحات تا پنج یا ده برابر افزایش یافته است.
مایک چپل، کارشناس امنیت سایبری در دانشگاه نوتردام، گفت: «من فکر میکنم اکنون با تلاشی در سطح Y2K برای بهروزرسانی زیرساختهایمان مواجه هستیم.» اشاره او به ترس دهه ۱۹۹۰ بود که تغییر سیستمهای نرمافزاری از «۹۹» به «۰۰» در پایان قرن باعث سقوط کامپیوترها شود.
چپل افزود: «Y2K چالش بسیار جدی بود»، اما چالشی که در نهایت حل شد.
او گفت که همه برای تعمیر سیستمهای خود شتاب کردند و وقتی سال جدید فرا رسید و گذشت، هیچ اتفاقی نیفتاد.
هنوز مشخص نیست که دوره فعلی قطعیها چقدر طول خواهد کشید.
ساتیا نادلا، مدیرعامل مایکروسافت، در نشست DealBook نیویورک تایمز روز پنجشنبه گفت: «بخشی از من میگوید دورهای شبیه Y2K وجود دارد که باید خود را با آن وفق دهید.» اما او ابراز نگرانی کرد که مدلهای هوش مصنوعی آینده دفاع در برابر آنها دشوارتر خواهد بود.
نادلا گفت: «تنها چالش در این زمینه این است که اگر مدلها روز به روز توانمندتر شوند، نمیدانم این چه معنایی خواهد داشت.»
تارا کوپ در تهیه این گزارش همکاری کرد.