بزرگ‌ترین بانک‌های آمریکا در حال تلاش برای جلوگیری از بدترین سناریوهای هوش مصنوعی هستند. اما آن‌ها همچنین برای «روز پس از» یک فاجعه آماده می‌شوند، همان‌طور که آکسیوس دریافت کرده است.
چرا اهمیت دارد: نهاد‌های مالی آمریکا به بزرگ‌ترین شرکت‌های هوش مصنوعی پیوسته‌اند و در حال برنامه‌ریزی سناریو برای فاجعه هستند؛ سیگنالی محتاطانه اما نگران‌کننده درباره میزان ریسکی که شرکت‌های بزرگ در افق آینده می‌بینند.
وضعیت فعلی: بانک‌ها با فعالیت عوامل هوش مصنوعی تأییدنشده مواجه شده‌اند که عمدتاً ناشی از ارائه اطلاعات ورود توسط مشتریان به این عوامل است؛ مواردی که در برخی حالات به نظر می‌رسد اقداماتی مستقل از دستور کاربر انجام داده‌اند، همان‌طور که آکسیوس در گزارش روز پنجشنبه اعلام کرد.
- این فعالیت با رفتار مخرب درگیر در حمله تابستانی به استارتاپی به نام HaGGing Face متفاوت است، جایی که دسته‌ای از عوامل هوش مصنوعی پلتفرمی را هک کردند و بحران امنیتی صنعت را آغاز نمودند.
- در عوض، بانک‌ها از اثرات دومینویی و ریسک‌هایی که از اجازه دادن کاربران به عوامل برای ورود به حساب‌ها و انجام اقدامات ناشی می‌شود، می‌ترسند؛ به‌ویژه اینکه عوامل ممکن است گام‌هایی بردارند که کاربران تأیید نکرده‌اند.
- نگرانی‌ها درباره سیستم‌های هوش مصنوعی مرزی (Frontier AI)، نه عوامل هوش مصنوعی، منجر شده است بانک‌ها بر پیشگیری سرمایه‌گذاری کنند و برای بدترین حالت برنامه‌ریزی نمایند.
جزئیات بیشتر: گزارش آکسیوس در میان نگرانی‌های رو به رشد درباره بحران امنیت سایبری در حال ظهور منتشر شد.
- مارک بنیوف، مدیرعامل Salesforce، عبارت «کد قرمز» را در شبکه اجتماعی X منتشر کرد و نقل‌قولی از یک کارمند امنیت آنتروپیک را بازتاب داد که گفت: «هرچقدر اوضاع در چهار روز گذشته بد بوده، قبل از بهتر شدن بسیار بدتر خواهد شد.»
- کارمند آنتروپیک به یافته‌های پژوهشگران امنیت اشاره داشت که آسیب‌پذیری‌های عمده‌ای را در زبانی برنامه‌نویسی که میلیون‌ها وب‌سایت با آن اجرا می‌شوند کشف کرده بودند؛ یکی از مهم‌ترین کشفیات امنیت سایبری تاکنون با کمک هوش مصنوعی.
- گزارش آکسیوس درباره بانک‌ها، که به هوش مصنوعی عامل‌محور (Agentic AI) اشاره داشت نه سیستم‌های هوش مصنوعی مرزی، موجی از درخواست‌ها برای تنظیم مقررات از طیف سیاسی مختلف، از جمله سناتور برنی سندرز، رون دسانتیس فرماندار فلوریدا و سناتور مارک وارنر را برانگیخت.
- دیوید ساکس، مشاور سابق هوش مصنوعی کاخ سفید گفت بانک‌ها باید از عوامل هدایت‌شده توسط کاربر حمایت کنند که به کاربران امکان «اعطا، محدود کردن و لغو دسترسی» را می‌دهند، و دسترسی فقط خواندنی را به عنوان یک «مرحله موقت» معرفی کرد.
- ساکس اظهار داشت که خلط «رفتار عامل‌محور مجاز توسط کاربر و حملات سایبری غیرمسئولانه است.»
گذشته نزدیک: بانک‌های بزرگ بخشی از آزمایش‌های اولیه مدل Mythos آنتروپیک بودند، مدلی که بیشترین توانایی سایبری را در میان آزمایشگاه‌های هوش مصنوعی دارد.
- این بخشی از تلاشی مشترک بین آزمایشگاه‌های هوش مصنوعی و بانک‌های بزرگ بود تا از این فناوری برای درک بهتر و آمادگی در برابر حملات سایبری یا سایر ریسک‌ها استفاده کنند.
- از آن زمان، بانک‌ها نه تنها بر طرح‌هایی برای اجتناب از مسائل مرتبط با هوش مصنوعی، بلکه همچنین بر نحوه محافظت از حساب‌ها، اطمینان بخشیدن به مشتریان و ادامه عملیات در صورت وقوع حمله گسترده کار کرده‌اند.
واقعیت‌سنجی: این امر نه تنها استاندارد است، بلکه برای صنایع حیاتی که باید به دولت، سهامداران و مشتریان پاسخگو باشند، الزامی است.
- برنامه‌ریزی سناریو برای ارائه‌دهندگان زیرساخت‌های حیاتی، از جمله در بخش مالی، یک الزام است. اجتناب از آن نوعی قصور حرفه‌ای محسوب می‌شود.
- پرخطرترین سناریوها با ترس همراه‌اند: جیمی دیمون، مدیرعامل JPMorgan اوایل ماه جاری در شیکاگو سخنرانی کرد و درباره احتمال حملات سایبری یا امکان اینکه عوامل هوش مصنوعی گام‌هایی بردارند که کاربران تأیید نکرده‌اند، هشدار داد.
- «شما فرض می‌کنید که آن‌ها به نیابت از شما به درستی عمل خواهند کرد، اما ممکن است چنین نباشد»، دیمون گفت. تنها راه حل، هوشیاری است، به گفته او، و هشدار داد که متوقف کردن هوش مصنوعی ممکن نخواهد بود. «شما نمی‌توانید آن را متوقف کنید. فقط باید مانند جهنم مدیریتش کنید.»
- یک اقتصاددان ماه گذشته احتمال ورشکستگی بانکی ناشی از انتقال نقدینگی خانوارهای کاربران به حساب‌های با سود بالاتر توسط عوامل را مطرح کرد.
نکته پنهان: بانک‌ها می‌خواهند مشتریان بدانند که هیچ نشانه‌ای از فعالیت مخرب عوامل یا نفوذی که بر وجوه یا حساب‌های مشتریان تأثیر گذاشته باشد، مشاهده نکرده‌اند.
- بانک‌ها اکیداً به کاربران توصیه می‌کنند رمزهای عبور خود را در اختیار عوامل قرار ندهند، به‌ویژه اینکه خدماتی وجود دارند یا در حال توسعه‌اند که به مشتریان امکان دسترسی فقط خواندنی را می‌دهند. استارتاپ Plaid یکی از این پلتفرم‌هاست که می‌تواند موجودی و تاریخچه تراکنش‌ها را، ضمن توابع دیگر، استخراج کند.
- «هیچ شرایطی نباید وجود داشته باشد که مشتریان رمزهای عبور خود را با هر شخص یا چیزی به اشتراک بگذارند. نقطه سر خط»، سخنگوی JPMorgan به آکسیوس گفت. «پلتفرم‌های امن بانکداری باز وجود دارند که شامل تحویل کلیدهای حساب شما نیستند. مشتریان خط اول دفاعی در محافظت از حساب‌های خود هستند.»
- JPMorgan همراه با سایر بانک‌ها اقداماتی برای جلوگیری از دسترسی عوامل انجام داده است، اگرچه روش‌های امنی را برای اتصال مشتریان به خدمات انتخابی آن‌ها بررسی می‌کند.
پیچیدگی ماجرا: شرکت‌های هوش مصنوعی انتظار واکنش منفی سیاسی را دارند. بانک‌ها برای اختلالات عملیاتی احتمالی آماده می‌شوند.
- میزان برنامه‌ریزی فدرال برای بحرانی که هر دو حوزه را در بر می‌گیرد، همچنان نامشخص است.
جمع‌بندی نهایی: سرعت پیشرفت‌های هوش مصنوعی وال استریت و سیلیکون ولی را برای بدترین سناریوها آماده کرده است، در حالی که واشینگتن در حال تلاش برای کاهش ریسک‌های سایبری است و بر تعهدات داوطلبانه ایمنی تکیه می‌کند.