.
این نسخهای از خبرنامه دیلی آتلانتیک است؛ خبرنامهای که شما را با مهمترین خبرهای روز همراه میکند، به کشف ایدههای تازه کمک میکند و بهترینهای فرهنگ و هنر را معرفی میکند. همینجا در آن ثبتنام کنید.
عاملهای هوش مصنوعی امروزی به هکرهایی فوقالعاده تبدیل شدهاند و همین حالا برخی از مهمترین زیرساختهای زندگی مدرن، یعنی بانکها، را تهدید میکنند.
در هر دو حوزه مالی و فناوری، رهبران صنعت از این خطرها بهخوبی آگاهاند و خود را برای مقابله آماده میکنند. اوایل امسال، هنگامی که شرکت آنتروپیک آماده انتشار مدل قدرتمند جدیدی به نام میتوس بود، پیشنمایشی زودهنگام از این هوش مصنوعی را در اختیار گروهی منتخب از شرکتها قرار داد تا به آنها در تقویت دفاعهایشان کمک کند. جیپیمورگانچیس در این فهرست بود و به گفته منابع، با گسترش این برنامه از سوی آنتروپیک، بانکهای بیشتری نیز به آن افزوده شدند. پس از عرضه این مدل، اسکات بسنت، وزیر خزانهداری، و جروم پاول، رئیس وقت فدرال رزرو، با سران بانک آمریکا، سیتیگروپ، گلدمن ساکس و دیگر نهادهای بزرگ مالی دیدار کردند تا درباره پیامدهای احتمالی این مدل جدید گفتوگو کنند؛ مدلی که به ادعای آنتروپیک میتوانست «در یافتن و بهرهبرداری از آسیبپذیریهای نرمافزاری، از همه انسانها جز ماهرترینشان پیشی بگیرد.»
آنچه عاملهای هوش مصنوعی را از تهدیدهای سایبری گذشته متفاوت میکند این است که با سرعت ماشین حرکت میکنند و میتوان آنها را بهصورت گروهی به کار گرفت. این رباتها میتوانند بهصورت انبوه حمله کنند و در جستوجوی شکافهای سیستمهای پشتیبان شرکتها باشند. دفتر کنترل ارز، که بر بسیاری از بانکهای آمریکایی نظارت دارد، تابستان امسال در گزارشی به کنگره نوشت که هوش مصنوعی «سرعت، مقیاس و پیچیدگی حملات سایبری علیه نهادهای مالی» را افزایش داده است.
پژوهشهای سال گذشته نشان میدهد که احتمال مواجهه بخش مالی با حملات سایبری مبتنی بر هوش مصنوعی بیش از دیگر صنایع است، اما این تهدیدها هماکنون در بخش فناوری نیز در حال رخ دادن است. شرکتهای فناوری معمولاً هر هفته وصلههای نرمافزاری، یعنی بهطور خلاصه بهروزرسانیها و رفع اشکالها، را در روزی موسوم به سهشنبه وصله منتشر میکنند. در عصر تهدیدهای عاملمحور، حجم این بهروزرسانیها بهشدت افزایش یافته است. مایکروسافت اوایل همین ماه نزدیک به ۱۰۰۰ مشکل را وصله کرد که رکوردی بیسابقه بود. این روند پیش از ظهور میتوس هم شتاب گرفته بود، اما بر اساس تحلیل جیپیمورگان، پیشرفتهترین مدلها چشمانداز ریسک سایبری را بهشدت دگرگون کردهاند و به «سونامی وصلهها» انجامیدهاند. اهالی این صنعت واژهای برای آن ساختهاند: «پچمگدون».
این خطر نیز وجود دارد که شرکتهای هوش مصنوعی کنترل عاملهایی را که به دنیای بیرون میفرستند از دست بدهند. اوایل امسال، اوپنایآی فاش کرد که عاملهایش از دستورها سرپیچی کرده، از محدودیتها عبور کرده و به سرورهای شرکتی به نام هاگینگ فیس حمله کردهاند. آنها همچنین دادههای کارکنان را دزدیدند و برای پنهان کردن شواهد از مدیران انسانی خود تبانی کردند. این حادثهای بود که به نوشته همکارم جاش تیرانجیل، «سرعت توسعه هوش مصنوعی را آشکار کرد، اما همچنین نظارت سهلانگارانه انسانهایی را نشان داد که قرار بود مراقب آن باشند.» اوپنایآی از آن زمان چندین لغزش دیگر را افشا کرده و حوادث مشابه هک هوش مصنوعی در گوگل، آنتروپیک و متا نیز رخ داده است.
اگر عاملهای هوش مصنوعی بتوانند ضعفهای چشمگیری در پایگاه کد یک بانک شناسایی کنند، چه ممکن است رخ دهد؟ نمیتوان با اطمینان گفت. اما چون بانکها زیربنای تقریباً همه جنبههای زندگی مدرناند، قطعی یا اختلال در سیستمهای پشتیبان میتواند در سراسر تجارت دیجیتال موج بیندازد. اینکه برخی از خطرهای مرتبط با هوش مصنوعی پیشرو ذاتاً ناشناختنیاند، آمادهسازی را دشوار میکند. شرکتهایی که این ابزارها را میسازند همیشه تا زمانی که یک مدل بهطور کامل آموزش ندیده باشد، دامنه تواناییهای آن را درک نمیکنند؛ دانشمند ارشد اوپنایآی نوشته است که «هوش مصنوعی بیشتر پرورش مییابد تا طراحی شود.»
با وجود همه اینها، کارشناسان امنیت سایبری که با آنها گفتوگو کردم روشن ساختند که صنعت خدمات مالی دستپاچه نشده است. این تا حدی به این دلیل است که این عاملها و مدلهای پیشرو میتوانند برای جلوگیری از حملات سایبری نیز به کار روند. مهندسان امروزی میدانند که دفاع در برابر هوش ماشینی ممکن است خودش نیازمند هوش ماشینی باشد؛ شرکتها هماکنون این ابزارها را برای تشخیص تقلب، مدیریت ریسک و موارد دیگر به کار میگیرند. مایک سیلورمن، رئیس بخش راهبرد و نوآوری در مرکز تبادل و تحلیل اطلاعات خدمات مالی، به من گفت که شرکتها از هوش مصنوعی برای تقویت چیزی که تشخیص ناهنجاری خوانده میشود، یعنی سامانههای هشدار زودهنگام برای تهدیدهای احتمالی، و نیز دیگر انواع پایش داده استفاده میکنند. یکی از مدیران امنیت سایبری در یکی از بزرگترین بانکهای آمریکا به من گفت که مراکز عملیات امنیتی این صنعت، یعنی قطبهای دفاعی که بهطور سنتی انسانها آنها را اداره میکردند، در حال بررسی امکان توسعه عاملهای خودشان هستند و مهندسان در سراسر این بخش اکنون سامانههایی را با در نظر گرفتن تواناییهای هوش مصنوعی طراحی میکنند.
چون بخش مالی مدتها هدف کلاهبرداری، تقلب و نقض داده بوده است، از پیش در حالت آمادهباش قرار دارد. اما همه نهادها به یک اندازه توانایی مقابله با تهدیدهای جدید را ندارند؛ برخی بانکهای کوچکتر ممکن است از منابع و تخصص امنیتی شرکتهای بزرگتر بیبهره باشند. با پیشرفت مدلهای هوش مصنوعی، این ابزارها ممکن است تفاوت میان کسانی را آشکار کنند که توان مالی آماده شدن برای آنچه در راه است را دارند و کسانی که ندارند.