کاتدرال، یک استارتاپ تازه‌تأسیس امنیت سایبری، اخیراً به آنتروپیک، سازنده چت‌بات کلاد، اطلاع داده است که پژوهشگران این شرکت توانسته‌اند به سیستم‌های داده و پیام‌رسانی حساس داخلی این شرکت هوش مصنوعی نفوذ کنند؛ طبق گزارش پیش‌نویسی از کاتدرال که روزنامه واشینگتن پست آن را بررسی کرده است.
این استارتاپ که توسط اعضای سابق سازمان خدمات کاهش هزینه دولت آمریکا (DOGE) بنیان‌گذاری شده، ابزارهای امنیت سایبری مبتنی بر هوش مصنوعی را به دولت ایالات متحده و مشتریان شرکتی ارائه می‌دهد. طبق گزارش، پژوهشگران این شرکت با سوءاستفاده از آسیب‌پذیری‌های موجود در نرم‌افزارهای تجاری که توسط شرکت هوش مصنوعی و بسیاری دیگر از شرکت‌ها برای وظایف اداری و فروش استفاده می‌شود، وارد سیستم‌های آنتروپیک شدند.
گزارش کاتدرال می‌گوید پس از اجرای عامل‌های هوش مصنوعی برای کمتر از ۱۲ ساعت، پژوهشگران مسیرهایی برای دسترسی به داده‌های داخلی آنتروپیک یافتند که شامل صورتجلسات، جزئیات حقوق و پیشنهادات شغلی، و پیام‌های اسلک بحث‌شده درباره مدل‌های پیشرفته هوش مصنوعی بود. این استارتاپ تحت برنامه‌ای شرکتی که متخصصان امنیت سایبری خارجی را برای آزمایش سیستم‌ها دعوت می‌کند، آنتروپیک را کاوش کرد.
توانایی کاتدرال در نفوذ به برنامه‌های حساس یکی از شرکت‌های پیشرو در رقابت جهانی هوش مصنوعی، در حالی رخ می‌دهد که نگرانی‌ها مبنی بر اینکه شرکت‌های هوش مصنوعی آمریکا هدف سازمان‌های اطلاعاتی خارج از کشور هستند افزایش یافته و هشدارها نسبت به اینکه هوش مصنوعی می‌تواند نفوذ هکرهای مخرب به سیستم‌های حیاتی را آسان کند، رو به رشد است.
آنتروپیک در بیانیه‌ای تأیید کرد که پژوهشگران کاتدرال به «مجموعه محدودی» از سیستم‌های فروش، منابع انسانی و فناوری اطلاعات آن دسترسی پیدا کرده‌اند. طبق بیانیه، شرکت هوش مصنوعی مسیرهای افشا شده توسط پژوهشگران را مسدود کرد و مقامات فدرال را در جریان این حادثه قرار داد.
گزارش جدید کاتدرال و سایر حوادث امنیتی اخیر در شرکت‌های هوش مصنوعی آمریکا، شدت گرفتن ریسک‌ها را در زمانی که دولت ایالات متحده و دشمنانش بر سر فناوری‌ای که مرکزی برای حفظ یا به چالش کشیدن قدرت جهانی آمریکا تلقی می‌شود، رقابت می‌کنند، برجسته می‌سازد.
یک مقام ارشد دولت ترامپ که به شرط ناشناس بودن برای توصیف فرآیندهای داخلی صحبت می‌کرد، گفت گزارش کاتدرال درباره دسترسی آن‌ها به داخل آنتروپیک در دولت دست‌به‌دست شده و نگرانی‌های امنیتی ملی را برانگیخته است.
«اگر گروهی از جوانان که تازه یک شرکت را راه انداخته‌اند بتوانند این کار را بکنند، احتمالاً چینی‌ها هم عقب نیستند،» این مقام گفت. او افزود که از «کمبود زمانی که برای ورود به سیستم‌های حساس شرکتی که تقریباً مواد درجه سلاح هسته‌ای را کنترل می‌کند، طول کشید» شوکه شده است.
اف‌بی‌آی اوایل این ماه یک کارمند شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، را به اتهام نصب دستگاه ضبط صدا در اتاق کنفرانس مدیران بازداشت کرد. ماه گذشته، هکرهایی که با کمک چت‌بات کلاد آنتروپیک وارد اوپن‌ای‌آی شدند هشدار دادند صنعت هوش مصنوعی برای ریسک‌های امنیتی ایجاد شده توسط قدرت فناوری خودش آماده نیست. (واشینگتن پست شراکت محتوایی با اوپن‌ای‌آی دارد.)
آنتروپیک اوایل امسال پس از آنکه پنتاگون این شرکت را از سیستم‌های فدرال حذف کرد، با دولت ترامپ اختلاف داشت؛ این اتفاق پس از امتناع آنتروپیک از اجازه استفاده از فناوری‌اش برای سلاح‌های خودمختار یا نظارت گسترده داخلی رخ داد.
طبق گفته این مقام، سه آژانس فدرال اخیراً با کاتدرال برای کارهای امنیت سایبری قرارداد بسته‌اند. این استارتاپ، بخشی از موجی از شرکت‌ها تأسیس‌شده توسط کارکنان سابق DOGE برای جستجوی فرصت‌های بخش خصوصی و قراردادهای دولتی، توسط سرمایه‌گذاران ۱.۴ میلیارد دلار ارزش‌گذاری شده است.
به گفته فردی نزدیک به شرکت که به دلیل ماهیت حساس یافته‌ها به شرط ناشناس بودن صحبت کرد، پژوهشگران کاتدرال تلاش کردند به سیستم‌های آنتروپیک دسترسی پیدا کنند تا چالش‌های امنیتی پیش روی توسعه‌دهندگان اصلی هوش مصنوعی آمریکا را برجسته کنند.
طبق گزارش، این شرکت یافته‌های خود را اوایل این ماه از طریق برنامه تست امنیت سایبری به آنتروپیک افشا کرد؛ برنامه‌ای که به پژوهشگران امنیتی برای افشای آسیب‌پذیری‌ها پاداش می‌دهد. سند همچنین گفت کاتدرال فروشندگان نرم‌افزار تجاری که از آن‌ها سوءاستفاده کرده بود را نیز مطلع کرد، اما هویت این شرکت‌ها به دلایل امنیتی افشا نشد.
«آن‌ها اینجا چیز بزرگی پیدا کردند،» گفت الکس استاموس، رئیس اطلاعات امنیت در استارتاپ کدنویسی هوش مصنوعی شناخت (Cognition)، که یافته‌های کاتدرال را به درخواست واشینگتن پست بررسی کرد.
اما خطر اتصال اپلیکیشن‌های شخص ثالث به سیستم‌های شرکتی «مشکلی عظیم برای همه است،» استاموس که قبلاً مدیر رصدخانه اینترنت استنفورد در مرکز سیاست سایبری دانشگاه بود، افزود.
استاموس گفت یافته‌های کاتدرال «شکافی» در نحوه مدیریت استفاده توسعه‌دهنده هوش مصنوعی از ارائه‌دهندگان نرم‌افزار خارجی را نشان داد. «این یک مشکل واقعاً سخت است، اما آنتروپیک می‌توانست کارهای بسیار بهتری انجام دهد،» او گفت. (شناخت از مدل‌های آنتروپیک و سایر شرکت‌های هوش مصنوعی استفاده می‌کند.)
سخنگوی کاتدرال از اظهار نظر خودداری کرد.
سخنگوی آنتروپیک در بیانیه‌ای گفت پژوهشگران کاتدرال به سیستم‌هایی دسترسی پیدا کردند که حاوی داده‌هایی از جمله جزئیات تماس تجاری برخی مشتریان و شرکا و همچنین برخی سوابق حساب کاربری پایه بود. طبق بیانیه، پژوهشگران نتوانستند به پیام‌های ارسال شده توسط مشتریان به مدل‌های هوش مصنوعی آنتروپیک، پاسخ‌های برگشتی، یا کد یا «وزن‌های مدل» پشت سیستم‌های هوش مصنوعی آن دسترسی پیدا کنند.
«پایش ما قبل از گزارش آن‌ها به ما، برخی فعالیت‌های کاتدرال را علامت‌گذاری کرد و همان روز دسترسی آن‌ها را قطع کردیم،» بیانیه گفت. «همچنین هیچ مدرکی نداریم که کسی خارج از کاتدرال از این آسیب‌پذیری‌ها سوءاستفاده کرده باشد.»
آنتروپیک نرم‌افزار تجاری درگیر را غیرفعال کرد و تنها پس از تأیید فروشندگان مبنی بر رفع آسیب‌پذیری‌ها، آن را دوباره روشن کرد، طبق بیانیه.
پژوهشگران کاتدرال در گزارش شرکت خود، پیش‌نویس اولیه یک پست وبلاگ، نوشتند که یافته‌های آن‌ها «شکاف جدی بین قابلیت‌های تهاجمی در حال ظهور و دفاع‌های محافظت‌کننده از برخی از آسیب‌پذیرترین دارایی‌های فناوری آمریکا را آشکار می‌کند،» طبق نسخه بررسی شده توسط واشینگتن پست.
«این واقعیت که ضعف‌ها در نرم‌افزارهای سازمانی معمولی می‌توانند زیرساخت حتی پیشرفته‌ترین سازمان‌ها را به خطر بیندازد، باید زنگ خطری برای هر شرکتی در آمریکا باشد،» گزارش گفت.
بیانیه آنتروپیک گفت کاتدرال «پیامدهای امنیتی ملی ضمنی» یافته‌های خود را اغراق‌آمیز جلوه داده است. این شرکت گفت استارتاپ قوانین برنامه جایزه باگ خود را به طور کامل رعایت نکرده، زیرا تمام فعالیت‌های خود را در سیستم‌های آنتروپیک افشا نکرده است.
کاتدرال در گزارش خود گفت «دسترسی‌های داده مطابق با بهترین روش‌های تحقیقات امنیتی به حداقل مطلق نگه داشته شد.»
جیکوب کاکسون، کارمند آنتروپیک، ماه گذشته علناً استعفا کرد و به نگرانی‌هایش مبنی بر بی‌مسئولیتی شرکت در مورد فناوری خطرناک هوش مصنوعی، از جمله اتکا به نرم‌افزارهای تجاری معمولی، اشاره کرد. او در پستی در ایکس، اشاره به ابزار پیام‌رسانی تجاری مورد استفاده آنتروپیک و بسیاری از شرکت‌های فناوری دیگر، شرکت را متهم به انجام «قمار تکبرآمیزی که نباید از اسلک یک شرکت خصوصی راه‌اندازی شود» کرد.
گاوین کلیگر، هم‌بنیان‌گذار کاتدرال، پس از دوره خدمتش در DOGE، به عنوان رئیس افسر داده پنتاگون خدمت کرد. به گفته فرد نزدیک به شرکت، او در زمان حضورش در پنتاگون در مکالماتی شرکت کرد که مقامات سناریوهای احتمالی دسترسی یک کشور خارجی به تحقیقات یک آزمایشگاه هوش مصنوعی مرزی در سیلیکون ولی را شبیه‌سازی می‌کردند.
طبق داده‌های شرکت پیچ‌بوک، کاتدرال ۱۶۰ میلیون دلار از سرمایه‌گذاران جمع‌آوری کرده است. مارک آندرسن و شان ماگوایر، سرمایه‌گذاران برجسته‌ای که از رئیس‌جمهور دونالد ترامپ و DOGE حمایت کردند، در هیئت مدیره کاتدرال عضو هستند.
طبق گفته مقام دولتی، دولت ترامپ اکنون با این شرکت برای شبیه‌سازی سناریوهای خصمانه مرتبط با هوش مصنوعی همکاری می‌کند.