واشینگتن—دولت ترامپ و شرکت آنتروپیک (Anthropic) به توافقی دست یافتهاند که دسترسی به جدیدترین مدل هوش مصنوعی عمومی این شرکت را بازمیگرداند. این توافق به مناقشهای پایان میدهد که نشان داد چگونه کاخ سفید برای مقابله با نگرانیهای امنیتی در این صنعت به سرعت در حال رشد، مداخله میکند.
هاوارد لوتنیک، وزیر بازرگانی آمریکا، در پلتفرم X اعلام کرد که بر اساس توافقی که سهشنبه شب اعلام شد، آنتروپیک اقدامات پیشگیرانه را برای رفع راهحلهایی که محققان شرکت آمازون برای دور زدن محافظهای فیبل (Fable)، نسخه عمومی و قدرتمند مدل میتوس (Mythos) آنتروپیک که قادر به انجام حملات سایبری است، استفاده میکردند، انجام خواهد داد. این محافظها برای عرضه عمومی مدل بسیار حیاتی هستند.
لوتنیک گفت: «در طول دو هفته گذشته، ما از نزدیک با آنتروپیک همکاری کردهایم تا فیبل 5 را تحلیل و تأیید کنیم و از هماهنگی در سراسر دولت ایالات متحده اطمینان حاصل کرده و رهبری آمریکا در هوش مصنوعی را تقویت کنیم.»
آنتروپیک اظهار داشت که با دیگر غولهای فناوری از جمله آمازون، مایکروسافت و گوگل برای توسعه یک چارچوب اجماع جهت ارزیابی شدت «جیلبریکها» (jailbreaks) که اقدامات ایمنی را دور میزنند و نحوه واکنش توسعهدهندگان هوش مصنوعی همکاری میکند. این تلاش نشانهای است که توقف اخیر مدل آنتروپیک، توسعه آینده هوش مصنوعی و نظارت دولت را شکل خواهد داد. آنتروپیک گفت که «احتمالاً غیرممکن است» هیچ مدلی را کاملاً ضد جیلبریک ساخت.
در مذاکرات اخیر به رهبری تام براون، مدیر ارشد محاسبات آنتروپیک، این شرکت با وزارت بازرگانی و سایر آژانسها همکاری کرد تا آنها را متقاعد کند که این مدل برای عموم مردم ایمن است.
پس از این توافق، آنتروپیک اعلام کرد که دسترسی به مدل را چهارشنبه، پس از دو و نیم هفته توقف که برای یک توسعهدهنده پیشرو مدل هوش مصنوعی در ایالات متحده بیسابقه بود، از سر خواهد گرفت. این شرکت گفت: «ما از صبر کاربران خود و از همه کسانی که در بازنشر [مدل] با ما همکاری کردند، سپاسگزاریم.»
به گفته این شرکت، آنتروپیک پس از همکاری نزدیک با دولت، محافظ جدیدی را برای رفع رفتاری که محققان آمازون گزارش کرده بودند، پیادهسازی کرد. به گفته آنتروپیک، تکنیکی که آمازون برای دور زدن محافظها توصیف کرده بود، با محافظ جدید حدود 99 درصد مواقع شکست میخورد. آنتروپیک در یک پست وبلاگی گفت که در موارد باقیمانده، خروجیها خطرناک تلقی نمیشوند زیرا حاوی اطلاعات عمومی هستند یا نمیتوانند به یک عامل مخرب کمک کنند.
این شرکت قبلاً اعلام کرده بود که درخواستهای ارسالی به فیبل که خطرناک تلقی میشوند را به یک مدل با قابلیتهای کمتر پیشرفته هدایت خواهد کرد.
مقامات دولتی گفتند که هدف دولت رفع آسیبپذیری و پیادهسازی فرآیندی بوده است تا مسائل مشابه در آینده قابل اجتناب باشند و ارتباطات واضحتر شود. مقامات آمریکایی اخیراً پس از دو هفته توقف، برخی دسترسیها به مدل مرتبطی به نام میتوس 5 را تأیید کردهاند.
نگرانیها در مورد ایمنی این مدلها، دولت را بر آن داشت تا در اواسط ژوئن استفاده خارجی از این ابزارها را ممنوع کند. این تصمیم شامل افراد خارجیتبار شاغل در ایالات متحده و برخی محققان آنتروپیک نیز میشد و باعث شد این شرکت دسترسی را برای همه کاربران قطع کند. افراد آشنا به موضوع گفتند که انتظار میرود وزارت بازرگانی این محدودیتها را لغو کند.
توقف مدل، لحظهای محوری برای صنعت هوش مصنوعی بود؛ اولین مورد اصلی که دولت یک شرکت پیشرو هوش مصنوعی را مجبور به کنار گذاشتن یک مدل کرد و به طور بالقوه به رقبای آن شرکت سود رساند. شرکت سازنده ChatGPT، اوپناِیآی (OpenAI)، محصولاتی با قابلیتهای مشابه دارد که بر اساس دستور دولت به صورت محدود منتشر میشوند. گوگل و شرکت هوش مصنوعی ایلان ماسک نیز در این فضا رقابت میکنند.
کاخ سفید پس از بیش از یک سال رویکرد «عدم مداخله»، تغییر رویه داده و میخواهد کارشناسان امنیت سایبری و امنیت ملی بیشتر درگیر ارزیابی مدلهای هوش مصنوعی و تهدیدهایی که ممکن است ایجاد کنند، باشند.
رئیس جمهور ترامپ اخیراً یک دستور اجرایی را امضا کرد که رویکرد جدید را مشخص کرده و از شرکتها خواسته است 30 روز قبل از انتشار مدلهای خود، به دولت فدرال دسترسی به آنها را بدهند.
سوزی وایلس، رئیس ستاد کارکنان کاخ سفید، سهشنبه در پلتفرم X گفت: «دولت و بخش خصوصی به گونهای با یکدیگر همکاری کردهاند که قبلاً هرگز ندیدهایم و این بنیاد 'اول آمریکا' بیسابقه است. اولویت مشترک ما همچنان این است: بهترین فناوری را در سریعترین و ایمنترین زمان ممکن به کار گیریم.»
ترامپ اخیراً از واکنش داریو آمودی، مدیرعامل آنتروپیک، به نگرانیهای دولت که منجر به توقف [مدل] شد، تمجید کرد و به اکسیوس گفت: «او بسیار مسئولانه واکنش نشان داد.» این دو در نشستی از گروه هفت درباره هوش مصنوعی در فرانسه شرکت کردند، در حالی که مذاکرات ادامه داشت. اوایل سال جاری، ترامپ آنتروپیک را یک «شرکت رادیکال-چپ و بیدار» نامید، زمانی که پنتاگون این شرکت را یک خطر امنیتی اعلام کرد، به دلیل اختلاف نظرها بر سر محافظها برای استفاده از هوش مصنوعی در ارتش.
حل و فصل احتمالی این اختلاف اخیر، بسیاری از تحلیلگران هوش مصنوعی را آسوده خاطر میکند که میگفتند آنتروپیک و دولت رقابتی خودتخریبکننده دارند. اعلام پنتاگون مبنی بر خطر زنجیره تأمین این شرکت، منجر به چندین دعوای حقوقی شد. دو طرف همچنین بر سر صادرات تراشههای هوش مصنوعی به کشورهای دیگر و ارتباط این شرکت با سازمانهای غیرانتفاعی که کمککنندههای بزرگ لیبرال هستند، اختلاف نظر داشتهاند.
تحلیلگران هوش مصنوعی میگویند که اقدامات اخیر دولت فرآیند تأیید مدلها را به هرج و مرج کشانده است. یک واحد دولتی پیش از این آزمایشهایی انجام میدهد که اکنون مقامات امنیتی بر آن نظارت خواهند کرد و روابط دیرینهای با شرکتهای فناوری دارد. انتظار میرود توافق آنتروپیک نیز شامل واحد آزمایش دولتی، یعنی مرکز استانداردها و نوآوری هوش مصنوعی (CAISI) شود.
به گفته آنتروپیک، CAISI علاوه بر محافظهای قبلی، محافظ جدید را نیز آزمایش کرده است.
مدیران صنعت و مقامات دولتی گفتهاند که برخی از ابهامات پس از اجرای دستور اجرایی حل و فصل خواهد شد.
این توافق میتواند فشار را از روی آمازون نیز کاهش دهد؛ آمازون یکی از سرمایهگذاران بزرگ آنتروپیک و شریک در مراکز دادهای است که مدلهای آنتروپیک را اجرا میکنند، اما آسیبپذیریهایی در فیبل را به دلایل امنیتی به دولت گزارش داد. این غول تجارت الکترونیک 13 میلیارد دلار در آنتروپیک سرمایهگذاری کرده و میتواند 20 میلیارد دلار دیگر نیز سرمایهگذاری کند. آنتروپیک اخیراً 965 میلیارد دلار ارزشگذاری شده و در کنار اوپناِیآی به سرعت به سمت عرضه اولیه عمومی (IPO) پیش میرود.