«زمان آن رسیده است که از شفافیت فراتر رفته و به سوی مقررات جدیتر و الزامآورتر برای هوش مصنوعی حرکت کنیم.» این را داریو آمودی (تصویر)، مدیرعامل انتروپیک، یکی از آزمایشگاههای برجسته هوش مصنوعی، در ۱۰ ژوئن نوشت. شرکت او به تازگی فیبل (Fable) را منتشر کرده بود؛ نسخهای محدود شده از مدل زبان بزرگ (LLM) پیشرو جهانش، میتوس (Mythos)، که میتوانست کارهای خطرناکی از جمله عملیات هک فوقالعاده انجام دهد. اتفاقی که در ۱۲ ژوئن رخ داد، آن چیزی نبود که او منظور داشت. برای دومین بار در چهار ماه، دولت ترامپ در اواخر بعدازظهر جمعهای، بمبی را در انتروپیک منفجر کرد.
دولت ترامپ، با استناد به نگرانیهای امنیت ملی، به این شرکت دستور داد تا از دسترسی هر غیرآمریکایی، از جمله کارکنان خودش، به جدیدترین مدلهای فیبل ۵ و میتوس ۵ جلوگیری کند. در پاسخ، انتروپیک استفاده از این مدلها را به طور کامل به حالت تعلیق درآورد. این دستور، مانند تلاش ناموفق دولت در اواخر فوریه برای معرفی انتروپیک به عنوان یک خطر زنجیره تأمین، به طور ناگهانی و با توضیحات اندکی صادر شد. این اقدام شوکی را در جهان هوش مصنوعی و در میان متحدان آمریکا ایجاد کرد.
هر دو طرف در مورد وقایع منجر به این مداخله، اختلاف نظر دارند. طبق گزارشها، اندی جسی، مدیرعامل آمازون، غول تجارت الکترونیک که سهام بزرگی در انتروپیک دارد، به دولت ترامپ هشدار داده بود که نقایص امنیتی در فیبل ۵ پیدا کرده است که امکان «جیلبریک» (jailbreak) یا دور زدن موانع ایمنی را فراهم میکند که این مدل را کمتر از میتوس قدرتمند میسازد. دیوید ساکس، مشاور کاخ سفید، در پستی در پلتفرم X گفت که دولت از آقای آمودی خواسته بود که «جیلبریک را برطرف کند یا فیبل را از دسترس خارج سازد»، و اضافه کرد که «داریو نپذیرفته است».
یک منبع در انتروپیک گفت که به این شرکت دستور داده شده بود که دسترسی «اتباع خارجی» را به دلیل یک تهدید امنیت ملی نامشخص به مدلها مسدود کند. انتروپیک اندکی پس از آن، فعالیت این مدلها را متوقف کرد و نتیجه گرفت که این تنها راه برای پیروی از دستورالعمل است. این شرکت هیچ اشارهای به امتناع ادعایی آقای آمودی از رفع جیلبریک نکرد.
هنوز مشخص نیست که دولت بر اساس چه مبنای قانونی این تعلیق را اعمال کرده است. انتروپیک اعلام کرد که این مدلها تحت تأثیر یک دستورالعمل کنترل صادرات قرار گرفتهاند. چارلی بولاک، از مؤسسه حقوق و هوش مصنوعی، یک اندیشکده، حدس میزند که دولت از مقررات اداره صادرات وزارت بازرگانی استفاده کرده است که برای محدود کردن فروش تراشههای هوش مصنوعی به چین نیز به کار میرود.
اما هدف اصلی دولت شاید کنترل دسترسی خارجیها به مدلهای پیشرفته نبوده باشد. به نظر میرسد که از کنترلهای صادراتی به عنوان راهی مناسب برای هدف قرار دادن انتروپیک استفاده شده است. اگر چنین باشد، خارجیها ممکن است قربانیان جانبی یک مبارزه قدرت بین دولت ترامپ و یک سازنده مدل پیشرو باشند که رئیسجمهور دونالد ترامپ زمانی آن را یک «شرکت هوش مصنوعی رادیکال چپ کنترلناپذیر» توصیف کرده بود. در ۱۳ ژوئن، پیت هگست، وزیر جنگ آمریکا، با افتخار اعلام کرد که سه ماه پیش «انتروپیک را از پنتاگون بیرون انداخته» و افزود: «هر روز که میگذرد، ثابت میکند چرا آن تصمیم درست بود.»
یک سوال باقیمانده این است که تهدید جیلبریک واقعاً چقدر جدی بود. انتروپیک گفت که تکنیکهای مورد استفاده تنها «تعداد کمی از آسیبپذیریهای جزئی و قبلاً شناختهشده» را شناسایی کردهاند که مدلهای هوش مصنوعی رقیب نیز میتوانستند آنها را کشف کنند. منبع انتروپیک افزود که این شرکت با دولت در آزمایشهای پیش از انتشار همکاری کرده بود و مقامات قبلاً هیچ نگرانی امنیتی ملی را مطرح نکرده بودند. کیتی موسوریس، یک مرجع برجسته در زمینه آسیبپذیریهای نرمافزاری که مقاله آمازون را که باعث این جنجال شد، بررسی کرد، استدلال میکند که این تکنیکها عمدتاً با هدف کمک به مدافعان سایبری طراحی شده بودند. او گفت که رفع این آسیبپذیریها، مدل را برای دفاع سایبری کمتر مفید میساخت.
این قطع دسترسی یک نقطه عطف ژئوپلیتیکی است. این اقدام یادآور تصمیم آمریکا برای محدود کردن رمزنگاری کلید عمومی (Public-key cryptography)، فناوری مورد استفاده برای ایمنسازی ارتباطات دیجیتال، از دهه ۱۹۷۰ تا ۱۹۹۰ است. در آن زمان دولت استدلال میکرد که رمزنگاری شبیه به یک مهمات است؛ یک توسعهدهنده به دلیل نقض مقررات بینالمللی ترافیک اسلحه توسط FBI مورد تحقیق قرار گرفت. در نهایت، مدافعان آزادیهای مدنی پیروز شدند و حق استفاده، فروش و صادرات اکثر سیستمهای رمزنگاری را تضمین کردند.
رمزنگاری یک فناوری قدرتمند بود، اما در کاربرد خود محدود. هوش مصنوعی بسیار قدرتمندتر و همهکارهتر است. در ۱۱ ژوئن، مارک وارنر، نایب رئیس کمیته اطلاعات سنا، گفت که ژنرال جاشوا راد، که آژانس امنیت ملی و فرماندهی سایبری پنتاگون را رهبری میکند، به او گفته است که میتوس «تقریباً به تمام سیستمهای طبقهبندی شده ما، نه در عرض چند هفته، بلکه در عرض چند ساعت، نفوذ کرده است.»
هوش مصنوعی پیشرفته در جنبه دیگری نیز با رمزنگاری تفاوت دارد. در حالی که رمزنگاری در نهایت به طور گسترده در خارج از کشور در دسترس قرار گرفت، آمریکا امروز در هوش مصنوعی پیشتاز است. چین، که به دلیل کنترلهای تراشه آمریکا با مشکل مواجه است، احتمالاً حدود یک سال عقبتر است. این مزیت میتواند غیرقابل نفوذ شود اگر انتروپیک یا سایر آزمایشگاههای آمریکایی به خودبهبودی بازگشتی (RSI) دست یابند؛ جایی که مدلها نسخههای بهتری از خود مینویسند و بدین ترتیب پیشرفت را تسریع میکنند. بسیاری از افراد داخلی فکر میکنند که این امر کاملاً ممکن است.
بنابراین، یک تشبیه بهتر میتواند فناوری هستهای باشد، مقایسهای که محققان هوش مصنوعی را الهامبخش، شیفته و وحشتزده کرده است. در طول جنگ جهانی دوم، بریتانیا تحقیقات اولیه خود در مورد سلاحهای هستهای را با آمریکا به اشتراک گذاشت. اما در سال ۱۹۴۶، با پایان جنگ و اثبات پتانسیل هولناک بمب در ژاپن، کنگره قانون مکماهون را تصویب کرد که همکاری با تمام کشورهای خارجی – حتی نزدیکترین متحدان آمریکا – را قطع کرد. همکاری کامل بسیار بعدتر، پس از آنکه بریتانیا قبلاً نشان داده بود که میتواند بمب خود را توسعه دهد، از سر گرفته شد.
اکنون متحدان آمریکا دوباره دچار سرگیجه شدهاند. بسیاری از آنها ماهها را صرف تأمین دسترسی به میتوس برای ادارات دولتی، بانکها و شرکتها کرده بودند. این مجوزها یک شبه از بین رفت. این قطع دسترسی هیچ کس را مستثنی نمیکند، حتی شرکای آمریکا در ائتلاف اطلاعاتی فایو آیز (Five Eyes): استرالیا، بریتانیا، کانادا و نیوزلند. این کشورها قبلاً با انقضای اختیارات نظارتی کلیدی که کنگره اخیراً نتوانست تمدید کند، دست و پنجه نرم میکردند. از دست دادن دسترسی به میتوس آنها را در همان موقعیت روسیه، چین یا ایران قرار میدهد. مؤسسه امنیت هوش مصنوعی بریتانیا، نهاد پیشرو جهان برای آزمایش و جیلبریک کردن مدلهای جدید، نیز از دسترسی محروم شده است.
برخی از سیاستگذاران خارجی این حرکت را یک زنگ بیدارباش میدانند. تام تاگنهات، وزیر سابق امنیت بریتانیا، استدلال میکند: «پس از چنین درسی روشن، هر ملتی از خود خواهد پرسید که برای دستیابی به حاکمیت چه باید بکند.» اما اروپاییها و دیگر قدرتهای میانی در وضعیت دشواری قرار دارند، آنتون لایت از بنیاد کارنگی (یک اندیشکده) مینویسد: «فکر میکنید دولتی با رهبری ترامپ که همین الان از دسترسی شما به فیبل خودداری کرده است، اجازه میدهد به اندازه کافی تراشههای پیشرفته بخرید تا یک کلون نامحدود از فیبل را خودتان آموزش دهید؟»
یک مقام اطلاعاتی سابق بریتانیا میگوید که سازمانهای جاسوسی احتمالاً دوباره به میتوس دسترسی پیدا خواهند کرد؛ مذاکرات از قبل در جریان است. شرکتهای خصوصی ممکن است با دشواری بیشتری مواجه شوند. با این حال، برخی ناظران معتقدند که دولت آمریکا در نهایت مجبور به تسلیم خواهد شد. هلن تونر از مرکز امنیت و فناوریهای نوظهور دانشگاه جورج تاون میگوید: «متحدان شاید بتوانند با این واقعیت که این یک رویکرد کاملاً غیرقابل دفاع برای استفاده بلندمدت است، به دلیل تعداد خارجیها در شرکتهای هوش مصنوعی آمریکایی، تا حدی آرامش یابند. جلوگیری از دسترسی اتباع خارجی به مدلها اساساً معادل جلوگیری از انجام هرگونه کار تحقیق و توسعه هوش مصنوعی بیشتر توسط شرکتهای متأثر است.»
سیاست دولت نیز ممکن است بیاثر از آب درآید. سینتیا کایزر، یک مقام سابق در بخش سایبری FBI، میگوید که در بازار سیاه، هکرها میتوانند هویتهای آمریکایی را برای دسترسی به مدلهای هوش مصنوعی، و همچنین ابزارهایی برای جیلبریک کردن آنها، خریداری کنند. انتروپیک در حال حاضر استفاده از مدل کلود خود را در چین محدود کرده است، اما کاربران چینی همچنان با سهولت نسبی به آن دسترسی دارند.
آقای ترامپ در ماههای اخیر رویکردی گیجکننده در قبال سیاست هوش مصنوعی در پیش گرفته است. او بیشتر مقرراتی را که توسط دولت قبلی وضع شده بود، لغو کرد و بارها آنها را به تمسخر گرفت. او بعداً اجازه فروش تراشههای پیشرفته هوش مصنوعی به چین را داد. در آوریل، رویکرد عدم مداخله او در قبال ایمنی هوش مصنوعی زیر سوال رفت، زمانی که انتروپیک مدل میتوس پریویو (Mythos Preview) را تولید کرد، مدلی که این شرکت آن را چنان تهدیدی برای امنیت ملی میدانست که انتشار آن را به گروه کوچکی از مشتریان تأیید شده محدود کرد. در ۲ ژوئن، آقای ترامپ یک فرمان اجرایی صادر کرد که خواستار چارچوبی داوطلبانه بود که طبق آن آزمایشگاههای هوش مصنوعی پیشرفتهترین مدلهای خود را اندکی قبل از انتشار در اختیار دولت قرار دهند.
ماهیت ناگهانی و خودسرانه محدودیتهای دولت بر فیبل ۵ و میتوس ۵ با آن رویکرد همخوانی ندارد – و با نظارت پایدار و شفافی که آقای آمودی از آن دفاع کرده است، بسیار فاصله دارد. در تئوری، مرکز استانداردها و نوآوری هوش مصنوعی، یک نهاد دولتی که مدلهای پیشرفته را برای قابلیتهای خطرناک بررسی میکند، میتوانست به عنوان یک داور مستقل در چنین اختلافاتی عمل کند. اما در روزهای اخیر، دولت به این مرکز دستور داد که از انتشار گزارشهای عمومی خودداری کند. با تبدیل شدن دسترسی به هوش مصنوعی پیشرفته به یک مسئله امنیت ملی، مدیریت آمریکا در این زمینه به طور فزایندهای مبهم به نظر میرسد. ¦