نکات کلیدی
- شرکت آنتروپیک پیبیسی به دنبال حل مناقشهای تازه با دولت ترامپ بر سر امنیت هوش مصنوعی است که این شرکت را وادار کرد دسترسی جهانی به دو مدل پیشرفته هوش مصنوعی خود را غیرفعال کند.
- کارکنان ارشد فنی آنتروپیک با مقامات دولت در وزارت بازرگانی دیدار کردند تا نگرانیهای امنیت ملی مطرح شده توسط دولت را مورد بحث قرار دهند.
- دولت ترامپ به آنتروپیک دستور داد تا دسترسی اتباع خارجی به مدلهای Fable 5 و Mythos 5 این شرکت را متوقف کند، که آنتروپیک نیز با غیرفعال کردن دسترسی به این دو مدل از آن تبعیت کرد.
شرکت آنتروپیک پیبیسی به دنبال حل مناقشهای تازه با دولت ترامپ بر سر امنیت هوش مصنوعی است که این شرکت را وادار کرد دسترسی جهانی به دو مدل پیشرفته هوش مصنوعی خود را غیرفعال کند.
به گفته یک فرد آگاه از برنامهریزیها، کارکنان ارشد فنی آنتروپیک روز دوشنبه با مقامات دولت در وزارت بازرگانی دیدار کردند تا نگرانیهای امنیت ملی مطرح شده توسط دولت را مورد بحث قرار دهند. فوراً مشخص نشد که کدام مقامات دولتی در این مذاکرات شرکت داشتند.
سخنگوی آنتروپیک پس از این جلسه اظهار داشت که هر دو طرف به سرعت برای رسیدن به راهحل تلاش میکنند. سخنگویان وزارت بازرگانی فوراً به درخواستها برای اظهار نظر پاسخ ندادند.
این گفتگوها چند روز پس از آن صورت میگیرد که دولت ترامپ به آنتروپیک دستور داد تا دسترسی اتباع خارجی به مدلهای پیشرفته Fable 5 و Mythos 5 این شرکت را متوقف کند. سخنگوی شرکت گفت که از آن زمان تاکنون، نمایندگان آنتروپیک جلسات مجازی متعددی با مقامات آمریکایی در مورد مسائل امنیتی خاص برگزار کردهاند.
این دستور که اواخر بعدازظهر جمعه از وزارت بازرگانی به آنتروپیک ارسال شد، مهمترین مداخله دولت ایالات متحده در عملیات یک شرکت هوش مصنوعی تا به امروز را نشان میدهد. این چالش جدیدی برای آنتروپیک ایجاد میکند، تنها چند هفته پس از آنکه این شرکت به صورت محرمانه درخواست عرضه اولیه سهام خود را ثبت کرد و آخرین ارزشگذاری آن به بیش از ۹۰۰ میلیارد دلار رسید.
در پستی که آنتروپیک اواخر روز جمعه در وبسایت خود منتشر کرد، این شرکت اعلام کرد که با دستورالعمل ایالات متحده مبنی بر غیرفعال کردن دسترسی به دو مدل، موافقت کرده است. این شرکت گفت که معتقد است دولت ایالات متحده این دستور را پس از کشف امکان «جیلبریک» یا دور زدن محدودیتهای Fable 5 صادر کرده است؛ نسخهای که به تازگی از Mythos منتشر شده و آنتروپیک از انجام وظایف امنیت سایبری توسط آن جلوگیری کرده بود.
آنتروپیک در پست خود بیان کرد: «ما موافق نیستیم که یافتن یک پتانسیل محدود برای جیلبریک باید دلیلی برای فراخوانی یک مدل تجاری باشد که برای صدها میلیون نفر استفاده میشود. اگر این استاندارد در سراسر صنعت اعمال شود، معتقدیم که اساساً تمام استقرار مدلهای جدید برای همه ارائهدهندگان مدلهای پیشرو متوقف خواهد شد.»
آنتروپیک که یک شرکت خصوصی است و مدتهاست خود را به عنوان توسعهدهندهای مسئولیتپذیرتر در زمینه هوش مصنوعی معرفی کرده، اولین بار مدل Mythos خود را در ماه آوریل با گروه بسیار محدودی از شرکتها و مؤسسات به اشتراک گذاشت و هشدار داد که توانایی آن در یافتن آسیبپذیریهای امنیت سایبری، توزیع گستردهتر آن را بسیار پرخطر میکند.
هفته گذشته، این شرکت Fable 5 را به عنوان اولین نسخه عمومی مدل کلاس Mythos خود، اما با محدودیتهایی با هدف مهار کامل قابلیتهای سایبری آن، منتشر کرد.
ایهام بوشر، مدیر اجرایی استراتژی و نوآوری هوش مصنوعی در دانشگاه کرنل، میگوید که این بحث به عنوان یک درخواست ساده از آنتروپیک برای «رفع محدودیتها» و سپس برداشتن ممنوعیت Fable 5 مطرح میشود، اما این رویکرد، دشواری حل یک مشکل بسیار فنی را دست کم میگیرد.
بوشر گفت: «توصیف این موضوع به عنوان درخواستی برای 'رفع محدودیتها' مشکل را بسیار سادهتر از آنچه هست نشان میدهد. این چارچوب فرض میکند که جیلبریک مدلها یک مشکل فنی حل شده است و آنتروپیک صرفاً محدودیتها را به اشتباه پیادهسازی کرده است. مقاومت در برابر جیلبریک مانند وصله کردن یک باگ نرمافزاری معمولی نیست.»
افشاگریهای آنتروپیک درباره Mythos به تسریع تلاشهای دولت ترامپ در زمینه سیاست هوش مصنوعی کمک کرد که در اوایل این ماه با فرمان اجرایی رئیسجمهور دونالد ترامپ، که خواستار بررسیهای داوطلبانه مدلهای پیشرفته هوش مصنوعی بود، به اوج خود رسید. آن فرمان صراحتاً اعلام کرده بود که هیچ چیز در آن نباید به منزله ایجاد یک رژیم مجوز اجباری تفسیر شود.
دستور روز جمعه وزارت بازرگانی به آنتروپیک برای توقف دسترسی اتباع خارجی، سطح جدیدی از عدم اطمینان را برای شرکتها و دولتهای متحد که به دنبال انطباق با سیاستهای دولت هستند، افزود. جوئل پینو، مدیر ارشد هوش مصنوعی در شرکت کوهیر (Cohere Inc.)، یک توسعهدهنده هوش مصنوعی مستقر در کانادا، گفت: «بدیهی است که اخبار چند روز گذشته، زنگ بیدارباش بزرگی برای دیگران در سراسر صنعت است.»
پینو در مصاحبهای با بلومبرگ تلویزیون در روز دوشنبه گفت: «این واقعیت که مدلهایی که چند روز قبل به عنوان برخی از تواناترینها در صنعت معرفی میشدند، ناگهان دیگر قابل دسترسی نیستند، به این معناست که میتواند نوسانات زیادی در دسترسی به این فناوری وجود داشته باشد. این باید نگرانی بزرگی برای شرکتها باشد.»
این مناقشه، آخرین رویارویی بین دولت و این شرکت را نشان میدهد. آنتروپیک ماههاست که درگیر درگیری با پنتاگون بر سر محدودیتهای اضافی است که این شرکت برای استفاده نظامی از ابزارهای هوش مصنوعی خود درخواست کرده بود. پس از شکست مذاکرات قرارداد، وزارت دفاع در ماه مارس این شرکت را به عنوان یک خطر زنجیره تأمین اعلام کرد و در حال اقدام برای یافتن ارائهدهندگان هوش مصنوعی دیگر برای نیروهای مسلح است.