پکن، ۳۱ ژوئیه (رویترز) - بر اساس بررسی رویترز از بیش از ۸۰ مقاله و پتنت دانشگاهی چینی، محققان نظامی چین از خروجیهای مدلهای پیشرو هوش مصنوعی آمریکایی که توسط OpenAI و Anthropic توسعه یافتهاند، برای آموزش سیستمهای هوش مصنوعی داخلی به منظور پیشبرد قابلیتهای دفاعی چین استفاده کردهاند.
این یافتههای که پیش از این گزارش نشده بودند، نگاهی نادر به چگونگی استفاده موسسات مرتبط با ارتش و امنیت در چین از مدلهای پیشرفته هوش مصنوعی آمریکایی به عنوان یک میانبر برای توسعه سیستمهای تخصصی خود، با وجود تلاشهای واشنگتن برای محدود کردن دسترسی پکن به تراشههای پیشرفته و سایر فناوریهای استراتژیک، ارائه میدهد.
اسناد نشان میدهند که استفاده گستردهای از تکنیکی به نام تقطیر مدل (model distillation) وجود دارد؛ در این روش، خروجیهای یک سیستم هوش مصنوعی قدرتمند برای آموزش مدلهای کوچکتر و تخصصی استفاده میشود که میتوانند به صورت محلی مستقر شوند، بدون نیاز به الزامات محاسباتی عظیم برای ساخت سیستمهای هوش مصنوعی پیشرفته از ابتدا.
بررسی رویترز، که شامل تحقیقات گردآوری شده توسط بنیاد جیمزتاون (Jamestown Foundation) مستقر در واشنگتن بود و به طور انحصاری با این خبرگزاری به اشتراک گذاشته شد، نشان داد که تقطیر به طور گسترده توسط محققان مرتبط با ارتش آزادیبخش خلق و سایر موسسات نظامی استفاده میشود.
این مقالات نشان میدهند که موسسات دفاعی چین، مدلهای پیشرو هوش مصنوعی آمریکا را هم به عنوان منبعی برای بینش فنی و هم راهی برای کاهش شکاف با رقبای آمریکایی میبینند.
این اختلاف بر سر استخراج غیرمجاز است، نه خود تقطیر، که یک روش صنعتی پرکاربرد است.
این موضوع به عنوان یک نقطه اشتعال مهم پیش از مذاکرات ایالات متحده و چین در مورد حکمرانی و ایمنی هوش مصنوعی مطرح شده است. مقامات آمریکایی برخی از نهادهای چینی را متهم کردهاند که از تقطیر برای استخراج قابلیتها از مدلهای هوش مصنوعی آمریکایی استفاده میکنند، که به طور بالقوه کنترلهای صادراتی را تضعیف کرده و حقوق مالکیت فکری را نقض میکند.
چین این اتهامات را رد کرده و میگوید واشنگتن به دنبال هژمونی هوش مصنوعی است، در حالی که استدلال میکند شرکتهای آمریکایی نیز درگیر اقدامات مشابهی بودهاند.
توسعهدهندگان چینی نیز ادعاهایی مبنی بر اتکای پیشرفتهای هوش مصنوعی آنها به مدلهای خارجی را رد کردهاند. شرکت نوپای هوش مصنوعی Moonshot هفته گذشته اتهامات دولت ترامپ مبنی بر ساخت مدل Kimi K3 خود با استفاده از تقطیر را رد کرد و گفت که این مدل بر اساس نوآوریهای اختصاصی ساخته شده است.
سانی چئونگ، پژوهشگر بنیاد جیمزتاون که بیش از ۶۰ مقاله را تحلیل کرده است، گفت که دانشمندان نظامی چینی به طور سیستماتیک مراحل استدلال مدلهای غربی را برای انطباق آنها با نظارت، جنگ سایبری و تصمیمگیریهای تاکتیکی ثبت میکنند.
چئونگ اظهار داشت: «آموزش پاسخ صحیح به یک مدل یک چیز است، اما آموزش استدلال پشت آن پاسخ بسیار دشوارتر است.»
این مقالات نشان میدهند که محققان مرتبط با ارتش چین در تلاشند تا آن استدلال گرانقیمت و اختصاصی را از مدلهای غربی به سیستمهای کوچکتری منتقل کنند که میتوانند آنها را کنترل و به صورت محلی مستقر کنند.
رویترز ادبیات دانشگاهی را تأیید کرد و دو دوجین مطالعه موردی دیگر مرتبط با ارتش را شناسایی کرد.
یک مقاله که سال گذشته توسط محققان واحد ۹۶۹۴۱ ارتش آزادیبخش خلق، یک واحد اطلاعات نظامی و جنگ سایبری در پکن، منتشر شد، استفاده از GPT-3.5 شرکت OpenAI را برای پردازش کدهای منبع نظامی حساس توصیف کرد.
محققان گفتند که مدلهای شخص ثالث برای رسیدگی به اطلاعات طبقهبندی شده مناسب نیستند. برای غلبه بر این محدودیت، آنها از GPT-3.5 برای خلاصهسازی کدهای نرمافزاری استفاده کردند و یک مدل داخلی را بر اساس آن خلاصهها آموزش دادند تا به طور کامل در شبکههای نظامی چین اجرا شود.
کاخ سفید، پنتاگون، وزارت خارجه چین، ارتش آزادیبخش خلق و OpenAI به درخواستها برای اظهار نظر پاسخ ندادند.
بررسی رویترز و بنیاد جیمزتاون از این مقالات نشان داد که محققان چینی از تقطیر برای اهدافی از نظارت بر محتوا تا استقرار نظامی استفاده کردهاند.
در دانشگاه شمال چین، که ارتباط نزدیکی با صنعت تسلیحات این کشور دارد، محققان از Claude 3 Haiku شرکت Anthropic برای تولید دادههای آموزشی مصنوعی برای یک مدل طبقهبندی متن به منظور نظارت بر رسانههای اجتماعی و تعدیل محتوا استفاده کردند.
شرکت Anthropic اعلام کرد که دسترسی تجاری به Claude را در چین یا به شرکتهای تحت کنترل پکن ارائه نمیدهد و از سیستمهای نظارتی برای شناسایی نقض سیاستها استفاده میکند.
این شرکت افزود که مدلهای تقطیر شده ممکن است محافظتهای ایمنی سیستمهای اصلی را از دست بدهند، که به طور بالقوه امکان انتقال قابلیتهای حساس را به مدلهای خارج از کنترل آن فراهم میکند.
یک مقاله در سال ۲۰۲۴ از دانشگاه ملی فناوری دفاعی ارتش آزادیبخش خلق، استفاده از تقطیر را برای کوچکسازی یک مدل پردازش تصویر به منظور استقرار در وسایل نقلیه هوایی بدون سرنشین (پهپادها) توصیف کرد، که به پهپادها اجازه میدهد ویدئوهای زنده را تحلیل کرده و از تصمیمات ناوبری و هدفگیری در زمان واقعی، حتی در صورت قطع ارتباطات، پشتیبانی کنند.
به طور مشابه، یک مطالعه که اوایل سال جاری منتشر شد، نشان داد که محققان آکادمی علوم نظامی چین از تقطیر برای اجرای یک مدل شناسایی هدف بر روی سختافزارهای تاکتیکی در طول عملیات دریایی شبیهسازی شده با استفاده از پهپادها، کشتیها و زیردریاییهای بدون سرنشین استفاده کردند.
چین تقطیر را پذیرفته است زیرا به دنبال رقابت با ایالات متحده در هوش مصنوعی پیشرفته است، در حالی که به دلیل کنترلهای صادراتی واشنگتن بر تراشههای پیشرفته، با محدودیتهایی در منابع محاسباتی پیشرفته مواجه است. دولتهای مرکزی و محلی، سبکسازی مدل و محاسبات لبه (edge computing) را ترویج کردهاند و یارانهها و بودجه تحقیقاتی را به سمت فناوریهایی هدایت میکنند که مدلهای هوش مصنوعی را قادر میسازند تا بر روی پهپادها، ماهوارهها و سایر دستگاهها با قدرت پردازش محدود اجرا شوند.
با این حال، کارشناسان هشدار میدهند که تقطیر محدودیتهای قابل توجهی دارد.
همزمان با کاهش شکاف بین مدلهای هوش مصنوعی چینی و همتایان آمریکایی آنها، محققان نظامی نیز تقطیر را به عنوان یک خطر امنیتی بالقوه بررسی میکنند.
در ژانویه، محققان دانشگاه مهندسی ارتش مقالهای درباره تهدید تقطیر بدون داده (data-free distillation) منتشر کردند، روشی برای مهندسی معکوس قابلیتهای یک مدل بدون دسترسی مستقیم به پارامترهای اصلی آن.
برای مقابله با این آسیبپذیری، آنها مکانیسمهای دفاعی را پیشنهاد کردند که برای پنهان کردن اطلاعات منطقی پنهان شده در خروجیهای عمومی یک مدل طراحی شدهاند.
مدلهای تقطیر شده نیز تنها قابلیتهای منتخب را به ارث میبرند و نمیتوانند هوش گسترده سیستمهای پیشرفته را به طور کامل تکرار کنند.
ترور کوورکو، یکی از بنیانگذاران شرکت دادههای هوش مصنوعی Sapien، گفت که مدلهای تقطیر شده همچنان کمتر از مدلهای معلم خود توانمند هستند.
بهترین درک از آن، انتقال قابلیتهای منتخب به یک سیستم ارزانتر و تحت کنترل محلی است، نه دستیابی به استقلال از هوش مصنوعی پیشرفته.
گزارش از ادواردو باپتیستا؛ ویرایش توسط میونگ کیم و شری ناواراتنام