یک شرکت چینی در تلاش است تا فناوری مبتنی بر هوش مصنوعی را توسعه دهد که دولتهای خودکامه را قادر میسازد نه تنها مخالفان را زیر نظر بگیرند، بلکه به طور بالقوه پیشبینی کنند چه کسی میتواند در آینده به یک مخالف تبدیل شود.
این کار که به نظر میرسد در مرحله پژوهش است، از دل داستانهای علمی تخیلی دیستوپیایی بیرون آمده و نگاهی اجمالی به دنیایی ارائه میدهد که در آن یک دولت خودکامه قادر است پیش از آنکه شهروندانش به مخالفت عمومی بپردازند، علیه آنها اقدام کند.
شرکت چینی Geedge Networks، نسخه تجاری فایروال بزرگ (Great Firewall) را میفروشد؛ نرمافزار نظارت و سانسور که چین برای کنترل فعالیتهای آنلاین از آن استفاده میکند. این ابزارها به دولتها اجازه میدهند ترافیک اینترنت را رصد کرده و زمانی که کسی تلاش میکند سانسور سنتی اینترنت را دور بزند، علامتگذاری کنند.
اما طبق گزارش پژوهشگران دانشگاه وندربیلت، بر اساس اسناد فاش شده شرکت، این شرکت در حال کار بر روی محصولات جدیدی است که از هوش مصنوعی برای بررسی دادههای مکانی و استفاده از اینترنت برای پیشبینی اینکه چه کسی ممکن است کاری انجام دهد یا چیزی انتقادی علیه دولت بگوید، استفاده میکنند.
چنین فناوریای، اگر کامل شود، ابزاری قدرتمند برای دولتهای خودکامه خواهد بود تا علیه دشمنان فرضی خود استفاده کنند.
ایده اینکه یک دولت خودکامه از هوش مصنوعی برای سرکوب مخالفان استفاده کند، به اندازه کافی نگرانکننده است. اما استفاده از هوش مصنوعی برای پیشبینی مخالفتها، پیش از آنکه فرد اقدامی انجام دهد، به یک سناریوی کابوسوار برای برخی از فعالان این صنعت تبدیل شده است.
برت جی. گلدستاین، مدیر آزمایشگاه مشکلات پیچیده (Wicked Problems Lab) در موسسه امنیت ملی وندربیلت، گفت: «این همان چیزی است که وقتی نظارت گسترده با هوش مصنوعی ترکیب میشود، رخ میدهد. بدون نظارت و توازن، آنچه چین با شهروندان خود میکند، پیشنمایشی از چیزی است که در هر کجای دیگر که این ابزارها بدون کنترل رها شوند، ممکن میشود.»
پژوهشگران وندربیلت دریافتند که Geedge، با همکاری بازوی تحقیقاتی مورد حمایت دولت خود، آزمایشگاه MESA، در حال توسعه فناوریای است که پروفایلهایی از شهروندان چینی ایجاد کرده و سپس از هوش مصنوعی برای برجسته کردن افرادی که ممکن است یک خطر سیاسی ایجاد کنند، استفاده میکند.
اما به نظر میرسد پیشرفت این شرکت توسط کنترلهای صادراتی دوران بایدن بر تراشههای رایانهای با طراحی آمریکایی که قدرت هوش مصنوعی را تامین میکنند، با مشکل مواجه شده است. این نشان میدهد که محدودیتهای آمریکا ممکن است توسعه نسل بعدی فناوری نظارت در چین را کند کرده باشد.
اسناد Geedge نشان میدهد که در سال 2024، زمانی که کنترلهای صادراتی سختگیرانه آمریکا بر چین اعمال شده بود، این شرکت و آزمایشگاه آن برای یافتن قدرت محاسباتی کافی برای فناوری نظارت با مشکل مواجه بودند.
برت وی. بنسون، استاد علوم سیاسی در وندربیلت، گفت که اسناد به محدودیتهای GPU اشاره دارند. GPUها — واحدهای پردازش گرافیکی — تراشههایی هستند که مدلهای هوش مصنوعی را قدرت میبخشند. او گفت که در نتیجه این محدودیتها، شرکت شروع به استفاده از مدلها و تراشههای هوش مصنوعی قدیمیتر و کمقدرتتر کرد.
امروزه، Geedge به گفته مقامات آمریکایی، به اندازه کافی واحدهای پردازش گرافیکی برای محصولات فعلی خود دسترسی دارد. اما به گفته این مقامات، برای اجرای جاهطلبانهترین نسخه از فناوری پیشبینی خود، این شرکت احتمالاً به تراشههای پیشرفتهتری نیاز خواهد داشت که چین نمیتواند آنها را تهیه کند.
مقامات سابق دولت بایدن گفتند که اطلاعات نشان میدهد سیاستهای آنها در محدود کردن دسترسی چین به تراشههای پیشرفته با طراحی آمریکایی، در حفظ برتری هوش مصنوعی آمریکا و کند کردن توسعه سایر فناوریهای چینی موفق بوده است.
اما اینکه آیا کنترلهای صادراتی آمریکا توسعه استفادههای سرکوبگرانهتر چین از هوش مصنوعی را کند خواهد کرد یا خیر، یک سوال باز است.
دولت ترامپ برخی از کنترلهای صادراتی دوران بایدن را تضعیف کرده و محدودیتها را بر پیشرفتهترین پردازندههای شرکت انویدیا (Nvidia)، شرکت آمریکایی که قدرتمندترین تراشههای هوش مصنوعی جهان را طراحی میکند، حفظ کرده است. مقامات آمریکایی گفتند که در سفر اخیر رئیسجمهور ترامپ به پکن، چین به نسخه پیشرفتهتری از تراشههای انویدیا دسترسی خواهد داشت.
اما چین در تلاش است تا شرکتهای هوش مصنوعی خود را از وابستگی به تراشههای با طراحی آمریکایی رها کند، تا کنترلهای صادراتی دیگر نتوانند جاهطلبیهای آنها را محدود کنند.
پروفایلسازی منتقدان آینده
اطلاعات جدید از انبوهی از دادهها، از جمله 100,000 سند از Geedge که در سپتامبر گذشته منتشر شده بود، به دست آمده است. با کار بر روی این اسناد، نشریه Wired و سایر رسانهها نشان دادهاند که چگونه Geedge نرمافزار امنیت شبکه خود را به کشورهایی از جمله اتیوپی، قزاقستان، میانمار و پاکستان صادر کرده و آنها را قادر ساخته تا نظارت گسترده بر شبکههای موبایل را انجام دهند.
پژوهشگران وندربیلت با بررسی دقیق این اسناد، نه بر فناوریای که Geedge میفروخت، بلکه بر نسل بعدی فناوری که در تلاش برای توسعه آن بود، و همچنین محدودیتهایی که میتوانستند مانع از اجرای این استراتژی شوند، تمرکز کردند.
بر اساس اسناد Geedge، در ماههای اول سال 2024، پژوهشگران شرکت در حال توسعه پروفایلهای رفتاری افراد بر اساس دادههای مخابراتی، رسانههای اجتماعی و موقعیت مکانی بودند. مدلهای هوش مصنوعی برای طبقهبندی افراد و "کشف اطلاعات مضر" استفاده میشدند، که اغلب اصطلاحی مبهم است که توسط حزب کمونیست چین برای شناسایی مخالفتهای سیاسی یا سایر مطالبی که دولت میخواهد سرکوب کند، به کار میرود.
طبق صورتجلسه یک جلسه در 5 فوریه 2024، پژوهشگران درباره چگونگی ساخت پروفایلهایی از افراد برای "شناسایی هدف آنها" و "دستیابی به کشف اطلاعات مضر" بحث کردند.
پژوهشگران Geedge به نظر میرسد در حال توسعه ابزارهایی بودند که از هوش مصنوعی برای پیشبینی افرادی که میتوانند بر اساس الگوهای داده جمعآوری شده توسط فناوری نظارتی شرکت، به منتقدان دولت چین تبدیل شوند، استفاده کنند.
آقای بنسون گفت: «تیم تحقیقاتی Geedge بیش از صرفاً مستندسازی الگوهای رفتاری را انجام میداد. آنها تلاش میکردند پیشبینی کنند شهروندان ممکن است در آینده چه کاری انجام دهند و با چه کسی. این انبوه دادهها در مورد مواد معمولی، مواد خام برای ایجاد پروفایلهایی است که تعیین میکند شما کی هستید و در آینده چه خواهید کرد.»
Geedge به درخواست برای اظهار نظر پاسخ نداد.
اسناد نشان میدهد که تیم شرکت در حال کار برای پیوند دادن حرکات فیزیکی با سایر فعالیتهای آنلاین، از جمله فیلمهایی که افراد تماشا میکردند و کتابهایی که میخواندند، بود.
تحقیقات Geedge از جهاتی شبیه به کارهای شرکت چینی دیگری با روابط دولتی به نام GoLaxy بود. سال گذشته، وندربیلت و نیویورک تایمز تلاشهای GoLaxy را برای توسعه نرمافزار مبتنی بر هوش مصنوعی که تبلیغات هدفمند — مضامین مورد حمایت دولت چین و علیه دیدگاههایی که پکن با آنها مخالف بود — را ترویج میداد، تشریح کردند.
از برخی جهات، کار Geedge همچنین فیلم «گزارش اقلیت» (Minority Report) محصول 2002 را تداعی میکند، که در آن دولت پیشبینی میکند چه کسی ممکن است جرمی مرتکب شود و یک واحد پلیس تخصصی برای دستگیری افراد پیش از وقوع تخلف اقدام میکند. با وجود اینکه "پیششناسان" (precogs) در فیلم که آینده را پیشبینی میکنند، بیخطا تلقی میشدند، اما شخصیت اصلی، که تام کروز نقش آن را بازی میکند، به اشتباه به قتل متهم میشود.
چین سالهاست که فناوری نظارت پیشبینیکننده را دنبال میکند. اما همانطور که اسناد Geedge نشان میدهد، مدلهای هوش مصنوعی توسعه چنین ابزارهایی را سرعت بخشیدهاند.
و Geedge نشان میدهد که فناوری پلیس پیشبینیکننده میتواند به زودی به یک صادرات چینی تبدیل شود.
تنظیم دقیق یک دولت نظارتی
در حالی که اسناد ماههای اخیر را پوشش نمیدهند، به گفته مقامات آمریکایی که به شرط ناشناس ماندن برای بحث در مورد ارزیابیهای حساس صحبت کردند، هیچ مدرکی وجود ندارد که Geedge فناوری پیشبینیکننده را نهایی یا مستقر کرده باشد.
اما مقامات اذعان کردند که شرکتهای چینی در حال کار بر روی چنین فناوریای برای تنظیم دقیق دولت نظارتی خود هستند. و به گفته کارشناسان و مقامات دولتی، دفاتر امنیت عمومی چین در حال تلاش برای استفاده از DeepSeek، مدل پیشرو هوش مصنوعی این کشور، برای پیگیری سایر فناوریهای پلیس پیشبینیکننده هستند.
مقامات آمریکایی گفتند که Geedge و سایر شرکتهای نظارتی چینی احتمالاً قدرت محاسباتی کافی برای ابزارهای نسل فعلی خود را دارند.
اما ابزارهای پیشبینیکننده، به ویژه اگر شرکت در نهایت تماسهای تلفنی رهگیری شده یا فیلمهای نظارتی را در خود جای دهد، ممکن است با محدودیتهای قدرت محاسباتی مواجه شوند.
مقامات آمریکایی گفتند که اگر این شرکت تلاش کند از این نوع جریانهای نظارتی برای پیشبینی تهدیدات امنیتی استفاده کند، سریعتر با محدودیتهای قدرت محاسباتی فعلی چین مواجه خواهد شد.
جیمی گودریچ، پژوهشگر ارشد در موسسه درگیری و همکاری جهانی دانشگاه کالیفرنیا، گفت: «سرویسهای امنیتی چین با حجم زیادی از دادهها سروکار دارند. آنها همزمان اطلاعات زیادی در اختیار دارند. ارزش واقعی هوش مصنوعی این است که میتوانند دادهها را دستهبندی کرده و تهدیدات را پیدا کنند. اما توانایی آنها برای مقیاسپذیری این کار به دسترسی آنها به قدرت محاسباتی بستگی دارد. این همان چیزی است که کنترلهای صادراتی را بسیار مهم میکند.»