این گزارش اطلاعاتی که در بهار امسال در اوج جنگ با ایران در سراسر ارتش آمریکا توزیع شد، بلافاصله زنگ خطر را به صدا درآورد: یک کشتی چینی در خاورمیانه در حال حمل اجزای برنامه سلاحهای هستهای بود.
به گفته چهار منبع آگاه به این ماجرا، ارتش آمریکا با طرحهایی برای رهگیری این کشتی وارد عمل شد. طبق گفته دو مورد از این منابع، اعضای مسلح ارتش آمریکا در حال آمادهسازی برای سوار شدن بر کشتی بودند. یکی از این منابع و منبع دیگری که از این حادثه آگاه بود، گفت که هواپیماهای نظامی نیز در آسمان بودند.
تنها درست پیش از عملیات برنامهریزی شده بود که مقامات تحقیقات عمیقتری روی گزارشی که توسط یک تحلیلگر فرماندهی عملیات ویژه تهیه شده بود، انجام دادند و دریافتند که این گزارش با کمک هوش مصنوعی (AI) تولید شده است — و اینکه یک چتبات که تحلیلگر از آن استفاده کرده بود، مواد موجود در کشتی را به طور نادرست شناسایی کرده بود. سیانان نتوانست مشخص کند که محموله اشتباهاً شناسایی شده چه بوده است.
به گفته یکی از منابع، این گزارش «کاملاً نادرست» بود. اما این منبع افزود که این گزارش همچنین «تقریباً جنگی را آغاز کرد». هرگونه عملیات آمریکا علیه یک کشتی چینی میتوانست خطر تبدیل شدن به یک درگیری مسلحانه بین دو کشور را به همراه داشته باشد.
در سراسر ارتش آمریکا و جامعه اطلاعاتی، مقامات در حال فشار آوردن برای ادغام هوش مصنوعی در تقریباً تمام جنبههای کار خود هستند؛ از تجزیه و تحلیل حجم عظیم اطلاعات خام جمعآوری شده توسط آمریکا و انتخاب اهداف برای حملات گرفته تا کاربردهای معمولیتر مانند مدیریت بودجه، لجستیک و زنجیره تأمین.
اما این حادثه ریسکهای عمیق استفاده از این فناوری قدرتمند، جدید و نسبتاً کمشناخته را برای هدفگیری در اواسط جنگ برجسته میکند. تحلیلگران سالهاست که میترسند اگر دولتها به دادههای ضعیف یا آلوده تکیه کنند، هوش مصنوعی ممکن است منجر به یک محاسبه غلط فاجعهبار شود — نوعی محاسبه غلط که ممکن است ایالات متحده را بر اساس اطلاعات نادرست به شلیک به سمت یک کشتی چینی بکشاند.
در این مورد خاص، تحلیلگر از یک چتبات درباره برخی گزارشهای اطلاعاتی مربوط به مانیفست (Manifest) کشتی پرسید که منشأ آن فرماندهی عملیات ویژه آمریکا در منطقه اقیانوس آرام، مستقر در هاوایی بود. مشخص نبود که آیا چتبات یک محصول تجاری در دسترس عموم بوده یا یک محصول دولتی آمریکا.
«ابزارهای داخلی عمدتاً فقط نسخههایی از محصولات تجاری هستند که آرایش زدهاند»، به گفته یک مقام ارشد سابق آمریکایی که با سیستمهای هوش مصنوعی مورد استفاده تحلیلگران نظامی و اطلاعاتی آشناست.
این ربات اطلاعات منبع باز را با اطلاعات سیگنالی مخفی در اختیار دولت ترکیب کرد و به نتیجه سرنوشتساز خود درباره موادی که کشتی حمل میکرد، رسید.
سپس تحلیلگر دوباره از هوش مصنوعی استفاده کرد تا یافتهها را در قالب یک گزارش اطلاعاتی استاندارد — نوعی که مورد اعتماد مقامات نظامی است — بستهبندی کند و آن را منتشر نماید.
فرماندهی عملیات ویژه آمریکا در منطقه اقیانوس آرام و پنتاگون به درخواست برای اظهار نظر پاسخ ندادند.
دلیل اصلی پذیرش سریع هوش مصنوعی این است که میتواند به ارتش کمک کند تا تصمیمات میدان نبرد، مانند اینکه کدام اهداف را مورد حمله قرار دهد یا کدام داراییهای نظامی را به کجا منتقل کند، سریعتر اتخاذ کند. مقامات میگویند آمریکا نمیتواند در ادغام هوش مصنوعی عقب بماند، زیرا ممکن است روزی مجبور به جنگیدن با چین یا دشمن دیگری شود که احتمالاً توانایی یک قدم جلوتر بودن از آمریکا را دارد.
در ماه ژانویه، پیت هیگست (Pete Hegseth)، وزیر جنگ، «استراتژی تسریع هوش مصنوعی» سازمان خود را برای تسریع استفاده ارتش از هوش مصنوعی منتشر کرد.
«ما آزمایشگری را آزاد خواهیم کرد، موانع بوروکراتیک را حذف خواهیم کرد، سرمایهگذاریهای خود را متمرکز خواهیم کرد و رویکرد اجرایی لازم را برای اطمینان از پیشرو بودن ما در هوش مصنوعی نظامی نشان خواهیم داد»، هیگست در سخنانی هنگام اعلام این استراتژی گفت.
این استراتژی همچنین استفاده گسترده از آن را در سراسر ارتش ترویج میکند و دستور میدهد که وزارتخانه هوش مصنوعی را از طریق چندین برنامه در دسترس قرار دهد با هدف «دموکراتیزه کردن آزمایش و تحول هوش مصنوعی در سراسر وزارتخانه با قرار دادن مدلهای هوش مصنوعی پیشرو جهان آمریکا مستقیماً در اختیار سه میلیون پرسنل غیرنظامی و نظامی ما، در تمام سطوح طبقهبندی»، طبق یادداشتی که این استراتژی را اعلام میکرد.
اما به گفته چندین مقام آمریکایی آشنا با این روند، این تلاش غیرمتمرکز است و بخشهای مختلف دولت از ابزارهای متفاوت تحت دستورالعملها و استانداردهای ایمنی مختلف استفاده میکنند. هیچ مجموعه استانداردی واحد برای نحوه راستیآزمایی اطلاعات تولید شده توسط این ابزارها وجود ندارد. مجموعهای از سیستمهای مختلف هوش مصنوعی که توسط گوشههای مختلف ارتش و جامعه اطلاعاتی استقرار مییابند، به این معنی است که قابلیت اطمینان و عملکرد نسبی به شدت متفاوت است.
برای هفتهها، سیاستگذاران واشنگتن پس از مجموعهای از هشدارهای جدی از سوی مهندسان سیلیکون ولی و مدیران عامل شرکتهای فناوری درباره احتمال فرار هوش مصنوعی از محدودیتهای انسانی با پیامدهای احتمالی پایان تمدن، به شدت درباره هوش مصنوعی بحث میکنند.
اما حادثه کشتی چینی ریسک متفاوت و فوریتری را برجسته میکند: انسانهایی که تصمیمات فاجعهبار را بر اساس اطلاعات نادرست یا گمراهکننده تولید شده توسط هوش مصنوعی یا سایر سیستمهای خودکار اتخاذ میکنند. منابع گفتند که ارتش به سرعت به هوش مصنوعی برای کمک در هدفگیری روی آورده است، حوزهای که خطر آشکار خطاهای مرگبار را در خود جای داده است.
«هوش مصنوعی در هدفگیری قطعاً چیزی است که در حال افزایش است و هیچ راهنمای واقعی برای اینکه چگونه حضور انسان در حلقه تصمیمگیری میتواند از تلفات غیرنظامیان یا آتش دوستکشی (Fratricide) جلوگیری کند، وجود ندارد»، به گفته منبع دیگری که از سیاستهای فعلی ارتش آگاه است.
به گفته یکی از منابع، نوع «توهم» (Hallucination) که ابزاری که تحلیلگر در این مورد از آن استفاده کرد ایجاد کرده بود، از زمان گسترش این ابزارها در دولت، یک حادثه منفرد در جامعه اطلاعاتی نبوده است.
برای برخی از مقامات قدیمیتر اطلاعاتی — حتی کسانی که به طور کلی از استفاده از هوش مصنوعی در داخل ارتش حمایت میکنند — هوش مصنوعی فشار بر تحلیلگران را برای تولید و انتشار سریعتر اطلاعات افزایش داده و راه را برای اشتباهات باز کرده است. به گفته چندین منبع، به ویژه تحلیلگران جوان بومی این ابزارها هستند و بیشتر احتمال دارد بدون انتقاد به آنها اعتماد کنند.
«هوش مصنوعی به شما اجازه میدهد سریعتر به یک ایده بد برسید»، به گفته یکی از منابع.