اعتبار: جوآن وونگ
اعتبار: جوآن وونگ

نگرانی‌های اخلاقی در مورد آزمایش‌های هوش مصنوعی اسرائیل در جنگ غزه

اسرائیل ابزارهای هوش مصنوعی جدیدی را برای به دست آوردن مزیت در جنگ توسعه داد. این فناوری‌ها گاهی منجر به پیامدهای مرگبار شده‌اند.

در اواخر سال ۲۰۲۳، اسرائیل قصد داشت ابراهیم بیاری، یکی از فرماندهان ارشد حماس در شمال نوار غزه که در برنامه‌ریزی کشتارهای ۷ اکتبر نقش داشت را ترور کند. اما اطلاعات اسرائیل نتوانست آقای بیاری را پیدا کند، که معتقد بودند در شبکه تونل‌ها زیر غزه پنهان شده بود.

به گفته سه مقام اسرائیلی و آمریکایی مطلع از این رویدادها، افسران اسرائیلی به یک فناوری نظامی جدید تزریق شده با هوش مصنوعی روی آوردند. این فناوری یک دهه قبل توسعه یافته بود اما در نبرد استفاده نشده بود. یافتن آقای بیاری انگیزه جدیدی برای بهبود این ابزار فراهم کرد، بنابراین مهندسان در واحد ۸۲۰۰ اسرائیل، معادل آژانس امنیت ملی این کشور، به زودی هوش مصنوعی را در آن ادغام کردند.

اندکی پس از آن، اسرائیل به تماس‌های آقای بیاری گوش داد و ابزار صوتی هوش مصنوعی را آزمایش کرد، که یک مکان تقریبی برای جایی که او تماس‌های خود را برقرار می‌کرد ارائه داد. با استفاده از این اطلاعات، اسرائیل دستور حملات هوایی به منطقه را در ۳۱ اکتبر ۲۰۲۳ صادر کرد و آقای بیاری را کشت. به گفته ایروارز، یک ناظر درگیری مستقر در لندن، بیش از ۱۲۵ غیرنظامی نیز در این حمله جان باختند.

مجموعه‌ای از ساختمان‌های ویران شده با ابرهای دود در سمت راست.
حملات هوایی اسرائیل در نوار غزه در ۳۱ اکتبر ۲۰۲۳. ابراهیم بیاری، یکی از فرماندهان ارشد حماس، در حملات هوایی در آن روز کشته شد. اعتبار: Avishag Shaar-Yashuv برای نیویورک تایمز
Avishag Shaar-Yashuv برای نیویورک تایمز

به گفته نه مقام دفاعی آمریکایی و اسرائیلی که به شرط ناشناس ماندن صحبت کردند زیرا این کار محرمانه است، ابزار صوتی تنها یک نمونه از نحوه استفاده اسرائیل از جنگ در غزه برای آزمایش و استقرار سریع فناوری‌های نظامی پشتیبانی شده توسط هوش مصنوعی به درجه‌ای بود که قبلاً دیده نشده بود.

در ۱۸ ماه گذشته، اسرائیل همچنین هوش مصنوعی را با نرم‌افزار تشخیص چهره ترکیب کرده است تا چهره‌های تا حدی پنهان یا مجروح را با هویت‌های واقعی مطابقت دهد، به هوش مصنوعی روی آورده است تا اهداف بالقوه حملات هوایی را جمع‌آوری کند، و یک مدل هوش مصنوعی به زبان عربی ایجاد کرده است تا یک چت‌بات را تقویت کند که می‌تواند پیام‌های متنی، پست‌های رسانه‌های اجتماعی و سایر داده‌های زبان عربی را اسکن و تجزیه و تحلیل کند.

بسیاری از این تلاش‌ها مشارکت بین سربازان وظیفه در واحد ۸۲۰۰ و سربازان ذخیره که در شرکت‌های فناوری مانند گوگل، مایکروسافت و متا کار می‌کنند، بود. واحد ۸۲۰۰ آنچه را که به عنوان "استودیو" شناخته می‌شد، یک مرکز نوآوری و مکانی برای مطابقت دادن کارشناسان با پروژه‌های هوش مصنوعی، راه‌اندازی کرد.

با این حال، حتی با وجود اینکه اسرائیل برای توسعه زرادخانه هوش مصنوعی شتاب می‌گرفت، استقرار این فناوری‌ها گاهی منجر به شناسایی و دستگیری‌های اشتباه، و همچنین مرگ غیرنظامیان می‌شد. برخی از مقامات با پیامدهای اخلاقی ابزارهای هوش مصنوعی، که می‌تواند منجر به افزایش نظارت و سایر قتل‌های غیرنظامیان شود، دست و پنجه نرم کرده‌اند.

هیچ کشور دیگری به اندازه اسرائیل در آزمایش ابزارهای هوش مصنوعی در نبردهای بی‌درنگ فعال نبوده است و پیش‌نمایشی از نحوه استفاده از چنین فناوری‌هایی در جنگ‌های آینده و نحوه اشتباه پیش رفتن آنها ارائه می‌دهد.

هاداس لوربر، رئیس موسسه تحقیقات کاربردی در زمینه هوش مصنوعی مسئولانه در موسسه فناوری هولون اسرائیل و مدیر ارشد سابق در شورای امنیت ملی اسرائیل، گفت: «نیاز فوری به مقابله با بحران، نوآوری را تسریع کرد، که بیشتر آن با هوش مصنوعی تقویت شده بود. این منجر به فناوری‌های تغییر دهنده بازی در میدان نبرد و مزایایی شد که در نبرد حیاتی بود.»

اما این فناوری‌ها «سوالات اخلاقی جدی را نیز مطرح می‌کنند». خانم لوربر هشدار داد که هوش مصنوعی به بررسی و تعادل نیاز دارد و افزود که انسان‌ها باید تصمیمات نهایی را بگیرند.

سخنگوی ارتش اسرائیل گفت که به دلیل "ماهیت محرمانه" آنها نمی‌تواند در مورد فناوری‌های خاص اظهار نظر کند. اسرائیل "متعهد به استفاده قانونی و مسئولانه از ابزارهای فناوری داده است" و افزود که ارتش در حال بررسی حمله به آقای بیاری است و "تا زمان تکمیل تحقیقات قادر به ارائه اطلاعات بیشتر نیست."

متا و مایکروسافت از اظهار نظر خودداری کردند. گوگل گفت که "کارمندانی دارد که در کشورهای مختلف در سراسر جهان وظیفه ذخیره انجام می‌دهند. کاری که این کارمندان به عنوان نیروی ذخیره انجام می‌دهند به گوگل مرتبط نیست."

اسرائیل قبلاً از درگیری‌ها در غزه و لبنان برای آزمایش و پیشرفت ابزارهای فناوری برای ارتش خود، مانند پهپادها، ابزارهای هک تلفن و سیستم دفاعی گنبد آهنین، که می‌تواند به رهگیری موشک‌های بالستیک کوتاه برد کمک کند، استفاده کرده بود.

پس از اینکه حماس در ۷ اکتبر ۲۰۲۳ حملاتی را از مرز به اسرائیل انجام داد و بیش از ۱۲۰۰ نفر را کشت و ۲۵۰ گروگان گرفت، فناوری‌های هوش مصنوعی به سرعت برای استقرار پاکسازی شدند. این منجر به همکاری بین واحد ۸۲۰۰ و سربازان ذخیره در "استودیو" برای توسعه سریع قابلیت‌های جدید هوش مصنوعی شد.

آوی هاسون، مدیر اجرایی Startup Nation Central، یک سازمان غیرانتفاعی اسرائیلی که سرمایه‌گذاران را با شرکت‌ها متصل می‌کند، گفت که نیروهای ذخیره از متا، گوگل و مایکروسافت در هدایت نوآوری در پهپادها و ادغام داده‌ها حیاتی شده‌اند.

او گفت: «نیروهای ذخیره دانش و دسترسی به فناوری‌های کلیدی را که در ارتش موجود نبود، به ارمغان آوردند.»

ارتش اسرائیل به زودی از هوش مصنوعی برای بهبود ناوگان پهپادی خود استفاده کرد. آویو شاپيرا، بنیانگذار و مدیر اجرایی XTEND، یک شرکت نرم‌افزاری و پهپادی که با ارتش اسرائیل کار می‌کند، گفت که از الگوریتم‌های مبتنی بر هوش مصنوعی برای ساخت پهپادهایی برای قفل کردن و ردیابی اهداف از راه دور استفاده شده است.

او گفت: «در گذشته، قابلیت‌های هدایت به صفر کردن تصویر هدف متکی بود. اکنون هوش مصنوعی می‌تواند خود شیء را تشخیص دهد و ردیابی کند - چه یک ماشین متحرک باشد، چه یک فرد - با دقت مرگبار.»

آقای شاپيرا گفت که مشتریان اصلی او، ارتش اسرائیل و وزارت دفاع ایالات متحده، از پیامدهای اخلاقی هوش مصنوعی در جنگ آگاه بودند و در مورد استفاده مسئولانه از این فناوری بحث کردند.

یکی از ابزارهایی که توسط "استودیو" توسعه یافته بود، یک مدل هوش مصنوعی به زبان عربی بود که به عنوان یک مدل زبانی بزرگ شناخته می‌شد. (این مدل زبانی بزرگ قبلاً توسط پلاس ۹۷۲، یک سایت خبری اسرائیلی-فلسطینی، گزارش شده بود.)

توسعه‌دهندگان قبلاً برای ایجاد چنین مدلی به دلیل کمبود داده‌های زبان عربی برای آموزش فناوری مشکل داشتند. هنگامی که چنین داده‌هایی در دسترس بود، بیشتر به زبان عربی استاندارد نوشته شده بود، که رسمی‌تر از ده‌ها گویش مورد استفاده در زبان عربی گفتاری است.

به گفته سه افسر اسرائیلی، ارتش اسرائیل این مشکل را نداشت. این کشور دهه‌ها پیامک رهگیری شده، تماس‌های تلفنی رونویسی شده و پست‌هایی که از رسانه‌های اجتماعی به گویش‌های عربی گفتاری خراشیده شده بودند، داشت. بنابراین افسران اسرائیلی مدل زبانی بزرگ را در چند ماه اول جنگ ایجاد کردند و یک چت‌بات برای اجرای پرس و جو به زبان عربی ساختند. آنها این ابزار را با پایگاه‌های داده چندرسانه‌ای ادغام کردند و به تحلیلگران اجازه دادند تا جستجوهای پیچیده را در تصاویر و فیلم‌ها انجام دهند.

هنگامی که اسرائیل حسن نصرالله، رهبر حزب‌الله را در سپتامبر ترور کرد، این چت‌بات واکنش‌ها را در سراسر جهان عرب زبان تجزیه و تحلیل کرد. این فناوری بین گویش‌های مختلف در لبنان تمایز قائل شد تا واکنش عمومی را ارزیابی کند و به اسرائیل کمک کرد تا ارزیابی کند که آیا فشار عمومی برای یک ضد حمله وجود دارد یا خیر.

جمعیتی از مردم که دو عکس بزرگ را بالا نگه داشته‌اند، هر دو از یک مرد هستند.
مردم پلاکاردهایی با تصاویری از حسن نصرالله، رهبر کشته شده حزب‌الله لبنان، در یک راهپیمایی در رباط در ماه مارس بلند کردند. اعتبار: Abdel Majid Bziouat/Agence France-Presse — Getty Images
Abdel Majid Bziouat/Agence France-Presse — Getty Images

به گفته دو افسر، گاهی اوقات این چت‌بات نمی‌توانست برخی از اصطلاحات عامیانه مدرن و کلماتی را که از انگلیسی به عربی تلفظ شده بودند، شناسایی کند. یکی از افسران گفت که این امر مستلزم بررسی و تصحیح کار آن توسط افسران اطلاعات اسرائیل با تخصص در گویش‌های مختلف بود.

به گفته دو افسر اطلاعاتی اسرائیلی، این چت‌بات همچنین گاهی اوقات پاسخ‌های اشتباهی ارائه می‌داد - برای مثال، به جای اسلحه، عکس‌هایی از لوله‌ها را برمی‌گرداند. با این وجود، این ابزار هوش مصنوعی به طور قابل توجهی تحقیق و تجزیه و تحلیل را تسریع کرد.

در ایست‌های بازرسی موقتی که بین شمال و جنوب نوار غزه ایجاد شده است، اسرائیل نیز پس از حملات ۷ اکتبر شروع به تجهیز دوربین‌ها با توانایی اسکن و ارسال تصاویر با وضوح بالا از فلسطینی‌ها به یک برنامه تشخیص چهره با پشتیبانی هوش مصنوعی کرد.

به گفته دو افسر اطلاعاتی اسرائیلی، این سیستم نیز گاهی اوقات در شناسایی افرادی که چهره‌هایشان پنهان بود مشکل داشت. این امر منجر به دستگیری و بازجویی از فلسطینیانی شد که به اشتباه توسط سیستم تشخیص چهره علامت‌گذاری شده بودند.

بلوک به بلوک ساختمان‌های تخریب شده یا به شدت آسیب دیده.
تخریب ناشی از جنگ در غزه. الگوریتم یادگیری ماشینی ارتش اسرائیل "لوندر" در آغاز جنگ برای کمک به انتخاب اهداف حمله استفاده شد. اعتبار: Jehad Alshrafi/Associated Press
Jehad Alshrafi/Associated Press

اسرائیل همچنین از هوش مصنوعی برای غربال کردن داده‌های جمع‌آوری شده توسط مقامات اطلاعاتی در مورد اعضای حماس استفاده کرد. قبل از جنگ، اسرائیل یک الگوریتم یادگیری ماشینی - با نام رمز "لوندر" - ساخت که می‌توانست به سرعت داده‌ها را برای شکار شبه‌نظامیان سطح پایین مرتب کند. این الگوریتم بر روی یک پایگاه داده از اعضای تأیید شده حماس آموزش داده شده بود و هدف آن پیش‌بینی این بود که چه کس دیگری ممکن است بخشی از این گروه باشد. اگرچه پیش‌بینی‌های این سیستم ناقص بود، اما اسرائیل از آن در آغاز جنگ در غزه برای کمک به انتخاب اهداف حمله استفاده کرد.

تعداد کمی از اهداف بزرگتر از یافتن و از بین بردن رهبری ارشد حماس بود. در نزدیکی بالای این فهرست آقای بیاری، فرمانده حماس قرار داشت که مقامات اسرائیلی معتقد بودند نقش محوری در برنامه‌ریزی حملات ۷ اکتبر ایفا کرده است.

اطلاعات نظامی اسرائیل به سرعت تماس‌های آقای بیاری با سایر اعضای حماس را رهگیری کرد اما نتوانست محل او را مشخص کند. بنابراین آنها به ابزار صوتی پشتیبانی شده توسط هوش مصنوعی روی آوردند، که صداهای مختلف، مانند بمب‌های صوتی و حملات هوایی را تجزیه و تحلیل می‌کرد.

پس از استنتاج یک مکان تقریبی برای جایی که آقای بیاری تماس‌های خود را برقرار می‌کرد، به مقامات نظامی اسرائیل هشدار داده شد که این منطقه، که شامل چندین مجتمع آپارتمانی بود، به شدت پرجمعیت است. آنها گفتند که برای اطمینان از ترور آقای بیاری، یک حمله هوایی باید چندین ساختمان را هدف قرار دهد. این عملیات چراغ سبز دریافت کرد.

از آن زمان، اطلاعات اسرائیل نیز از ابزار صوتی در کنار نقشه‌ها و عکس‌های تونل زیرزمینی غزه برای یافتن گروگان‌ها استفاده کرده است. به گفته دو افسر اسرائیلی، این ابزار به مرور زمان اصلاح شد تا افراد را با دقت بیشتری پیدا کند.