:
سازمان ملل متحد — اوایل همین ماه، صدها دیپلمات در یک سالن کنفرانس بزرگ سازمان ملل در سوئیس گرد هم آمدند تا برای تدوین معاهدهای قدرتمند درباره تنظیم استفاده از سلاحهای خودمختار کشنده — نخستین توافق برای حکمرانی بر کاربرد سلاحهای هوش مصنوعی کشنده — تلاش کنند. در روز پایانی مذاکرات، گفتوگوها به رویارویی کشیده شد.
:
به گفته سه فرد آشنا با مذاکرات که به شرط ناشناس ماندن برای بحث درباره روند حساس درهای بسته سخن گفتند، و بر اساس اسنادی که واشینگتنپست بررسی کرده است، در طول حدود ۱۵ ساعت بعد، دیپلماتهای آمریکایی و روسی بیوقفه روی سند کار کردند و طیفی از مفادی را که برای حفاظت از کاربرد هوش مصنوعی در سلاحها طراحی شده بود حذف کردند.
:
به گفته این افراد، آنان زبانی را که سیستمها را ملزم به عملکرد «قابل پیشبینی» و «قابل اعتماد» میکرد حذف کردند و بندی را که رعایت ملاحظات اخلاقی را هنگام استفاده از سلاحهای هوش مصنوعی الزامی میساخت برداشتند. به گفته آنان، تیمهای آمریکایی و روسی همچنین مفادی را که بازبینی انسانی اهداف نظامی توسعهیافته توسط هوش مصنوعی را پیش از حمله الزامی میکرد حذف کردند.
:
به گفته این سه فرد، در نشستی درهای بسته، در حالی که دوربینهای سازمان ملل خاموش و ناظران جامعه مدنی بیرون گذاشته شده بودند، واشینگتن و مسکو ارتش حدود ۱۰ نفره خود از حقوقدانان — تقریباً دو برابر حضور دیپلماتیک سایر هیئتها — را به کار گرفتند تا تغییراتی را اعمال کنند که آنقدر سریع پیش رفت که هیئتهای کوچکتر گیج شدند.
:
یکی از این افراد گفت: «مرگ با هزار ضربه کاغذی بود.»
:
وزارت امور خارجه آمریکا، وزارت امور خارجه روسیه و سازمان ملل متحد به درخواستها برای اظهارنظر پاسخ ندادند.
:
تضعیف این توافق که جزئیات آن پیشتر گزارش نشده بود، نشان میدهد ایالات متحده و روسیه چگونه برای تضعیف قواعد جهانی تنظیم سلاحهای هوش مصنوعی کشنده تلاش کردهاند، در حالی که پنتاگون درصدد تزریق سریع این فناوری نوظهور به راهبرد میدان نبرد خود است.
:
این مذاکرات در میان بحث عمومی شدید درباره خطرات وجودی هوش مصنوعی پیشرفته برگزار میشود، در حالی که مدیران فناوری از رهبران جهان میخواهند برای اعمال محدودیت بر این فناوری همکاری کنند. سازمان ملل سالهاست تلاش میکند سلاحهای هوش مصنوعی را تنظیم کند، اما پیشرفت محدودی داشته و آخرین دستورالعمل، پیشرفتهترین مرحله این تلاش است.
:
تلاشهای واشینگتن برای خنثیسازی قواعد جهانی درباره سلاحهای هوش مصنوعی همچنین نشان میدهد که ممکن است چگونه به تنظیم استفاده ارتش آمریکا از این فناوری نزدیک شود. مقامات آمریکایی در حال بازنگری در دستورالعمل خود ارتش درباره سلاحهای خودمختار کشنده هستند که در سال ۲۰۲۳ منتشر شد.
:
وریتی کویل، معاون بخش تسلیحات در حوزه بحران، درگیری و تسلیحات در دیدهبان حقوق بشر، گفت قواعد ضعیف حاکم بر سلاحهای هوش مصنوعی کشنده میتواند پیامدهای قابل توجهی داشته باشد.
:
او گفت: «این میتواند به این معنا باشد که ماشینها بدون کنترل انسانی درباره مرگ و زندگی تصمیم بگیرند. تأثیر عملی آن stark است: آسیب بیشتر به غیرنظامیان، پاسخگویی کمتر و لغزش سریعتر به سوی جنگافزار خودکار پرخطرتر.»
:
در سراسر جهان، استفاده از هوش مصنوعی در جنگ از سناریوهای عمدتاً نظری به کاربرد واقعی در میدان نبرد رسیده است. بر اساس گزارش واشینگتنپست، ارتش آمریکا از چتبات شرکت آنتروپیک برای شناسایی نزدیک به ۱۰۰۰ هدف برای حمله در ۲۴ ساعت نخست جنگ با ایران استفاده کرد. واشینگتنپست گزارش داد اسرائیل نیز بهشدت بر هوش مصنوعی برای عملیات نظامی خود در غزه تکیه کرده است.
:
در چند ماه گذشته، شرکتهای هوش مصنوعی فاش کردهاند که رباتهایشان بهطور خودمختار به سرورهای سازمانهای دیگر — از جمله وبسایتهای دولت آمریکا — نفوذ کردهاند و بازیگران مخرب در جاهایی مانند یمن و ایران از چتباتها برای تلاش جهت ساخت سلاح یا هدف قرار دادن ارتش آمریکا استفاده کردهاند؛ این امر نگرانیهایی را برانگیخته که این فناوری ممکن است غیرقابل کنترل شود.
:
این ماه، یک پژوهشگر آنتروپیک از این شرکت استعفا داد و به عموم هشدار داد که هوش مصنوعی میتواند نسل بشر را نابود کند؛ این موضوع بحثی شدید در واشینگتن درباره چگونگی تنظیم آن پیش از آنکه تهدیدی وجودی برای بشریت شود، برانگیخت.
:
در میان این موج نگرانی، مدیران فناوری و رهبران جهانی فوراً خواستار تنظیم مقررات هوش مصنوعی شدهاند. در نشست شورای امنیت سازمان ملل در این هفته، سم آلتمن، مدیرعامل اوپنایآی، و داریو آمودئی، رهبر آنتروپیک، خواستار همکاری کشورها برای ایجاد الگویی از حکمرانی جهانی هوش مصنوعی شدند.
:
آلتمن گفت تنظیم مقررات «باید از طریق فرآیندهای دموکراتیک و توسط دولتهایی که در برابر مردمی که به آنها خدمت میکنند پاسخگو هستند، شکل بگیرد. در سطح بینالمللی، این به معنای همکاری است.»
:
اما تلاشهای داخلی برای تنظیم مقررات به بنبست رسیده است، زیرا دولت ترامپ استدلال میکند که هرگونه قاعدهای درباره هوش مصنوعی نوآوری را متوقف میکند.
:
دونالد ترامپ، رئیسجمهور آمریکا، روز سهشنبه در سازمان ملل گفت: «ایالات متحده همچنین هرگونه تلاش برای ساختن طرحی جهانیگرا برای کنترل هوش مصنوعی که اکنون بسیار درباره آن صحبت میشود — که از این پس رسماً «ابرهوش» نامیده میشود — را کاملاً رد میکند.»
:
مذاکرات سلاحهای خودمختار کشنده در سازمان ملل در حال حاضر غیرالزامآور است، هرچند این گفتوگوها میتواند دروازهای به معاهدهای تاریخی و از نظر حقوقی الزامآور باز کند، در صورتی که کشورهای عضو توافق کنند. این مذاکرات پیشرفتهترین تلاش جهانی برای تنظیم نحوه استفاده از سلاحهای هوش مصنوعی در میدان نبرد را ارائه میدهد.
:
اما در مذاکرات ژنو در اوایل سپتامبر، به گفته این سه فرد، آشکار بود که آمریکا و روسیه مانع بزرگی برای پیشرفت خواهند بود.
:
کویل از دیدهبان حقوق بشر گفت تیم آمریکا توسط دیپلماتهای وزارت امور خارجه، مقامات پنتاگون و کارشناسان حقوقی رهبری میشود. او گفت: «این تیمی با منابع خوب است و آماده دفاع از استقلال ارتش آمریکا میآید.»
:
نیکول فان رویین، مدیر اجرایی ائتلاف غیردولتی جهانی «توقف رباتهای کشنده»، گفت واشینگتن و مسکو از قواعد الزامآور حقوقی درباره سلاحهای خودمختار حمایت نمیکنند و تأثیر بیش از اندازهای بر نحوه پایان مذاکرات دارند.
:
او افزود مذاکرات سلاحهای خودمختار مستلزم اجماع دهها کشور درباره قواعدی است که اجرا خواهد شد. به گفته او، آمریکا و روسیه از چندجانبهگرایی — که مستلزم همکاری کشورها برای رسیدن به توافق است — حمایت نمیکنند و میتوانند از «سرمایه سیاسی برای اعمال فشار بر سایر دولتها» استفاده کنند.
:
او افزود: «آنان قدرت دارند هر پیشرفت قابل توجهی را که اکثریت قاطع کشورهایی که واقعاً میخواهند به سوی معاهدهای الزامآور حرکت کنند، مسدود کنند.»
:
در نوامبر، کشورها در ژنو گرد هم میآیند تا درباره اینکه آیا مذاکرات میتواند به مأموریتی رسمی یا احتمالاً معاهدهای الزامآور حقوقی تبدیل شود، بحث کنند.
:
در آمریکا، بحثی موازی در جریان است، زیرا پنتاگون درصدد بازنویسی دستورالعمل خود درباره استفاده از سلاحهای خودمختار است. در ژوئن، ترامپ یادداشت امنیت ملی صادر کرد که بهروزرسانی این دستورالعمل را در مدت ۹۰ روز الزامی میکرد. تا اواخر سپتامبر، دولت آمریکا نسخه جدیدی منتشر نکرده است.
:
این دستورالعمل که در سال ۲۰۲۳ در دوران دولت بایدن تدوین شد، شامل چندین بند بود که بازتاب موارد حذفشده از سند سازمان ملل است، از جمله الزام به استفاده از قضاوت انسانی برای بررسی سیستمهای سلاح خودمختار و نیمهخودمختار. همچنین الزام میکرد کسانی که سیستمهای سلاح هوش مصنوعی را اداره میکنند، قوانین جنگ و معاهدات قابل اجرا را رعایت کنند.
:
ریچارد لنن، مشاور خلع سلاح تیم حقوقی کمیته بینالمللی صلیب سرخ، گفت معاهدات جهانی میتوانند در کنترل استفاده از سلاحهای زیانآور مؤثر باشند و به تأثیر دستورالعملهای مربوط به سلاحهای شیمیایی و بیولوژیکی، مینهای زمینی ضد نفر و مهمات خوشهای بر محدود کردن استفاده از آنها اشاره کرد.
:
لنن گفت: «مسئله مجازات نیست، مسئله تعیین هنجارها و تأثیرگذاری بر رفتار است. ما معتقدیم معاهدهای برای تنظیم سلاحهای خودمختار میتواند بهطور مشابه مؤثر باشد.»
:
با این حال، کویل خاطرنشان کرد که آمریکا و روسیه قدرت دیپلماتیک، تیمهای حقوقی و انگیزههای سیاسی برای ضعیف نگه داشتن هرگونه قاعده جهانی درباره سلاحهای خودمختار را دارند و گفت اقدامات برای تضعیف مقررات مربوط به سلاحهای هوش مصنوعی از یک کتاب راهنمای آزمودهشده پیروی میکند.
:
کویل گفت: «وقتی آمریکا میخواهد مزیت نظامی یا فناورانه خود را حفظ کند، به جای قواعد الزامآور، دستورالعملهای داوطلبانه را پیش میبرد. ما همین کتاب راهنما را در بحثهای سایبری، فضایی و سایر بحثهای کنترل تسلیحات دیدهایم. سلاحهای خودمختار نیز از این قاعده مستثنا نیستند.»