.
در تلاش بشریت برای مهار خطرات ناشی از پیشرفت سریع هوش مصنوعی، بسیاری به انقلابیترین فناوری پیش از آن، یعنی سلاحهای هستهای، نگاه کردهاند. ایلان ماسک، مدیرعامل اسپیساکس، هوش مصنوعی را «بسیار خطرناکتر از سلاحهای هستهای» خوانده است. داریو آمودی، مدیرعامل آنتروپیک، که کتاب ساخت بمب اتمی را به کارمندان خود میدهد و خود را با لئو زیلارد، دانشمند پروژه منهتن، مقایسه کرده است، قدرتمندترین مدلهای هوش مصنوعی را «مواد هستهای قابل تسلیح» توصیف میکند. سام آلتمن، مدیرعامل اوپنایآی، در پاسخ به این سوال که چگونه میتوان فناوریای مانند هوش مصنوعی را تنظیم کرد، اغلب به آژانس بینالمللی انرژی اتمی، نهاد ناظر بر مواد هستهای جهان، اشاره میکند. حتی جان راتکلیف، مدیر سیا، نیز همین مقایسه را انجام داده است.
.
این مقایسهها شباهتهای واقعی را نشان میدهند. مانند سلاحهای هستهای، هوش مصنوعی پیشرفته قدرتمند و کنترل آن دشوار است. مانند فناوری هستهای، میتوان از آن برای اهداف خوب یا بد استفاده کرد. و مانند مسابقه تسلیحاتی جنگ سرد، رقابت برای پیشرفتهای هوش مصنوعی ممکن است توازن قدرت جهانی را تغییر دهد. بنابراین، قیاس هستهای، به نظر میرسد الگویی برای نحوه حکمرانی مؤثر بر فناوری امیدوارکننده اما بالقوه خطرناکی مانند هوش مصنوعی ارائه میدهد.
.
اما حتی اگر تلاشها برای کنترل بمب منبع الهام باشند، الگوی آمادهای برای حکمرانی هوش مصنوعی نیستند. این قیاس تصویری بیش از حد خوشبینانه از حکمرانی سلاحهای هستهای ارائه میدهد و موفقیتهایی را به آن نسبت میدهد که هنوز مورد بحث هستند و ممکن است به دست نیامده باشند. همچنین تفاوتهای کلیدی بین هوش مصنوعی و فناوری هستهای را مبهم میکند که نشان میدهد حکمرانی هوش مصنوعی چقدر دشوارتر خواهد بود. مواد هستهای را میتوان بسیار بیشتر از اجزای هوش مصنوعی ردیابی و حسابرسی کرد. سلاحهای هستهای طراحی، ساخته و اکنون تحت کنترل شدید دولت باقی ماندهاند؛ هوش مصنوعی عمدتاً توسط شرکتهای خصوصی با انگیزههای قوی سودآوری ساخته میشود که سریعتر از آن حرکت میکنند که دولتها بتوانند آنها را تنظیم کنند. در حالی که موارد استفاده از فناوری هستهای محدود است، هوش مصنوعی تقریباً در هر بخش و حوزه امنیتی کاربرد دارد.
.
حکمرانی هوش مصنوعی با چالش دیگری نیز روبرو است: سیاستگذاران باید از اقدام حمایت کنند، حتی در حالی که مقیاس تهدید هنوز انتزاعی است. افشاگریهای اخیر اوپنایآی، آنتروپیک، گوگل و متا مبنی بر اینکه مدلهای پیشرفته آنها از محیطهای آزمایشی فرار کرده و به اینترنت دسترسی غیرمجاز پیدا کردهاند، زنگ خطر را در واشنگتن در مورد خطرات هوش مصنوعی پیشرفته به صدا درآورده است. اما پیامدهای این حوادث مبهم باقی مانده است. آنها از تجربه روزمره اکثر مردم دور هستند و هنوز آسیب گستردهای ایجاد نکردهاند، بنابراین بعید است که به تنهایی فشار سیاسی پایدار لازم برای ایجاد و حفظ یک رژیم نظارتی پایدار را ایجاد کنند. با وجود هشدارهای متعدد محققان و سیاستگذاران در مورد خطرات بیشمار هوش مصنوعی، این فناوری هنوز یک لحظه تعیینکننده را تجربه نکرده است، مانند زمانی که سلاحهای هستهای در پایان جنگ جهانی دوم مورد استفاده قرار گرفتند، که ترس را به عمل تبدیل میکند. اما جهان نمیتواند برای چنین لحظهای منتظر بماند تا اقدام کند. نگاه به تاریخ ممکن است نقطه شروع سازندهای باشد – اما نمیتواند الگوی آمادهای برای مشکلی که هوش مصنوعی ایجاد میکند، ارائه دهد. هوش مصنوعی برخلاف هیچ فناوری دیگری در گذشته است، و نظمی که بر آن حاکم است نیز باید همینطور باشد.
شانس به طرز باورنکردنی خوب
جاهطلبانهترین دیدگاههای بینالمللی برای تنظیم هوش مصنوعی از حکمرانی هستهای الهام میگیرند، با این باور که چنین چارچوبی میتواند هم به حداقل رساندن آسیبهای بالقوه هوش مصنوعی کمک کند و هم توانایی ایالات متحده را برای رهبری افزایش دهد. هایدن بلفیلد، محقق در گوگل دیپمایند، ترتیبی را بر اساس پیمان عدم اشاعه هستهای (NPT) پیشنهاد کرده است که تنها به برخی از کشورها با مقررات داخلی کافی اجازه میدهد تراشههای قدرتمند را در اختیار داشته باشند – یک رژیم عدم اشاعه برای هوش مصنوعی. دیگران، از جمله آلتمن، از یک نهاد مستقل از کارشناسان با اختیارات گسترده بازرسی و تأیید بر هوش مصنوعی حمایت میکنند، که بیشتر شبیه به آژانس بینالمللی انرژی اتمی (IAEA) است. گروه سوم به دنبال بازسازی شیوههای کنترل تسلیحات و آسیبپذیری متقابل جنگ سرد برای تثبیت رقابت هوش مصنوعی بین ایالات متحده و چین هستند.
.
جذابیت این پیشینهها قابل درک است. نظم هستهای از معدود موفقیتهای حکمرانی جهانی پس از جنگ است. در سخنرانی سال ۱۹۵۳ خود در سازمان ملل متحد، دوایت آیزنهاور، رئیسجمهور وقت ایالات متحده، طرحی را که به «اتم برای صلح» معروف شد، با هدف مهار خطرات این فناوری و در عین حال ترویج مزایای آن، ارائه کرد: کشورها میتوانستند به فناوری هستهای دسترسی داشته باشند، به شرطی که قول میدادند از استفاده از آن برای ساخت سلاح خودداری کنند.
.
مشکل اشاعه بلافاصله حل نشد. در سال ۱۹۶۳، جان اف کندی، رئیسجمهور وقت، پیشبینی کرد که ۱۵ تا ۲۵ کشور در دهه بعدی به قدرتهای هستهای تبدیل خواهند شد، و بسیاری از رهبران ارشد ایالات متحده معتقد بودند که جنگ هستهای اجتنابناپذیر است. اما تا دهه ۱۹۷۰، معاهده اصلی نظم هستهای، NPT، به اجرا درآمد، و رژیم بازرسی و راستیآزمایی تحت رهبری کارشناسان آژانس بینالمللی انرژی اتمی، با حمایت واشنگتن و مسکو، شروع به نظارت بر آن کرد. دو ابرقدرت مذاکرات ممنوعیت آزمایش را انجام دادند، نشستهای کنترل تسلیحات را برگزار کردند و یک خط تلفن اضطراری ایجاد کردند. امروزه، NPT تقریباً اجماع جهانی را به خود اختصاص داده است. تنها نه کشور دارای سلاح هستهای هستند و هیچ جنگ هستهای رخ نداده است. بسیاری این را به این معنی میدانند که بشریت تعادل صحیح بین جلوگیری از آسیب و ترویج استفاده صلحآمیز را پیدا کرده است. و اگر این تعادل برای سلاحهای هستهای یافت شد، شاید برای هوش مصنوعی نیز کارساز باشد.
.
تاریخ واقعی عدم اشاعه و کنترل تسلیحات چیزی آشفتهتر را نشان میدهد: در بسیاری از موارد، این اجبار و ترغیب ابرقدرتها – و گاهی اوقات صرفاً هزینه – بود که جاهطلبیهای هستهای را خنثی کرد. کره جنوبی و تایوان برنامههای تسلیحاتی نوپای خود را پس از فشار شدید ایالات متحده، که با تضمینهای اتحاد، دسترسی به بازار و تهدید به قطع حمایت نظامی در صورت عدم رعایت، حمایت میشد، کنار گذاشتند. حملات هوایی اسرائیل برنامههای عراق و سوریه را از بین برد؛ لیبی نیز برنامه خود را تحت فشار مداوم ایالات متحده و بریتانیا تسلیم کرد. دیگران به دلایل داخلی از بمب دست کشیدند. سوئد و سوئیس به دلیل هزینههای بالای آن این کار را کردند، و آرژانتین و برزیل زمانی که گذار دموکراتیک سیاستهای خارجی خود را به سمت همکاری منطقهای سوق داد، این کار را انجام دادند. آفریقای جنوبی شش کلاهک هستهای ساخت و سپس با پایان آپارتاید و تغییر اولویتهای داخلی و خارجی کشور، آنها را از بین برد.
.
اینکه هیچ مدل هوش مصنوعی پیشرفتهای تاکنون فاجعهای ایجاد نکرده است، ممکن است صرفاً شانس باشد.
.
هنگامی که کشورها مصمم به توسعه سلاحهای هستهای بودند و میتوانستند در برابر فشارهای خارجی مقاومت کنند، رژیم عدم اشاعه قدرت کمی برای متوقف کردن آنها داشت. هند، اسرائیل، کره شمالی و پاکستان همگی موفق به ساخت بمب شدند. بنابراین، این نظم همیشه ناقص بوده است – متکی به تبانی کشورهای هستهای و تمایل آنها به استفاده از زور در صورت لزوم برای جلوگیری از اشاعه، و اغلب ناتوان از منصرف کردن کسانی که مصمم به دستیابی به سلاحهای هستهای هستند. حتی قدرتهای هستهای موجود نیز همیشه همکاری نمیکنند؛ چین و فرانسه، دو کشور از پنج کشور دارای سلاح هستهای در NPT، تا سال ۱۹۹۲ به آن نپیوستند.
.
سابقه عدم استفاده هستهای به همان اندازه عدم اشاعه مشروط است. خرد متعارف، مجموعهای از ابزارهای دوجانبه را برای صلح هستهای ۸۱ ساله اعتبار میبخشد: مذاکرات کنترل تسلیحات، خطوط تلفن اضطراری، اعلانها و هشدارها، و مواضع بازدارندگی کالیبره شده، رقابت بین واشنگتن و مسکو را از تشدید فراتر از نقطه بیبازگشت باز داشت. اما اگرچه این مداخلات به موفقیت گسترده نظم هستهای اشاره دارد، نگاهی دقیقتر نشان میدهد که چقدر اغلب فاجعه تنها در حاشیه جلوگیری شده است.
.
در طول بحران موشکی کوبا، در اکتبر ۱۹۶۲، واشنگتن و مسکو تا یک یا دو تصمیم با جنگ هستهای فاصله داشتند. همانطور که سرگئی رادچنکو و ولادیسلاو زوبوک در سال ۲۰۲۳ در فارن افرز استدلال کردند، مأموریت نیکیتا خروشچف، نخستوزیر شوروی، برای استقرار سلاحهای هستهای در کوبا، یک قمار بد برنامهریزی شده بود که از ابتدا به شانس باورنکردنی نیاز داشت. بسیاری از موقعیتهای نزدیک به فاجعه در آن دوره میتوانست به راحتی منجر به استفاده از سلاح هستهای شود. برنامههای ایالات متحده برای حمله به کوبا بدون اطلاع از میزان حضور هستهای شوروی توسعه یافت؛ یک زیردریایی شوروی نزدیک بود یک اژدر هستهای را به سمت نیروهای دریایی ایالات متحده در کارائیب پرتاب کند، و پس از اینکه یک هواپیمای جاسوسی U-2 وارد حریم هوایی شوروی شد، مجبور شد توسط هواپیماهای رهگیر مسلح به سلاح هستهای ایالات متحده به خانه اسکورت شود تا از تعقیب شوروی محافظت شود. بسیاری از موقعیتهای نزدیک به فاجعه در طول بحران، بسیار پایینتر از زنجیره فرماندهی، بدون اطلاع یا دخالت مستقیم کندی یا خروشچف رخ داد. تحلیلهای اخیر نشان میدهد که چگونه حس فزاینده رهبران مربوطه مبنی بر اینکه نمیتوانند رویدادها را کنترل کنند، به جای تمایل آنها برای شکست دیگری، به پایان بحران کمک کرد و تلاشهای بعدی را برای مذاکره در مورد خویشتنداری ابرقدرتها تحریک کرد.
.
یک سری حوادث هستهای کوچکتر پس از بحران موشکی کوبا رخ داد، از جمله هشدارهای کاذب، تمرینات اشتباه خوانده شده، و سقوط بمبافکنهای هستهای. افزایش اتکای موضع هستهای ایالات متحده به موشکهای قارهپیما و دریایی، که میتوانند بسیار سریعتر از بمبافکنها به دشمنان حمله کنند، به خطر این حوادث افزود و زمان کمتری را برای تصمیمگیرندگان برای شناسایی و تصحیح اشتباهات باقی گذاشت. سیستمهای هشدار جدید، که برای شناسایی چنین حملاتی طراحی شده بودند، نیز بیعیب و نقص نبودند. در نوامبر ۱۹۷۹، یک سیستم هشدار زنده ایالات متحده یک نوار آزمایشی را با یک حمله بزرگ شوروی اشتباه گرفت؛ قبل از اینکه تأیید شود یک اشتباه بوده است، حداقل ده هواپیمای جنگنده اعزام شدند و هواپیمای روز قیامت رئیسجمهور بدون او به پرواز درآمد. در سپتامبر ۱۹۸۳، سیستم هشدار اولیه سرهنگ دوم استانیسلاو پتروف شوروی یک حمله قریبالوقوع ایالات متحده را گزارش داد، اما او به درستی آن را یک نقص فنی تشخیص داد.
.
در این موارد، نهادهای ساخته شده حول عدم اشاعه و عدم استفاده هستهای، مانع از فاجعه احتمالی نشدند. با باز شدن آرشیوهای بیشتر در مورد تاریخ هستهای برای محققان، موارد نزدیک به فاجعه بیشتری آشکار شده است. این کشفیات این سوال را مطرح میکند که چقدر از موفقیت نظم هستهای نه به طراحی، بلکه به شانس مدیون است. اعتبار دادن به نهادها در حالی که شانس را فراموش میکنیم، معماران حکمرانی هوش مصنوعی را برای آنچه احتمالاً در پیش است، آماده نخواهد کرد. اینکه هیچ مدل هوش مصنوعی پیشرفتهای تاکنون فاجعهای ایجاد نکرده است، ممکن است صرفاً شانس باشد. و شانس میتواند تمام شود.
آزمایش محدودیتها
مثال هستهای حتی کمتر مفید است وقتی در نظر بگیریم که ترتیبات کنترل تسلیحات چقدر شکننده شدهاند. روابط بین روسیه و ایالات متحده، که هنوز اکثریت قریب به اتفاق سلاحهای هستهای را در اختیار دارند، در پایینترین سطح پس از جنگ سرد قرار دارد. معاهدات اصلی حاکم بر زرادخانههای هستهای آنها – پیمان استارت جدید برای نیروهای استراتژیک و پیمان نیروهای هستهای میانبرد برای نیروهای منطقهای – از بین رفتهاند. جنگ روسیه در اوکراین و نگرانیهای اروپا در مورد تعهدات ایالات متحده به ناتو، بسیاری از متحدان واشنگتن را به بحث در مورد سایر گزینههای اشتراک هستهای سوق داده است، و مقامات در برخی از کشورهای عضو، مانند لهستان، آشکارا در مورد دستیابی به بمب بحث کردهاند.
.
چین همچنان زرادخانه خود را بدون هیچ گونه معاهده یا نظارت خارجی گسترش میدهد: ذخایر آن از سال ۲۰۲۰ تقریباً سه برابر شده است و پنتاگون پیشبینی میکند که پکن تا سال ۲۰۳۰ به ۱۰۰۰ کلاهک جنگی خواهد رسید. متحدان واشنگتن در اقیانوس آرام نیز نگران هستند. در کره جنوبی، نظرسنجیها به طور مداوم حمایت اکثریت را برای یک زرادخانه داخلی برای مقابله با کره شمالی نشان میدهد. در ژاپن، که یکی از قویترین احساسات ضد هستهای جهان را دارد، سیاستمداران به طور فزایندهای تابو را آزمایش میکنند و آشکارا در مورد بازدارندگی هستهای به عنوان بخشی از دفاع کشور بحث میکنند.
.
برای برخی، معاهدهای که در قلب نظم هستهای قرار دارد، یعنی NPT، آخرین مانع بین نظم هستهای و هرج و مرج است. اما حتی آینده این معاهده نیز نامشخص به نظر میرسد. به عنوان بخشی از معامله اصلی خود، NPT از کشورهای دارای سلاح هستهای میخواهد که با حسن نیت برای خلع سلاح هستهای تلاش کنند، که دلیل اصلی این بود که کشورهای فاقد سلاح هستهای این معامله را پذیرفتند و برای همیشه از سلاحهای هستهای دست کشیدند. اما روندهای دهه گذشته به سمت افزایش و مدرنسازی زرادخانههای هستهای، نه کاهش آنها، اشاره دارد. بیش از ۹۰ کشور – تقریباً نیمی از اعضای غیر هستهای NPT – که از وعدههای انجام نشده خسته شدهاند، یک معاهده رقیب را امضا کردهاند که داشتن سلاحهای هستهای را به طور کامل ممنوع میکند. کشورهای دارای سلاح هستهای و متحدانشان اعلام کردهاند که علاقهای به امضای چنین معاهدهای ندارند و آن را به تضعیف نظم موجود متهم میکنند.
.
محدودیتهای نظم عدم اشاعه هستهای در خاورمیانه به وضوح مشهود است، جایی که هر تلاشی برای کنترل صلحآمیز فناوری هستهای با شکست مواجه شده است. اگرچه اسرائیل هرگز به داشتن بمب اعتراف نکرده و به NPT نپیوسته است، اما برنامه خود را در دهه ۱۹۶۰ تسلیحاتی کرد و برای حفظ انحصار هستهای منطقهای خود، به صنایع هستهای همسایگان خود حمله کرده است، و راکتورهای هستهای ناتمام عراق و سوریه را به ترتیب در سالهای ۱۹۸۱ و ۲۰۰۷ نابود کرد. تلاشهای بینالمللی برای جلوگیری از اشاعه عراق به حمله ایالات متحده در سال ۲۰۰۳ منجر شد. ایالات متحده اکنون بار دیگر در منطقه در حال جنگ است، این بار با ایران، که بخشی از توجیه آن را با خطرات ناشی از برنامه هستهای تهران مرتبط دانسته است.
متفاوت از دیگری
دلایلی اساسیتر از سابقه تاریخی مختلط وجود دارد که چرا الگوی هستهای کاملاً برای هوش مصنوعی مناسب نیست. سازوکار نظم هستهای مؤثر است زیرا مواد مورد نیاز برای ساخت سلاحهای هستهای قابل ردیابی، قابل اندازهگیری و از نظر فیزیکی محدود هستند. برای توسعه سلاحهای هستهای، یک کشور به مقادیر قابل توجهی از ایزوتوپهای خاص تنها دو عنصر، اورانیوم و پلوتونیوم، نیاز دارد. هر دو تولید گرانقیمتی دارند، قابل اندازهگیری و ردیابی هستند، و برای تولید و فرآوری به تأسیسات بزرگ و پیچیده متکی هستند. علاوه بر این، پلوتونیوم در طبیعت فراتر از مقادیر ناچیز یافت نمیشود. مقدار نسبتاً کمی کار اضافی مورد نیاز برای غنیسازی اورانیوم با درجه راکتور به اورانیوم با درجه تسلیحاتی به این معنی است که بازرسان باید هوشیار باشند تا در صورت تلاش کشورها برای رسیدن سریع به بمب، از آن جلوگیری کنند. اما هنوز هم برای ناظران خارجی امکانپذیر است که تصویری تقریبی از آنچه یک کشور میتواند با فناوری هستهای خود انجام دهد ترسیم کنند و تعیین کنند که آیا قابلیتهای آن به سمت تسلیحاتی شدن متمایل است یا خیر.
.
ساخت سیستمهای هوش مصنوعی نیز آثار فیزیکی از خود به جای میگذارد. این کار به تراشههای پیشرفته، تجهیزات ساخت نیمهرسانا، دستگاههای فوتولیتوگرافی، کارخانههای تولید و مهمتر از همه، مراکز داده نیاز دارد که این فرآیند را قابل مشاهده و تا حدی قابل ردیابی میکند. گسترش فعلی هوش مصنوعی یکی از بزرگترین بسیجهای صنعتی در تاریخ است: خوشههای آموزشی، یا شبکههایی که هزاران تراشه پیشرفته هوش مصنوعی را در داخل مراکز داده به هم متصل میکنند، صدها هکتار را اشغال میکنند، به اندازه یک شهر متوسط برق مصرف میکنند و از مدار قابل مشاهده هستند. اکثر پیشنهادها در مورد حکمرانی هوش مصنوعی به درستی بر این زنجیره فیزیکی تمرکز دارند زیرا محاسبات متمرکز با عملکرد بالا، در حال حاضر، قابل کنترلترین اهرم برای محدود کردن توانایی بازیگران جدید در ساخت سیستمهای هوش مصنوعی پیشرفته است.
.
اما امضای فیزیکی هوش مصنوعی با بمب تفاوتهایی دارد که رویکردی به سبک هستهای را برای شناسایی زمانی که بازیگران به آستانه خاصی از قابلیت رسیدهاند یا زمانی که تهدیدی ایجاد میکنند، دشوار میکند. هنگامی که یک کشور دارای تأسیساتی برای تولید مواد شکافتپذیر باشد، ناظران میتوانند تخمین بزنند که چقدر مواد با درجه تسلیحاتی دارد و بنابراین میتوانند به طور تقریبی تخمین بزننده که چند بمب میتواند تولید کند. با این حال، رابطه بین زیرساخت هوش مصنوعی و قابلیتها ثابت نیست. محاسبات به شدت با قابلیت همبستگی دارد؛ در طول دهه گذشته، محاسبات و دادههای بیشتر منجر به سیستمهای قدرتمندتر شده است. اما این نگاشت سست است و با گذشت زمان تغییر میکند. از آنجا که کارایی الگوریتمی به طور بیوقفه بهبود مییابد، آنچه در یک سال به منابع پیشرفته نیاز دارد، در سال بعد بسیار ارزانتر و آسانتر میشود، و تواناییهای مدلهای بزرگ را میتوان به مدلهای بسیار کوچکتر تقطیر کرد.
.
مدلها ممکن است بدون اینکه مستقیماً باعث سناریوهای فاجعهبار شوند، به آنها کمک کنند.
.
حتی پس از پایان آموزش، سیستمهای هوش مصنوعی همچنان میتوانند بهبود یابند. یک سیستم مشابه میتواند نتایج متفاوتی را بسته به نرمافزار اطراف آن و ابزارهایی که به آن دسترسی دارد، تولید کند. به عنوان مثال، مدلها میتوانند با صرف زمان و قدرت محاسباتی بیشتر برای حل مسائل، بهبود یابند. طراحیهای پیچیده سلاحهای هستهای مدرن میتوانند مقدار معینی از مواد شکافتپذیر را بیشتر به کار بگیرند، اما کل ذخیره مواد، اندازه زرادخانه و قابلیتهای هستهای یک کشور را محدود میکند. محاسبات مورد نیاز برای آموزش هوش مصنوعی چنین محدودیتی را ایجاد نمیکند. توانایی چین برای همگام شدن با توسعه هوش مصنوعی آمریکا، با وجود کمبود محاسبات، این واقعیت را به بهترین شکل نشان میدهد.
.
هوش مصنوعی همچنین با «مشکل ریختهگری» مواجه است: هنگامی که یک مدل آموزش داده میشود، وزنهای آن از زیرساختی که آن را ایجاد کرده است، جدا میشوند. وزنهای مدل – پارامترهای عددی که یک مدل را پس از آموزش تعریف میکنند – میتوانند کپی، منتقل، اصلاح و در مکانی دور از منبع خود مستقر شوند، و توسعهدهندگان، عمدتاً اما نه منحصراً در چین، آنها را برای تشویق به پذیرش عمومی میکنند. این مدلهای با وزن باز (open-weight) را میتوان توسط هر کسی دانلود و اصلاح کرد، و اکنون در بسیاری از معیارها به مرز ایالات متحده نزدیک هستند، و تنها چند ماه، نه چند سال، از قدرتمندترین مدلها عقبترند. دنیای سلاحهای هستهای هیچ مشابهی با انتشار عمومی یک قابلیت عمومی قابل استفاده، قابل بهبود و بالقوه تحولآفرین ندارد.
.
استقرار یک مدل پیشرفته در مقیاس اقتصادی یا نظامی قابل توجه، به مقادیر زیادی قدرت محاسباتی نیاز دارد. برخی دولتها کنترلهایی بر صادرات تراشه اعمال کردهاند با این دیدگاه که محدود کردن دسترسی به تراشه میتواند از انباشت قدرت محاسباتی کافی توسط یک دشمن برای آموزش و اجرای مدلهای پیشرفته جلوگیری کند. با این حال، هرگونه اهرم در محاسبات جزئی است – و در حال تضعیف است. وزنهای سرقت شده یا منتشر شده را میتوان تقریباً در هر مکانی اجرا کرد، و حداقل ظرفیت مورد نیاز برای تولید نتایج مفید همچنان در حال کاهش است. یک مدل واحد میتواند اهدافی را که سازنده آن هرگز در نظر نداشته است، انجام دهد: خواندن سوابق پزشکی، یافتن آسیبپذیریهای نرمافزاری، استدلال در مورد طراحی سلاح. اگرچه کنترلهای زنجیره تأمین میتوانند توسعه پیشرفته را کند کنند، هزینهها را افزایش دهند و فعالیتهای توسعهدهندگان را برای تنظیمکنندهها قابل مشاهدهتر کنند، اما نمیتوانند به راحتی به سؤالی که یک رژیم عدم اشاعه برای پاسخ به آن وجود دارد، پاسخ دهند: کدام بازیگران از کدام قابلیتها و برای چه هدفی استفاده میکنند.
.
این مشکل با هر معاهدهای در مورد هوش مصنوعی روبرو خواهد شد. یک توافق فرضی ایالات متحده و چین در مورد استانداردهای توسعه و آزمایش هوش مصنوعی تقریباً به طور قطع به ابزارهای معتبری برای تأیید انطباق نیاز خواهد داشت تا از نظر سیاسی در هر دو کشور قابل اجرا باشد، که به تعاریف مشترکی از اینکه دقیقاً چه چیزی باید ردیابی شود، بستگی دارد. در کنترل تسلیحات هستهای، اهداف تأیید به خوبی تعریف شدهاند: موشکها، پرتابگرها، بمبافکنها و کلاهکها. علاوه بر این، این تلاشها و توافقات سالها طول کشید تا به بلوغ برسند. تأیید کامل انطباق با یک توافق هوش مصنوعی ممکن است شامل اقدامات شفافیتی باشد که کشورها آن را بیش از حد تهاجمی میدانند. دولتهای درگیر در کنترل تسلیحات هستهای دقیقاً میدانند که شرکتها چه کاری انجام میدهند و بنابراین میتوانند پاسخگوی آنها باشند. این در مورد آزمایشگاههای هوش مصنوعی صدق نمیکند.
.
در نهایت، هوش مصنوعی پیشرفته و سلاحهای هستهای از نظر کنترل فناوری با یکدیگر تفاوت دارند. بمب تحت کنترل و نظارت دولت توسعه یافت. ساخت و نگهداری یک زرادخانه هستهای به هماهنگی در سطح دولتی و نهادهای دولتی پایدار، از جمله یک ارتش سازمانیافته و یک مجموعه علمی هستهای، نیاز دارد. هر دولتی که برنامه انرژی هستهای ایجاد کرده یا به دنبال سلاحهای هستهای بوده است، برای تقویت این نهادهای دولتی تلاش کرده است. هوش مصنوعی برعکس است. این فناوری توسط بازیگران مستقل – محققان، دانشمندان، بنیانگذاران و توسعهدهندگان تجاری – ایجاد شده است که سرعت آنها تاکنون از تلاشهای دولتها برای تنظیم آنها پیشی گرفته است.
فاجعه در انتزاع
آخرین تفاوت بین سلاحهای هستهای و هوش مصنوعی شاید مهمترین باشد. سلاحهای هستهای برای اولین بار در جهان با نمایش خشونتآمیز معرفی شدند: بمباران هیروشیما و ناکازاکی در اوت ۱۹۴۵. نظم هستهای از یک نمایش ملموس و نه گمانهزنی از پتانسیل فاجعهبار این فناوری برای ایجاد آسیب توسعه یافت. صدها آزمایش هستهای بعدی، پتانسیل مخرب رو به رشد این فناوری را به نمایش گذاشت. هر آنچه مردم در مورد سلاحهای هستهای مورد مناقشه قرار دادند، هیچ کس در مورد وحشتی که از استفاده از آنها ناشی میشد، اختلاف نظر نداشت.
.
از سوی دیگر، هوش مصنوعی از یک رویداد مشابه پدید نیامد و هنوز هم چنین رویدادی را تولید نکرده است. حادثه هاگینگ فیس (Hugging Face) در تابستان امسال – که در آن مدلهای پیشرفته از محدودیتهای نرمافزاری فرار کرده و به سیستمهای خارجی، از جمله شرکت هوش مصنوعی هاگینگ فیس، نفوذ کردند – موج جدیدی از هشدارها را در مورد کنترل و نظارت بر هوش مصنوعی در جامعه هوش مصنوعی، از جمله از سوی خود توسعهدهندگان، برانگیخت. اما پیامدهای آن تاکنون محدود باقی مانده است، و بحث در مورد معنای آن برای حکمرانی هوش مصنوعی عمدتاً به متخصصان محدود شده است. سناریوهای واقعاً فاجعهبار هوش مصنوعی – عوامل بیماریزای مهندسی شده، شکست آبشاری زیرساختها، از دست دادن کنترل معنادار انسانی بر سیستمهای فوق هوشمند نامنظم، و حتی انقراض انسان – انتزاعی و مورد مناقشه عمومی باقی ماندهاند.
.
در غیاب یک کاتالیزور که به وضوح پتانسیل هوش مصنوعی را برای آسیبهای ویرانگر نشان دهد، سیاستگذارانی که به دنبال حکمرانی بر این فناوری هستند، باید این کار را بدون انرژی و سرمایه سیاسی که نظم هستهای را ایجاد کرد، انجام دهند. آسیبهای هوش مصنوعی که بیشترین توجه سیاسی را به خود جلب میکنند – تأثیر چتباتها بر جوانان، از دست دادن شغل، هزینههای محلی مراکز داده – منجر به قانونگذاری، دعاوی قضایی و واکنشهای سیاسی شدهاند. اما آنها در سطحی متفاوت از خطرات فاجعهباری عمل میکنند که مقایسه هستهای را تحریک میکنند. حتی برای سلاحهای هستهای، خاطرات محو شده هیروشیما و ناکازاکی و درگذشت آخرین بازماندگان آن رویدادها میتواند بیتفاوتی جدیدی را ایجاد کند.
.
حتی اگر یک فاجعه ناشی از هوش مصنوعی رخ دهد – همانطور که بسیاری در آزمایشگاههای پیشرفته اکنون هشدار میدهند که بدون تغییر مسیر اتفاق خواهد افتاد – ممکن است نگرانی عمومی و نخبگان را بر اهرمهای سیاستی صحیح متمرکز نکند. بحران موشکی کوبا تلاشهای کنترل تسلیحات جنگ سرد را برانگیخت زیرا هم واشنگتن و هم مسکو به وضوح درک کردند که به طور غیرقابل قبولی به پرتگاه آرماگدون نزدیک شدهاند. یک مدل نامنظم که از محافظتها عبور میکند و باعث یک حادثه سایبری بزرگ میشود که منجر به از دست دادن جان یا ثروت میشود، به سختی میتواند با چیز دیگری اشتباه گرفته شود. اما مدلها ممکن است بدون اینکه مستقیماً باعث بسیاری از سناریوهای فاجعهبار شوند، به آنها کمک کنند. یک سلاح بیولوژیکی، فروپاشی بازار، یا قطع برق ممکن است به سوءاستفاده از هوش مصنوعی مرتبط باشد، اما میزان تأثیر هوش مصنوعی بر نتیجه را نمیتوان با اطمینان تعیین کرد. زنجیرههای علّی پیچیده به ذینفعان مختلف اجازه میدهد تا تقصیر را به گردن یکدیگر بیندازند، و فوریت درخواستهای عمومی برای مقررات قویتر را که میتواند از تکرار جلوگیری کند، کاهش میدهد.
در حاشیه
اگر تقلید از تمرکز نظم هستهای بر کنترل ورودیهای مادی برای هوش مصنوعی ناکافی باشد، پس تلاشها برای ایجاد یک رژیم حکمرانی هوش مصنوعی باید فرآیند طراحی مدلها و نحوه کاربرد آنها را نیز بررسی کند. ردیابی اینکه یک توسعهدهنده قبل از استقرار چه نوع آزمایشهایی را انجام میدهد، چه چیزی را نشان میدهند، و چه کسی به جز توسعهدهنده مجاز به ممیزی آموزش و خروجیهای مدل است، ممکن است کاهش برخی از خطرات هوش مصنوعی را آسانتر کند. همچنین تمرکز مقررات بر کاربردهای هوش مصنوعی، در کنار مدلها و زیرساختهای آن، مفید خواهد بود. تصمیمگیری در مورد ایمنی مدلهای هوش مصنوعی را نمیتوان با توجه به سیستمهای عمومی انجام داد؛ کنترلها باید در حوزههای خاصی اعمال شوند که پیامدهای سوءاستفاده در آنها بالا است. برخی اولویتها از قبل مشخص هستند: اکثر توسعهدهندگان پیشرفته موافقند که قابلیتهای هوش مصنوعی در زیستشناسی مصنوعی و عملیات سایبری تهاجمی نیازمند محافظتهای بسیار قوی هستند.
.
مشکل ساخت یک چارچوب حکمرانی پایدار، مانند جنگ سرد، بیشتر سیاسی است تا فنی. در ایالات متحده، دولت ترامپ در برابر مقررات و نظارت جدید هوش مصنوعی مقاومت کرده و استدلال میکند که چنین اقداماتی مانع نوآوری و مزیت چین خواهد شد. اوایل این ماه، دونالد ترامپ، رئیسجمهور ایالات متحده، در شبکههای اجتماعی نوشت: «تنها کنترل یا «حفاظت» که هوش مصنوعی به آن نیاز دارد، یک رئیسجمهور قوی و باهوش (با ضریب هوشی بالا!) است.» با این حال، این موضع مقرراتزدایی با فورانهای مداخله اجرایی موردی همزیستی داشته است. در ماه ژوئن، کاخ سفید از کنترلهای صادراتی برای قطع دسترسی خارجی به مدلهای Fable 5 و Mythos 5 آنتروپیک استفاده کرد، قبل از اینکه در پایان ماه آن را بازگرداند، و اوپنایآی را تحت فشار قرار داد تا انتشار GPT-5.6 خود را به بازیگران مورد تأیید دولت محدود کند. چنین رویکرد نامتوازنی فدرال به مقررات هوش مصنوعی نه به توسعهدهندگان، که از قوانین قابل پیشبینی برای برنامهریزی سرمایهگذاریها و انتشارها سود میبرند، و نه به مردم، که به محافظتها به جای مداخله موقت نیاز دارند، خدمت نمیکند.
.
دولت فدرال ابزارهای زیادی دارد که میتواند از آنها برای تنظیم پایدارتر هوش مصنوعی استفاده کند. علاوه بر کنترلهای صادراتی، میتواند قانون تولید دفاعی را برای وادار کردن شرکتها به افشای اطلاعات حساس و استفاده از قدرت خرید فدرال برای مشروط کردن آنچه آژانسها میخرند به آنچه توسعهدهندگان به اشتراک میگذارند و برای ارزیابی خارجی ارائه میدهند، به کار گیرد. آنچه واشنگتن فاقد آن است، یک چارچوب پایدار برای هدایت این اقدامات و عزم برای اجرای آنهاست. ابزارهای کنونی – مجوز صادرات، فشار غیررسمی بر شرکتهای منفرد – بداهه هستند و عمدتاً با صلاحدید اجرایی اعمال میشوند، به این معنی که میتوانند توسط هر کسی که در آینده کاخ سفید را اشغال کند، لغو شوند. کشمکشهای سیاسی در ایالات متحده پس از جنگ جهانی دوم بر سر اینکه آیا سلاحهای هستهای باید توسط یک مقام نظامی یا غیرنظامی کنترل شوند – که پس از یک دوره کوتاه کنترل غیرنظامی، با نگهداری نظامی سلاحها به پایان رسید – چیزی را تولید کرد که حکمرانی هوش مصنوعی هنوز فاقد آن است: قوانین واضح، نظارت فدرال تعریف شده، و پاسخهای قطعی در مورد حکمرانی داخلی.
.
دولت فدرال ابزارهای زیادی برای تنظیم هوش مصنوعی دارد.
.
پیشرفت در سایر مسیرهای نظارتی ایالات متحده نیز پراکنده بوده است. قانونگذاران در واشنگتن لوایح فدرالی را برای رسیدگی به بخشهایی از چشمانداز خطر – مانند محدودیتهای سنی برای چتباتها و یک سوئیچ قطع اضطراری برای مدلهای خطرناک – معرفی کردهاند، اما اینها راه طولانیای را در کنگره در پیش دارند. تلاشهای دولتهای ایالتی در کالیفرنیا، ایلینوی و نیویورک برای حکمرانی بر شرکتهای هوش مصنوعی پیشرفته از طریق گزارشدهی اجباری حوادث، شفافیت و مقررات ممیزی، برخی از این شکافها را پر کرده است، اما این قوانین تا سال ۲۰۲۷ یا ۲۰۲۸ الزامآور نخواهند شد و توسط حوزههای قضایی محدودتر ایالتها و معافیتهای دوستانه صنعت محدود میشوند. هیچ لایحهای هنوز پیشنهاد نکرده است که رژیمهای نظارتی با اختیارات و گسترهای را که سایر صنایع حیاتی ایمنی مانند هوانوردی و انرژی هستهای را تنظیم میکنند، اجباری کند. کنگره باید این نوع سازوکار را ایجاد کند تا سیاستگذاران فرصتی برای تنظیم مؤثر هوش مصنوعی داشته باشند.
.
اگر سیاستگذاران میخواهند در طراحی یک رژیم حکمرانی برای هوش مصنوعی موفق شوند، باید هم درسهای صحیح را از گذشته بگیرند و هم در تاریکی نوآوری کنند. کسانی که بمب را ساختند، مجبور شدند چارچوبی را برای یک «سلاح مطلق» تصور کنند که سابقه کمی برای آن داشتند. آنها با درک بمب آنگونه که واقعاً بود، شروع کردند، که اغلب با ترس از پیامدهای آن انگیزه میگرفتند. با نگاه به معاهدات، سازمانها و مکانیسمهای نظم هستهای، غولهای هوش مصنوعی این فرآیند را معکوس میکنند، با نهادها شروع میکنند و سپس حدس میزنند که چگونه فناوری را با آنها مطابقت دهند. این امر شکستها و شکنندگی آن نهادها – و آنچه هوش مصنوعی را بسیار منحصر به فرد و خطرناک میکند – را مبهم کرده است.
.
نشست آتی بین ترامپ و شی جین پینگ، رهبر چین، در این ماه، آزمون مهمی خواهد بود برای اینکه آیا دو قدرت پیشرو در هوش مصنوعی میتوانند زمینهای برای همکاری در زمینه هوش مصنوعی پیدا کنند. ایمنی هوش مصنوعی در صدر دستور کار موارد بالقوه برای بحث قرار دارد. اما هر چه از این نشست حاصل شود، کار فوریتر و مهمتر در داخل کشور است. واشنگتن حتی هنوز دقیقاً نمیداند که شرکتهای آمریکایی در ماههای آینده چه تواناییهایی خواهند داشت. تلاش برای کنترل بینالمللی بدون نظارت داخلی مستقر، به سؤالات صحیح به ترتیب اشتباه پاسخ خواهد داد. تا زمانی که کنگره پاسخهای واضحتری در مورد اینکه چه کسی بر مرز هوش مصنوعی نظارت میکند، شرکتها چه چیزی را باید افشا کنند، و رگولاتورها چه اختیاراتی دارند، ارائه ندهد، رویکردهای آمریکا برای مدیریت هوش مصنوعی پراکنده و بداهه باقی خواهد ماند. در مهمترین شباهت بین هوش مصنوعی و بمب، حاشیه خطا بسیار کم است.