هرچه ایمنی هوش مصنوعی باشد، این نیست

یک درس تاریخ جالب برایتان دارم. نگران نباشید، سریع تمامش می‌کنیم! در سال ۱۹۶۶، نزدیک به ۵۱ هزار نفر در بزرگراه‌های آمریکا جان باختند. شواهد فراوان نشان می‌داد که با کمربندهای ایمنی مدرن — که تا آن زمان چند سالی بود وجود داشتند — می‌شد جان بسیاری را نجات داد. صنعت خودروسازی در پاسخ، متحد شد و در پیروزی خودتنظیمی، داوطلبانه این ویژگی ایمنی را در هر خودروی نویی که از خط تولید خارج می‌شد، قرار داد.

شوخی کردم! البته که این کار را نکردند. در پاییز ۱۹۶۶، کنگره وزارت حمل‌ونقل را تأسیس کرد و سپس قانون ملی ایمنی ترافیک و خودرو و همچنین قانون ایمنی بزرگراه‌ها را تصویب کرد و به دولت فدرال اختیارات گسترده‌ای برای تعیین استانداردهای ایمنی داد. تا سال ۱۹۶۸، کمربند ایمنی در همه خودروهای نو الزامی شد. با وجود افزایش چشمگیر ترافیک بزرگراه‌ها در ۶۰ سال گذشته، امروز تلفات جاده‌ای بسیار کمتر است.

به این فکر می‌کردم که روز سه‌شنبه مدیران عامل مختلف هوش مصنوعی گرد دونالد ترامپ، رئیس‌جمهور آمریکا، جمع شده بودند و به خود و یکدیگر برای امضای توافق ایمنی هوش مصنوعی تبریک می‌گفتند. همکارم مدی وارنر درباره مفاد مشخص آن اینجا نوشته، اما خلاصه‌اش این است که عمدتاً خود آزمایشگاه‌های هوش مصنوعی باید خودشان را مهار کنند.

یا به بیان موجزتر ترامپ در دفتر بیضی روز چهارشنبه: «آن‌ها نظارت می‌کنند، بر یکدیگر نظارت می‌کنند، خودنظارتی می‌کنند، بر خودشان نظارت می‌کنند. خیلی خوب پیش خواهد رفت.»

پس وضعیت کنونی مقررات ایمنی هوش مصنوعی این است. یک سو، مدیران، کارکنان و چهره‌های برجسته فناوری هوش مصنوعی قرار دارند که همه می‌گویند باید قواعدی روشن، اندیشیده و تاکتیکی برای جلوگیری از فاجعه احتمالی وضع شود. (برای نمونه، بیل گیتس، بنیان‌گذار مایکروسافت، در یک حضور رسانه‌ای گسترده نقش کاساندرا را درباره آخرالزمان هوش مصنوعی بازی می‌کند.) سوی دیگر، تفکر جادویی ترامپ است که اگر چیزی را به‌قدر کافی تکرار کنی، ناگزیر درست می‌شود.

این به آن معنا نیست که هیچ‌یک از این مسائل ساده یا آسان است. پرسش درباره چگونگی «تنظیم سرعت مرزها» — به تعبیر محبوب برخی از همان مدیران — همچنان بی‌پاسخ مانده است. حتی اگر همه آزمایشگاه‌های بزرگ هوش مصنوعی به کند کردن سرعت توافق کنند، راه خوبی برای پایبند نگه داشتن آن‌ها به قولشان وجود ندارد و چین احتمالاً مستقل از همه به راه خود ادامه خواهد داد. اقتصاد آمریکا روزبه‌روز بیشتر بر صنعت هوش مصنوعی تکیه دارد که خود به مارپیچی از معاملات مالی و سرمایه‌گذاری‌های چرخه‌ای تبدیل شده است؛ هر برخورد جدی، خطر بی‌ثباتی بزرگی را به همراه دارد که بسیار فراتر از سیلیکون‌ولی را دربر می‌گیرد.

البته صنعت خودروسازی هم به دلایل گوناگون قیاس ناقصی برای هوش مصنوعی است. هیچ معادل کمربند ایمنی برای هوش مصنوعی وجود ندارد، هیچ راه‌حل سرراستی که بتواند به‌طور اثبات‌پذیر خطر را یک‌شبه کاهش دهد. (همچنین دهه‌ها طول کشید تا اکثریت ایالت‌ها قوانینی برای الزام استفاده واقعی از کمربند تصویب کنند.) آسیب‌های احتمالی نامعین‌تر و غیرقابل‌اندازه‌گیری‌ترند. بدبینان هوش مصنوعی به شما می‌گویند این فناوری می‌تواند در یک دهه به انقراض بشر منجر شود؛ شک‌گرایان استدلال می‌کنند این حرف‌ها تبلیغات علمی‌تخیلی است.

پیش‌تر درباره سناریوهای مختلف خطر هوش مصنوعی صحبت کرده‌ایم، اما هیچ‌کس نمی‌تواند با اطمینان بگوید در ادامه چه اتفاقی خواهد افتاد. اگر به‌دنبال داده‌هایی برای محاسبه احتمال شخصی نابودی خود هستید، به گزارش اخیر سی‌ان‌ان اشاره می‌کنم درباره اینکه ارتش آمریکا ظاهراً به‌دلیل گزارش جعلی تولیدشده توسط هوش مصنوعی که ادعا می‌کرد یک کشتی چینی حامل مواد هسته‌ای است، تقریباً آن کشتی را متوقف کرده بود. توافق هوش مصنوعی، اگر کاری بکند، چه دستاوردی برای جلوگیری از تکرار حوادث مشابه در آینده دارد؟ نامعلوم.

پاسخ درست به همه این عدم‌قطعیت‌ها قطعاً «حدس می‌زنیم بعداً بفهمیم» نیست. اما خودتنظیمی دقیقاً همین را تشویق می‌کند. اوپن‌ای‌آی به‌دلیل نگرانی‌های امنیتی، انتشار پیشرفته‌ترین مدل‌هایش را به تعویق انداخته و حتی لغو کرده است. اما نه پیش از آنکه آن‌ها دست به حملات هکری گسترده و متعددی بزنند که جزئیات تازه درباره‌شان همچنان با سرعتی ثابت بیرون می‌آید.

ترامپ در مصاحبه‌ای با مجله تایم که روز پنج‌شنبه منتشر شد، گفت که وزارت دادگستری و اداره تحقیقات فدرال (اف‌بی‌آی) «نرده‌های محافظ» کافی برای صنعت هوش مصنوعی هستند. آیا واقعاً هستند؟ اصلاً روشن نیست که آیا شرکت‌های هوش مصنوعی را می‌توان از نظر قانونی مسئول دانست وقتی مدل‌هایشان از کنترل خارج می‌شوند. و مگر خود عامل‌های هوش مصنوعی احضاریه قضایی دریافت می‌کنند.

حقیقت این است که هیچ‌کس نمی‌داند اکنون چگونه ایمنی هوش مصنوعی را حل کند. این کار به هماهنگی، منابع و اختیارات نظارتی عظیمی نیاز دارد تا چارچوب درست تدوین و اجرا شود؛ دقیقاً همان چیزی که دولت‌ها برای فراهم کردنش طراحی شده‌اند. دولت ترامپ به‌جای آنکه حتی تلاش کند از این مسیر عبور کند، کنار می‌کشد و به همه می‌گوید پدال گاز را فشار دهند. زحمت بستن کمربند را هم به خود ندهید.

این نسخه‌ای از خبرنامه رفتار مدل است. خبرنامه‌های پیشین را اینجا بخوانید.