زمانی که برای مدت کوتاهی بازارهای مالی را برای نشریه اکونومیست پوشش میدادم، از احترامی که به فاجعهبینان گذاشته میشد، شگفتزده شدم. بسیاری از سرمایهگذارانی که در آن شغل با آنها صحبت میکردم، عمیقاً به کسب درآمد علاقهمند بودند. آنها همچنین به طور مقاومتناپذیری جذب افرادی میشدند که به آنها میگفتند ممکن است همه چیز را از دست بدهند. این شاید به این دلیل بود که فروش استقراضی فرصتی برای کسب سود از هرج و مرج ارائه میداد.
بقیه ما، که کمتر به تفکر روزمره درباره احتمال عادت داریم، حتی بیشتر بر سناریوهای فاجعهبار متمرکز هستیم، با مزایای کمتر آشکار. آیا تغییرات آب و هوایی فاجعهبار خواهد بود؟ آیا جنگ هستهای در خواهد گرفت؟ چند نفر در همهگیری بعدی کشته خواهند شد؟ آیا هوش مصنوعی شغلها را از بین خواهد برد؟ آیا بشریت را نابود خواهد کرد؟
در مورد خطرات هوش مصنوعی، فاجعهبینی داریو آمودی (تصویر) با خوشبینی مارک زاکربرگ و جنسن هوانگ در تضاد است. سم آلتمن و ایلان ماسک از بدبینی به خوشبینی نسبی تغییر کردهاند و ممکن است دوباره تغییر کنند. دیدگاه آقای ماسک اکنون به دکتر استرنجلاو نزدیکتر به نظر میرسد: ما نمیتوانیم این چیز را متوقف کنیم، پس بهتر است سعی کنیم از این مسیر لذت ببریم.
احتمال واقعی یک پیامد بسیار بد هوش مصنوعی – یا p(doom) در اصطلاح تخصصی – ناشناخته است. پس چرا مردم بیشتر جذب هشدارهای آقای آمودی میشوند تا رضایت خاطر آقای زاکربرگ؟ (یا حداقل من اینطور هستم.)
در میان کارشناسان، ترس ساده از اشتباه کردن بخشی از توضیح است. یک راه خوب برای باهوش به نظر رسیدن این است که پیشبینی کنید ۲۰ یا ۳۰ درصد احتمال وقوع اتفاقی وحشتناک وجود دارد. p(doom) ۲۰ درصدی به اندازه کافی بزرگ است که از اتهامات رضایت خاطر جلوگیری کند، اما به اندازه کافی کوچک است که احتمالاً شما را به خاطر آن مورد بازخواست قرار ندهند. این چیزی بود که وقتی آقای ماسک به سردبیر ما گفت که احتمال نابودی بشریت توسط هوش مصنوعی ۲۰ درصد است، به ذهنم خطور کرد. این شانسها بدتر از رولت روسی با یک هفتتیر معمولی است. هر کسی که واقعاً این را باور دارد، باید تمام تلاش خود را برای جلوگیری از ساخت مراکز داده انجام دهد. اگر این کار را نمیکنند، نشانهای است که در سطحی، آنها واقعاً به آنچه میگویند باور ندارند.
برای اکثر مردم، دلیل قدرتمندتر، گمان میکنم، همان چیزی است که کار پل اسلوویک، روانشناس آمریکایی، پیشنهاد میکند. آقای اسلوویک استاد روانشناسی در دانشگاه اورگان است. او که در سال ۱۹۳۸ متولد شده است، تمام دوران حرفهای خود را صرف کاوش در زمینه مطالعات تصمیمگیری کرده است. او مشاهده کرده است که ما کمتر از خطراتی که میفهمیم، حتی اگر خطر بیشتری برای ما داشته باشند، میترسیم تا از خطراتی که فراتر از درک یا کنترل ما هستند، حتی اگر احتمالاً خطر کمتری برای ما داشته باشند. ما بسیار بیشتر در معرض خطر کشته شدن بر اثر سرطان، بیماری قلبی، تصادف رانندگی، مصرف بیش از حد مواد افیونی یا تیراندازی هستیم تا بر اثر سلاحهای هستهای، تروریسم یا هوش مصنوعی. با این حال، ما از جنگ هستهای، تروریسم و هوش مصنوعی بیشتر از هر یک از این موارد میترسیم. آقای اسلوویک اصطلاحی به یاد ماندنی برای این نوع ترس ناشناخته و غیرقابل اندازهگیری ابداع کرد: «ریسک وحشتناک» (dread risk).
ریسک وحشتناک به ما کمک میکند تا شهودهای به ظاهر متناقض آمریکاییها در مورد هوش مصنوعی را درک کنیم. نزدیک به نیمی از آنها از این فناوری میترسند. با این حال، تعداد نسبتاً کمی از ممنوعیت آن حمایت میکنند. وقتی از آنها خواسته میشود تهدیدات وجودی را رتبهبندی کنند، هوش مصنوعی بسیار پایینتر از سلاحهای هستهای قرار میگیرد. دیدگاهها در مورد هوش مصنوعی بیشتر شبیه دیدگاهها در مورد تغییرات آب و هوایی است تا سلاحهای هستهای. بسیاری از آمریکاییها فکر میکنند تغییرات آب و هوایی یک مشکل است؛ تعداد نسبتاً کمی مایلند چیزی معنادار را برای کاهش خطر فدا کنند.
اما ترس از هوش مصنوعی با ترس از آب و هوا یکسان نیست، زیرا ما وضوح کمتری در مورد اینکه تهدید واقعاً چیست، نسبت به تغییرات آب و هوایی داریم. در واقع، هوش مصنوعی ممکن است اوج ریسک وحشتناک باشد. برخلاف سلاحهای هستهای، تروریسم یا تغییرات آب و هوایی، هنوز کسی را نکشته است. با این حال، ترسناک است زیرا، اگر پیشبینیها در مورد فرا هوش درست باشد، به زودی در همه چیز از ما باهوشتر خواهد شد. به عبارت دیگر، ما دیگر قادر به درک آن نخواهیم بود، همانطور که یک دانشآموز دبیرستانی متوسط نظریه نسبیت را درک نمیکند.
برای گونهای که داستانهای آفرینش آن، حداقل در سنتهای غربی، ما را مسئول میدانند، این چیز جدیدی است. هوش مصنوعی نه تنها تهدیدی برای ما، بلکه برای درک ما از خودمان است. وحشت، پاسخی قابل درک است.
با این حال، این پاسخ چندان مفیدی نیست. ترسهای وجودی مانند جزر و مد هستند. آن وروی، سردبیر بخش آگهیهای ترحیم ما، یک بار به من گفت که در کودکی آنقدر نگران جنگ هستهای شده بود که یک شب ایستاده به خواب رفت، در حالی که دستانش روزنامه را به پنجره فشار میداد به این امید که از ورود تشعشعات جلوگیری کند. آن ترس از بین رفته است. همانطور که خوشبختانه، ترس از تروریسم که پس از ۱۱ سپتامبر در آمریکا فراگیر بود، نیز از بین رفته است. ترسهای جدیدی پدیدار شده و فروکش کردهاند – کووید-۱۹، آب و هوا، تیراندازیهای جمعی.
من نمیدانم، اما قویاً گمان میکنم که ما فقط میتوانیم یک یا دو مورد از اینها را در هر زمان در ذهن داشته باشیم. اگر چنین است، ترسهای وجودی در مورد هوش مصنوعی احتمالاً ترسهای فوریتر در مورد چیزهایی را که در حال حاضر مردم را میکشند، جابجا میکنند. این یک تخصیص نادرست وحشت است.
چقدر نگران هوش مصنوعی هستید؟ نظرات خود را در [email protected] با ما در میان بگذارید.