هفته گذشته در اتاقی کوچک در سن دیگو، مردی با کت چرم مشکی برایم توضیح داد که چگونه جهان را از نابودی توسط هوش مصنوعی نجات دهیم. مکس تگمارک، چهرهای برجسته در جنبش ایمنی هوش مصنوعی، معتقد است که «هوش عمومی مصنوعی» یا AGI، میتواند پایان زندگی بشر را تسریع کند. من برای کنفرانس NeurIPS، یکی از بزرگترین کنفرانسهای تحقیقات هوش مصنوعی، به این شهر سفر کرده بودم و تگمارک من را به همراه پنج خبرنگار دیگر به جلسهای توجیهی درباره یک شاخص ایمنی هوش مصنوعی دعوت کرده بود که قرار بود روز بعد آن را منتشر کند. هیچ شرکتی بهتر از C+ امتیاز نگرفت.
تهدید هوش فراانسانی تکنولوژیک، موضوعی از داستانهای علمی تخیلی است، با این حال در چند سال اخیر به موضوعی جدی برای بحث تبدیل شده است. با وجود فقدان تعریف روشن — حتی سام آلتمن، مدیرعامل OpenAI، AGI را یک «اصطلاح ضعیف تعریفشده» خوانده است — این ایده که هوش مصنوعی قدرتمند حاوی تهدیدی ذاتی برای بشریت است، در میان منتقدان فرهنگی محترم پذیرفته شده است.
البته، هوش مصنوعی مولد یک فناوری قدرتمند است که قبلاً تأثیر عظیمی بر کار و فرهنگ ما گذاشته است. اما هوش فراانسانی به یکی از چندین روایت سؤالبرانگیز تبلیغ شده توسط صنعت هوش مصنوعی تبدیل شده است، در کنار این ایدهها که هوش مصنوعی مانند انسان یاد میگیرد، قابلیتهای «نوظهور» دارد، «مدلهای استدلالی» واقعاً استدلال میکنند، و این فناوری در نهایت خود را بهبود خواهد بخشید.
من به NeurIPS، که در قلعه ساحلی مرکز همایش سن دیگو برگزار شد، سفر کردم تا تا حدی بفهمم که این روایتها در صنعت هوش مصنوعی چقدر جدی گرفته میشوند. آیا آرمانهای AGI راهنمای تحقیق و توسعه محصول هستند؟ وقتی از تگمارک در این مورد پرسیدم، او به من گفت که شرکتهای بزرگ هوش مصنوعی صادقانه در تلاش برای ساخت AGI هستند، اما استدلال او قانعکننده نبود. او گفت: «من بنیانگذاران آنها را میشناسم و آنها این موضوع را علناً اعلام کردهاند.»
همزمان با رشد ترس و هیجان پیرامون هوش مصنوعی در دهه گذشته، حضور در NeurIPS نیز به شدت افزایش یافته و از حدود 3,850 شرکتکننده در سال 2015 به 24,500 نفر در سال جاری، طبق گفته برگزارکنندگان، رسیده است. سه سالن اصلی مرکز همایش هر کدام مساحتی معادل چندین آشیانه کشتی هوایی داشتند. سخنرانان برای هزاران نفر سخنرانی میکردند. ریچ ساتون، دانشمند برجسته کامپیوتر، در سخنرانی خود درباره هوش فراانسانی اعلام کرد: «من احساس میکنم در یک جستوجو هستیم، و این جستوجو باید برای جام مقدس باشد.»
حامیان شرکتی کنفرانس، غرفههایی برای تبلیغ دستاوردهای خود و تحت تأثیر قرار دادن شرکتکنندگان با چشماندازهای تحقیق و توسعهشان داشتند. شرکتهایی بودند که نامشان را شنیدهاید، مانند گوگل، متا، اپل، آمازون، مایکروسافت، بایتدنس، و تسلا، و شرکتهایی که احتمالاً نامشان را نشنیدهاید، مانند رانپاد (Runpod)، پولساید (Poolside) و اولاما (Ollama). یک شرکت، لامبدا (Lambda)، خود را به عنوان «ابر هوش فراانسانی» تبلیغ میکرد. چندی از بزرگان به طور آشکاری در سالن نمایشگاه غایب بودند، از جمله OpenAI، انتروپیک (Anthropic) و ایکسآی (xAI). اجماع در میان محققانی که با آنها صحبت کردم این بود که اعتبار این شرکتها آنقدر زیاد است که راهاندازی یک غرفه بیمعنا خواهد بود.
این کنفرانس، میدان نبرد اصلی در جنگ استعدادهای هوش مصنوعی است. بخش عمدهای از تلاشهای جذب نیرو در خارج از خود مرکز همایش، در رویدادهای نیمهسری و فقط با دعوتنامه در مرکز شهر سن دیگو اتفاق میافتد. این رویدادها، تجمل رو به رشد صنعت را به نمایش گذاشتند. در سالنی که توسط موسسه لود (Laude Institute)، یک گروه پشتیبانی توسعه هوش مصنوعی، میزبانی میشد، یک دانشجوی کارشناسی ارشد در مورد حقوق اولیه در شرکتهای مختلف هوش مصنوعی صحبت میکرد که «یک میلیون، یک میلیون و پانصد هزار» دلار بود که بخش زیادی از آن سهام بود. این سالن به سبک سالن VIP در یک جشنواره موسیقی طراحی شده بود. در واقع، در بالای هتل هارد راک (Hard Rock Hotel) قرار داشت.
بهترین مکان برای حضور، اگر میتوانستید وارد شوید، مهمانی میزبانی شده توسط کوهیر (Cohere)، یک شرکت کانادایی سازنده مدلهای زبان بزرگ، بود. (کوهیر توسط گروهی از ناشران خبری، از جمله آتلانتیک، به دلیل نقض حق تکثیر و علامت تجاری تحت پیگرد قانونی قرار گرفته است.) این مهمانی در ناو هواپیمابر یواساس میدوی (USS Midway) که در عملیات طوفان صحرا مورد استفاده قرار گرفته و اکنون در بندر سن دیگو لنگر انداخته است، برگزار شد. هدف، طبق صفحه ثبتنام رویداد، «جشن گرفتن پتانسیل هوش مصنوعی برای اتصال جهان ما» بود.
با کمک یکی از دوستان محقق، دعوتنامهای برای یک دورهمی که توسط دانشگاه هوش مصنوعی محمد بن زاید (Mohamed bin Zayed University of Artificial Intelligence)، اولین دانشگاه متمرکز بر هوش مصنوعی جهان، به نام رئیس فعلی امارات متحده عربی، میزبانی میشد، گرفتم. اوایل سال جاری، MBZUAI موسسه مدلهای بنیادی (Institute for Foundation Models) را، یک گروه تحقیقاتی در سیلیکون ولی، تأسیس کرد. این رویداد که در یک استیکخانه برگزار شد، بوفهای باز با صدف، میگو شاهی، سویچه (ceviche) و سایر خوراکیها داشت. در طبقه بالا، متا (Meta) دورهمی خود را برگزار میکرد. طبق شایعات، برخی از محققان طبقه پایین، کارمندان متا بودند که امیدوار بودند توسط موسسه مدلهای بنیادی جذب شوند، که ظاهراً بستههای جبرانی جذابتری ارائه میداد.
از 5,630 مقاله ارائه شده در بخش پوستر کنفرانس NeurIPS، تنها دو مورد AGI را در عنوان خود ذکر کرده بودند. نظرسنجی غیررسمی از 115 محقق در این کنفرانس نشان داد که بیش از یک چهارم آنها حتی نمیدانستند AGI مخفف چیست. در همان زمان، ایده AGI و اعتبار همراه آن، حداقل تا حدی مسئول بوفه بود. امکاناتی که من با آنها روبرو شدم مطمئناً از سود چتباتها پرداخت نشده بود. به عنوان مثال، OpenAI گزارشاً انتظار دارد ضررهای عظیم خود را تا سال 2030 ادامه دهد. این صنعت تا چه مدت میتواند سویچههای مجلل را ارائه دهد؟ و با توقف آن، چه اتفاقی برای اقتصاد، که بسیاری معتقدند توسط صنعت هوش مصنوعی پشتیبانی میشود، خواهد افتاد؟
در یکی از سخنرانیهای اصلی، زینب توفکچی، جامعهشناس و نویسنده، به محققان هشدار داد که ایده هوش فراانسانی مانع از درک فناوریای میشود که در حال ساخت آن هستند. این سخنرانی با عنوان «آیا کابوسهای اشتباهی درباره هوش مصنوعی میبینیم؟»، به چندین خطر ناشی از چتباتهای هوش مصنوعی اشاره کرد، از جمله اعتیاد گسترده به چتباتها و تضعیف روشهای ایجاد حقیقت. پس از سخنرانی توفکچی، اولین مخاطبی که سؤال پرسید، به نظر عصبانی بود. آن مرد پرسید: «آیا تحقیقات اخیر را دنبال کردهاید؟ زیرا اینها دقیقاً همان مشکلاتی هستند که ما در تلاش برای حل آنها هستیم. پس ما از این نگرانیها آگاهیم.» توفکچی پاسخ داد: «من واقعاً این بحثها را نمیبینم. من مدام میبینم که مردم درباره بیکاری گسترده در مقابل انقراض انسان بحث میکنند.»
برایم عجیب بود که هر دو ممکن است درست باشند: بسیاری از توسعهدهندگان هوش مصنوعی به ملموسترین مشکلات فناوری فکر میکنند، در حالی که مکالمات عمومی درباره هوش مصنوعی — از جمله در میان برجستهترین توسعهدهندگان — تحت سلطه مشکلات خیالی است. حتی نام کنفرانس نیز حاوی تناقضی بود: نام «NeurIPS» مخفف «سیستمهای پردازش اطلاعات عصبی» است، اما شبکههای عصبی مصنوعی در دهه 1940 توسط یک زوج منطقدان و متخصص فیزیولوژی اعصاب ابداع شدند که به شدت پیچیدگی نورونهای بیولوژیکی را دستکم گرفتند و شباهت آنها را به یک کامپیوتر دیجیتال بیش از حد بیان کردند. با این حال، یک ویژگی مرکزی فرهنگ هوش مصنوعی، وسواس به این ایده است که کامپیوتر یک ذهن است. انتروپیک و OpenAI گزارشهایی با زبانهایی منتشر کردهاند که چتباتها را به ترتیب «ناصادق» و «دروغگو» توصیف میکنند. در گفتمان هوش مصنوعی، داستانهای علمی تخیلی اغلب بر علم غلبه میکنند.
بر روی پشت بام هتل هارد راک، در مصاحبهای با یوشوا بنجیو، یکی از سه «پدرخوانده» هوش مصنوعی، شرکت کردم. بنجیو، یکی از مخترعان الگوریتمی که ChatGPT را ممکن میسازد، اخیراً یک سازمان غیرانتفاعی به نام LawZero را برای تشویق توسعه هوش مصنوعی که «ایمن به طراحی» است، راهاندازی کرده است. او نام این سازمان غیرانتفاعی را از قانونی که در چندین داستان آیزاک آسیموف به آن اشاره شده است، برگرفته که بیان میکند ربات نباید اجازه دهد به انسانها آسیبی برسد. بنجیو نگران بود که در آیندهای احتمالی و ویرانشهری، هوشهای مصنوعی ممکن است سازندگان خود را فریب دهند و «کسانی که هوشهای مصنوعی بسیار قدرتمندی خواهند داشت، ممکن است از آن برای مزیت سیاسی، در زمینه تأثیرگذاری بر افکار عمومی، سوءاستفاده کنند.»
به اطراف نگاه کردم تا ببینم آیا کسی دیگر از این عدم ارتباط آشفته است یا خیر. بنجیو اشارهای نکرد که چگونه ویدیوهای جعلی هماکنون بر گفتمان عمومی تأثیر میگذارند. او همچنین به طور معناداری به بحران روانی نوظهور ناشی از چتباتها، یا غارت هنرها و علوم انسانی نپرداخت. از نظر او، آسیبهای فاجعهبار «سه تا ده یا بیست سال» دیگر رخ خواهند داد. ما هنوز زمان داریم «تا از نظر فنی راه حل را پیدا کنیم.»
بنجیو در جای دیگری نوشته است درباره خطرات فوریتر هوش مصنوعی. اما تمرکز فنی و گمانهزنانه اظهارات او، احساسات در میان فناوران را که اکنون بر گفتگوی عمومی درباره آینده ما تسلط دارند، به خوبی منعکس میکند. ظاهراً، آنها در تلاشند تا ما را نجات دهند، اما چه کسی واقعاً از پیشبینیهای آنها سود میبرد؟ همانطور که با افراد 25 سالهای صحبت میکردم که پیشنهادهای شغلی هفت رقمی دریافت میکردند و ستارههای میلیونر این صنعت را تماشا میکردم که درباره خطرات هوش فراانسانی بحث میکردند، پاسخ روشن به نظر میرسید.
درباره نویسنده
الکس رایزنر نویسنده ثابت آتلانتیک است.