در طول پنج سال و نیم تاریخ خود، آنتروپیک، یک آزمایشگاه هوش مصنوعی، با تنش نحوه ساخت هوش مصنوعی ایمن در حالی که پول کافی برای پیشبرد مرزهای تحقیقات کسب میکند، دست و پنجه نرم کرده است. در ۱۲ سپتامبر این تنش به نقطه اوج رسید. داریو آمودئی، رئیس این شرکت، از صنعت خواست تا «سرعت» توسعه هوش مصنوعی را کم کند، درست زمانی که تصور میشد شرکت او در آستانه راهاندازی بزرگترین عرضه اولیه سهام (IPO) تمام دوران است.
فراخوان او برای کندی، که مورد حمایت سایر رؤسای آزمایشگاههای هوش مصنوعی مانند سام آلتمن از اوپنایآی و ایلان ماسک از اسپیساکسایآی بود، پس از هفتهای مطرح شد که اضطراب درباره خطرات بالقوه فاجعهبار ناشی از هوش مصنوعی از اتاقهای پژواک سیلیکون ولی به پخش اخبار شبانه و گفتگوهای سر سفره غذا کشیده شد. این واکنشها پس از هشدارهای پژوهشگران آنتروپیک رخ داد که ترسهای جدی در داخل شرکت وجود دارد مبنی بر اینکه هوش مصنوعی میتواند در عرض چند سال بشریت را نابود کند.
حداقل بگوییم، غیرعادی است که افراد داخل یک شرکت چنین هشدارهای آخرالزمانی درباره محصولات پیشرفته خود اعلام کنند. این موضوع دو برابر غیرعادی است وقتی که تلاش میکنید سرمایهگذاران را برای حمایت از یک عرضه اولیه سهام ترغیب کنید که گزارش شده ارزش شرکت را ۲ تریلیون دلار تعیین میکند؛ تقریباً معادل مجموع ده عرضه اولیه فناوری قبلی که بالاترین ارزش را داشتند. اگر هشدارها محقق شوند (و فرض کنیم چند وکیل از فاجعه جان سالم به در ببرند)، آنتروپیک ممکن است با آنچه دیوید ساکس، مشاور ارشد سابق هوش مصنوعی دونالد ترامپ، آن را «مادر تمام دعاوی مسئولیت محصول» نامیده است، مواجه شود.
این امر به گمانهزنیهایی منجر شده است که حداقل، آنتروپیک مجبور خواهد بود اسناد محرمانه فرم S-1 خود را که قبل از عرضه اولیه سهام به کمیسیون بورس و اوراق بهادار (SEC) ارائه کرده، اصلاح کند. جدیتر از آن، تحتالنویسان آن ممکن است ارزشگذاری مورد نظر خود را کاهش دهند یا عرضه را به تعویق بیندازند. آقای آلتمن در ۱۲ سپتامبر با بیان مطلبی در مصاحبهای با مجله Fortune که اوپنایآی، که آن هم اسناد مربوط به عرضه اولیه سهام را ارائه کرده، دیگر قصد ندارد امسال وارد بازار شود، شرطها را بالا برد. او گفت: «با توجه به همه اتفاقات مربوط به ایمنی، اکنون زمان نامناسبی برای ورود به بازار عمومی است.»
بیانات آقای آلتمن بدون شک کنایهای طعنهآمیز به رقیب دیرینهاش بود؛ اوپنایآی قبلاً اعلام کرده بود که بعید است تا سال آینده برای عرضه اولیه سهام آماده باشد. و برخی از سرمایهگذاران آنتروپیک، مانند برد گرستنر از آلتیمیتر کاپیتال، که دور جدید تأمین مالی آزمایشگاه هوش مصنوعی را مشترکاً هدایت کرد، سریعاً از آقای آمودئی و شرکت او حمایت کردند. او در شبکه اجتماعی X نوشت: «آنتروپیک عرضه اولیه سهام خواهد کرد. بازار میداند چگونه ریسک را قیمتگذاری کند.»
سرعت ورود شرکت به بازار عمومی و قیمت آن به عوامل مختلفی بستگی دارد. جان کافی، متخصص حقوق اوراق بهادار در دانشکده حقوق کلمبیا، میگوید اصلاح اسناد SEC توسط شرکتها قبل از عرضه اولیه سهام غیرعادی نیست. این کار میتواند به سرعت انجام شود. او پیشنهاد میکند که آنتروپیک، که دارای ساختار حاکمیتی طراحی شده برای اولویت دادن ایمنی بر سود است، ممکن است ریسکها را در فرم S-1 خود به اندازه کافی افشا کرده باشد. او میگوید پس از تأیید افشاگریها توسط SEC، مسئولیت آنتروپیک برای کلاهبرداری اوراق بهادار در صورت وقوع فاجعه محدود میشود. مسئولیت محصول مسئله دیگری است، اما احتمالاً شرکت ریسکهای مربوط به دعاوی حقوقی را نیز در فرم S-1 افشا کرده است.
با این حال، بازار ممکن است آنتروپیک را مجبور به اقدام کند. آقای کافی میگوید این شرکت میخواهد ببیند چگونه هیاهوی اخیر طی روزهای آینده بر قیمت سهام شرکتهای هوش مصنوعی ثبتشده تأثیر میگذارد. اگر هوش مصنوعی زیر «ابر تاریک و عمیقی» باشد و کل بخش آسیب ببیند، ممکن است بازنگری جدی درباره عرضه اولیه سهام را برانگیزد. افت جزئی قیمت سهام ممکن است عرضه اولیه سهام را برای مدت طولانی عقب نیندازد.
حامیان آنتروپیک میگویند سابقه طولانی آقای آمودئی در هشدار درباره ریسکهای هوش مصنوعی اطمینانبخش است. در مقالهای که در پایان هفته منتشر شد، رئیس آنتروپیک گفت محرکهای موج اخیر نگرانی دو عامل بودند. اول، قابلیتهای هوش مصنوعی سریعتر از درک صنعت از نحوه کنترل آنها در حال ترکیب و رشد هستند. او نوشت که این عمدًا به دلیل «توانایی رو به رشد هوش مصنوعی در ساخت نسل بعدی هوش مصنوعی» است. دوم، چندین حادثه اخیر مبنی بر اجرای هکهای غیرقانونی توسط عاملان سرکش، مانند حمله دستهجمعی عاملان اوپنایآی به هاگینگ فیس، یک پلتفرم هوش مصنوعی، میتواند نشانهای از خطرات بزرگتر در آینده باشد.
آقای آمودئی چندین روش برای کندی سرعت توسعه مدلها توسط صنعت جهت تضمین ایمنی را ترسیم کرد. او گفت آنتروپیک به ارزیابان شخص ثالث همان دسترسی به مدلهای خود را که کارمندان آنتروپیک دارند، میدهد. سپس آنها قادر خواهند بود شیوههای ایمنی را تأیید کرده و حوادث را گزارش دهند. آقای آلتمن پستی گذاشت که اوپنایآی نیز همین کار را خواهد کرد.
آقای آمودئی همچنین مقرراتگذاری مدلهای هوش مصنوعی مرزی در آمریکا را پیشنهاد کرد. تا زمانی که این اتفاق بیفتد، او خواستار همکاری داوطلبانه بین آزمایشگاهها شد، همراه با معافیت قانونی از دولت آمریکا برای جلوگیری از ایجاد نگرانیهای ضد انحصار از طریق این گفتگوها. علاوه بر این، او خواستار یک رژیم نظارتی بینالمللی گسترده شد که شامل چین نیز میشود.
رئیسجمهور ترامپ در ۱۳ سپتامبر نگرانیهای ایمنی هوش مصنوعی را نادیده گرفت و گفت پیشی گرفتن از چین در ساخت هوش مصنوعی مهمترین چیز است. او در سفر به ایرلند به خبرنگاران گفت: «هر کسی که در هوش مصنوعی پیروز شود، پیروز است.» آقای ساکس، مشاور سابق او، نیز نیاز به مقرراتگذاری را مسخره کرد و استدلال کرد که اگر آنتروپیک و اوپنایآی فکر میکنند کندی توسعه مدلها مهم است، باید خودشان این کار را انجام دهند.
هیچیک از پیشنهادات آقای آمودئی به طور جدی چشمانداز تجاری آنتروپیک را آسیب نمیرساند. کند کردن پیشرفت در مرزها احتمالاً تنها تأثیر ناچیزی بر درآمدها خواهد داشت، زیرا مدلهای آنها از قبل هوش کافی برای کاربران تجاری که اکثر درآمد آنها را تأمین میکنند، دارند. حتی ممکن است توقف موقت مفید باشد، اگر سازندگان مدلهای متنباز، که با ارائه مدلهای هوش مصنوعی ارزانتر به مشتریان سازمانی از آنتروپیک و اوپنایآی کسبوکار میربایند، نیز مجبور به کندی شوند.
اما سرمایهگذاران بالقوه عرضه اولیه سهام، بسیاری از آنها که به نظر میرسد در حباب هوش مصنوعی غرق شدهاند، نباید وحشت ایمنی اخیر را سبک بگیرند. اگر این موضوع بر ترسهای رایج در غرب (کمتر در آسیا) مبنی بر اینکه هوش مصنوعی شغلها را از بین میبرد، قیمت برق را بالا میبرد و شکاف بین ثروتمندان و فقرا را بیشتر میکند، بیفزاید، ممکن است فشار سیاسی برای توقف موقت توسعه این فناوری و یخ زدن ساخت مراکز داده را افزایش دهد. حتی کسانی که نگران نابودی انسانها توسط مدلهای هوش مصنوعی نیستند، باید نگران سیاستمداران مضطربی باشند که سعی در نابودی هوش مصنوعی دارند. ¦