پژوهشگران اوپنایآی و آنتروپیک پس از استعفای یک پژوهشگر در آنتروپیک که باعث شد نظارتهای تازهای شکل بگیرد، درخواستهای خود را برای کند کردن هوش مصنوعی افزایش داده و نسبت به خطرات وجودی برای بشریت هشدار میدهند.
نگرانیها زمانی آغاز شد که جیکوب کوکسون، پژوهشگر آنتروپیک، سهشنبه اعلام کرد که از شرکت جدا میشود زیرا آنتروپیک و رقیبش اوپنایآی را به «قمار با جان ما» متهم کرده بود. او افزود که سازندگان هوش مصنوعی معتقدند این فناوری میتواند «تا پایان دهه همه ما را بکشد». ایوان هابینگر، مسئول همراستایی آنتروپیک، در پاسخ گفت که انتظار دارد احتمال وقوع چنین اتفاقی بیش از ۱۰ درصد باشد.
از آن زمان، چندین کارمند در هر دو آزمایشگاه هوش مصنوعی از درخواستها برای کاهش سرعت توسعه هوش مصنوعی حمایت کرده و بر خطرات این فناوری تأکید کردهاند. این هشدارهای عمومی نقطه اوج نگرانیهای رو به رشد جهانی درباره قابلیتهای هوش مصنوعی است، که پس از حملات سایبری متعدد و حوادث امنیتی در ماههای اخیر توسط مدلهای سرکش توسعه یافته توسط اوپنایآی و آنتروپیک صورت گرفته است.
«به عنوان یک فرد، من نیز فکر میکنیم باید سرعت را کم کنیم»، جولی استیل، عضو تیم فنی اوپنایآی که در تیم ایمنی فعالیت میکند، اواخر چهارشنبه در پستی در ایکس (X) در پاسخ به هشدارهای کوکسون گفت.
ساموئل مارکس، پژوهشگر آنتروپیک، چهارشنبه در پستی در ایکس گفت: «توسعهدهندگان هوش مصنوعی باور دارند که فناوریشان میتواند منجر به انقراض بشر (یا نتایج مشابه بدی) شود.» او افزود: «این اتفاق ممکن است در چند سال آینده رخ دهد. به طور کلی، هرچه کارمند ارشدتر باشد، نگرانیاش بیشتر است.»
سخنگوی آنتروپیک در پاسخ به پرسش سیانبیسی درباره اظهارات کارکنان در شبکههای اجتماعی گفت که این شرکت اولین آزمایشگاهی بود که چارچوبی اختصاصی برای کاهش «خطرات فاجعهبار ناشی از مدلهای هوش مصنوعی» منتشر کرد.
«ما همیشه شفاف بودهایم که هوش مصنوعی هم مزایای عظیم و هم ریسکهای بیسابقه خواهد داشت»، سخنگوی آنتروپیک گفت و افزود که شرکت در حال ساخت مدلهایی با «برخی از قویترین تدابیر حفاظتی در صنعت» است.
اوپنایآی هنگام تماس سیانبیسی از ارائه نظر خودداری کرد و به پستهای وبلاگی اخیر در سایت خود اشاره نمود.
خودبهبودی بازگشتی چیست؟
بسیاری از بزرگترین ترسها در زمینه ایمنی هوش مصنوعی حول محور مدلهای پیشرفتهای میچرخد که به طور فزایندهای در بهبود عملکرد خود توانمندتر میشوند؛ تکنیکی که به عنوان خودبهبودی بازگشتی یا RSI شناخته میشود.
«تأکید بر میزان خطرناک بودن حرکت سریع به سمت RSI دشوار است»، جاسمین وانگ، پژوهشگر اوپنایآی که روی همراستایی کار میکند، سهشنبه شب گفت.
«هنوز هیچ برنامه علمی عملیاتی برای حل ریسکهای ناشی از هوش مصنوعی خودبهبود بازگشتی وجود ندارد. لطفاً توجه کنید!» آنا وانگ، که در آنتروپیک روی ایمنی و همراستایی هوش عمومی مصنوعی (AGI) کار میکند، گفت.
یاکوب پاچوتسکی، دانشمند ارشد اوپنایآی، شنبه گذشته گفت که «انتظار قوی» دارد که سرعت پیشرفت در هوش مصنوعی بتواند تا مرحله خودبهبودی بازگشتی ادامه یابد.
او در پستی در وبلاگ شرکت گفت: «اگر توسعه هوش مصنوعی در مسیر فعلی خود ادامه یابد، سیستمهایی که در چند سال آینده خواهیم دید، احتمالاً جهشهای توانمندی برابر یا بزرگتری را نشان خواهند داد و به طور فزایندهای توسعه خود را هدایت خواهند کرد.»
«این زمانی است که نیاز به احتیاط شدید دارد»، پاچوتسکی افزود. «من نگرانم که هیچکس برای پیامدهای افزایش سریع و مداوم هوش ماشینی آماده نیست.»
پل کریستیانو، که قبلاً رئیس ایمنی در مرکز استانداردها و نوآوری هوش مصنوعی (CAISI) وابسته به وزارت بازرگانی آمریکا بود، گفت توسعه اخیر قابلیتهای هوش مصنوعی او را به این باور رسانده است که «ریسک معناداری وجود دارد که تسریع سریع در قابلیتهای هوش مصنوعی منجر به از دست دادن کنترل فاجعهبار و غیرقابل بازگشت در کوتاهمدت شود.» اوپنایآی چهارشنبه اعلام کرد که کریستیانو به هیئت مدیره بنیاد اوپنایآی پیوسته است.
هشدارهای ایمنی هوش مصنوعی به واشنگتن رسید
نگرانیها درباره قابلیتهای مدلهای هوش مصنوعی در ماههای اخیر افزایش یافته است. اعلامیه مربوط به مدل میتوس (Mythos) آنتروپیک، که این شرکت آن را دارای قابلیتهای سایبری پیشرفته معرفی کرده بود، در آوریل موجی از وحشت را در موسسات مالی سراسر جهان ایجاد کرد.
در ژوئیه، اوپنایآی اعلام کرد که مدلهایش مسئول یک حمله سایبری علیه شرکت دیگری بودند، در حالی که مدلهای کلود (Claude) آنتروپیک نیز مسئول حوادث امنیت سایبری بودند، از جمله موردی که در آن میتوس هویتهای جعلی ساخت تا انسانها را فریب دهد.
حدود ۱۴۰۰ پژوهشگر هوش مصنوعی، از شرکتهایی مانند اوپنایآی، آنتروپیک، متا و گوگل دیپمایند (Google DeepMind)، ژوئیه گذشته نامهای سرگشاده منتشر کردند و از دولت آمریکا خواستند ابزارهای لازم را برای حمایت از تلاش جهت «کنترل عمدی سرعت مرز توسعه هوش مصنوعی خودکار» توسعه دهند.
در حالی که رؤسای آزمایشگاههای هوش مصنوعی به طور فزایندهای علناً خواستار قوانین و استانداردهای بیشتر در مورد توسعه مدلها شدهاند، رقابت عظیم بین شرکتهای توسعهدهنده این فناوری، پیشرفتهای سریع را تحریک میکند.
اوپنایآی و آنتروپیک هر دو در حال رقابت برای ورود به بازار بورس هستند. طبق گزارش رویترز در روز جمعه، با استناد به منابع مطلع، انتظار میرود آنتروپیک حداقل از اواسط اکتبر بازاریابی عرضه اولیه سهام خود را آغاز کند و لیست شدن را چند روز قبل از انتخابات میاندورهای آمریکا در نوامبر تکمیل نماید.
دیوید ساکس، مشاور ارشد سابق هوش مصنوعی دونالد ترامپ، رئیسجمهور آمریکا، ظاهراً پیشنهاد کرد که برنامههای آنتروپیک برای عرضه اولیه سهام باید متوقف شود. او در پستی در ایکس گفت: «قطعاً عرضه اولیه سهام آنتروپیک باید تا زمان تحقیق در مورد ادعاهای این "سوتزن" متوقف شود.» آنتروپیک از اظهار نظر در مورد این پست خودداری کرد.
اعضای کنگره در ماههای اخیر تلاش کردهاند لایحههایی را برای مقابله با پیشرفت سریع هوش مصنوعی معرفی کنند، هرچند اجماع روشنی درباره نحوه تنظیم این فناوری وجود ندارد. یکی از این لوایح، به نام قانون FRONTIER، هدف خود را ایجاد چارچوبی برای حاکمیت بر استقرار مدلهای پیشرفته هوش مصنوعی قرار داده است. لایحه پیشنهادی دیگر، با عنوان قانون ممنوعیت ابرهوش مصنوعی (Ban Artificial Superintelligence Act)، توسعه پیشرفته هوش مصنوعی را تا زمان تعیین قوانین ایمنی موقتاً متوقف خواهد کرد.
«پژوهشگران ایمنی در حال استعفا هستند، مدلهای قدرتمند هوش مصنوعی از آزمایشگاههایشان خارج میشوند و شرکتها همچنان با سرعت پیش میروند»، لوری تراهان، نماینده دموکرات ایالت ماساچوست، چهارشنبه در پستی در ایکس نوشت. «زمان آن رسیده است که کنگره از کنار کشیدن دست بردارد و وظیفهاش را انجام دهد.»