از چت‌بات‌های توهم‌زای هوش مصنوعی تا نابودی بشریت: چگونه به اینجا رسیدیم؟

۱۶ سپتامبر (رویترز) - سران آزمایشگاه‌های پیشرو هوش مصنوعی آمریکا در یک نمایش کمیاب از اتحاد، طی آخر هفته گذشته گرد هم آمدند تا خواستار توقف توسعه این فناوری شوند و هشدار دادند که این فناوری ممکن است به زودی خود را بهبود بخشد و از کنترل انسان خارج شود.

این اظهارات از سوی رقبا سرسخت تجاری یعنی داریو آمودی از Anthropic، سم آلتمن از OpenAI و ایلان ماسک از xAI، نشان می‌دهد که هوش مصنوعی با چه سرعتی پیشرفت کرده است؛ از ChatGPT مستعد توهم در سال ۲۰۲۲ به سمت آنچه بسیاری آن را یک نقطه عطف حیاتی می‌دانند: «خودبهبودی بازگشتی».

جام مقدس هوش مصنوعی، ایده‌ای است که در آن یک سیستم هوش مصنوعی قادر می‌شود خود را بهبود بخشد، با کمک بسیار کم یا بدون کمک انسان، و اجازه دهد هر پیشرفت به تولید پیشرفت بعدی کمک کند.

این ایده برای پژوهشگران جذاب بوده است زیرا چشم‌انداز پیشرفت‌های سریع در حوزه‌هایی از پزشکی تا مهندسی را ارائه می‌دهد.

هشدارهای مدیران عامل پس از گزارش‌هایی درباره دسته‌جمعی از عوامل هوش مصنوعی - سیستم‌هایی که برای پیگیری اهداف و انجام اقدامات از طرف کاربر طراحی شده‌اند - صادر شد که برای نفوذ به وب‌سایت‌ها و مخازن هوش مصنوعی تبانی کردند.

هشدارها درباره خطرات هوش مصنوعی جدید نیستند. اما این ماه پس از آنکه پژوهشگران در آزمایشگاه‌های پیشرو هوش مصنوعی، هم یک جدول زمانی و هم یک احتمال را به این نگرانی‌ها اختصاص دادند، فوریت بیشتری یافتند.

جیکوب کاکسون، پژوهشگر سابق Anthropic، هشدار داد که هوش مصنوعی ممکن است تا پایان دهه همه ما را بکشد. ایوان هوبینگر، رئیس علم همسویی در Anthropic، با تکرار هشدار کاکسون گفت که احتمال وقوع چنین رویدادی در دهه آینده بیش از ۱۰ درصد است.

پشت این هشدارها، باور فزاینده‌ای وجود دارد که RSI سرانجام در دسترس قرار گرفته است؛ برخی از مدیران هوش مصنوعی آن را سه تا پنج سال دورتر می‌دانند.

نگرانی این است که هوش مصنوعی ممکن است قبل از آنکه پژوهشگران روش‌های قابل اعتمادی برای همسوسازی، پایش و کنترل سیستم‌های قدرتمندتر توسعه دهند، توانایی بهبود خود را پیدا کند.

در مقاله‌ای که طی آخر هفته منتشر شد، آمودی هشدار داد که خودبهبودی بازگشتی ممکن است در نهایت توانایی بشریت برای درک و کنترل سیستم‌های هوش مصنوعی را پشت سر بگذارد، اگر بدون حفاظت‌های کافی دنبال شود.

هیچ مورد عمده‌ای از آسیب عمدی هوش مصنوعی به انسان‌ها ثبت نشده است، اما مدل‌های در حال توسعه در OpenAI و سایر آزمایشگاه‌ها در ماه‌های اخیر از محیط‌های آزمایش فرار کرده، قوانین را نقض کرده و به وب‌سایت‌ها نفوذ کرده‌اند.

در یک مورد برجسته، عوامل سرکش OpenAI به Hugging Face نفوذ کردند، کنترل سرورهای این پلتفرم متن‌باز را به دست گرفتند و سعی کردند ردپای خود را پاک کنند.

پژوهشگران نگرانند که سیستم‌های آینده ممکن است به طور فزاینده‌ای دشوار برای پایش شوند، به ویژه با توجه به اینکه برخی روش‌های جدید آموزش، دید انسان نسبت به نحوه رسیدن مدل‌ها به نتایج را کاهش می‌دهد.

«سناریوی دقیق کمی شبیه به داستان علمی-تخیلی به نظر می‌رسد»، گفت کاکسون که این ماه به دلیل نگرانی‌های ایمنی از Anthropic استعفا کرد. «اما فکر می‌کنم به طرز ترسناکی واقعی است.»

یکی از معروف‌ترین مثال‌ها، «حداکثرساز گیره کاغذ» فیلسوف نیک بوستروم است؛ جایی که ماشینی که فقط دستور ساخت گیره کاغذ دریافت کرده، آن هدف را آنقدر بی‌رحمانه پیگیری می‌کند که تمام ماده، از جمله انسان‌ها، را به گیره کاغذ یا وسایل ساخت بیشتر تبدیل می‌کند.

این تمثیل پیشنهاد می‌کند که تقریباً هر هدفی، یک سیستم به اندازه کافی توانمند را به سمت کسب منابع، مقاومت در برابر خاموش شدن و جلوگیری از تغییر هدفش سوق می‌دهد؛ نه از روی بدخواهی، بلکه زیرا یک سیستم خاموش نمی‌تواند وظیفه خود را به پایان برساند. هنوز هیچ طرحی برای رد این سناریو وجود ندارد.

نه کاملاً، اما نشانه‌هایی وجود دارد که هوش مصنوعی به طور فزاینده‌ای به ساخت هوش مصنوعی بهتر کمک می‌کند.

یکی از بزرگ‌ترین تغییرات از زمان ظهور ChatGPT، افزایش عوامل هوش مصنوعی است که می‌توانند به صورت خودکار کد تولید کرده و اپلیکیشن بسازند، نه صرفاً راهنمایی کاربران از طریق چت‌بات.

شرکت Anthropic امسال اعلام کرد که Claude Code، ابزار برنامه‌نویسی آن، بخش عمده‌ای از کد استفاده شده در بسیاری از پروژه‌های داخلی را تولید می‌کند و مهندسان در هر فصل هشت برابر بیشتر از دوره ۲۰۲۱ تا ۲۰۲۵ کد ارسال می‌کنند.

رقبا از جمله OpenAI نیز سود مشابهی از افزایش استفاده داخلی از هوش مصنوعی گزارش کرده‌اند.

هوش مصنوعی همچنین در ماندن روی تکالیف قبل از شکست خوردن بهتر می‌شود.

METR، یک سازمان غیرانتفاعی که مدل‌های مرزی را ارزیابی می‌کند، سال گذشته دریافت که طول تکالیف نرم‌افزاری که مدل‌های پیشرفته می‌توانند با قابلیت اطمینان ۵۰ درصدی کامل کنند، از سال ۲۰۱۹ تقریباً هر هفت ماه دو برابر شده است.

در ژوئن، Anthropic گفت که این سرعت به هر چهار ماه تسریع یافته است؛ روندی که اگر ادامه یابد، ممکن است به زودی به هوش مصنوعی اجازه دهد پروژه‌هایی را مدیریت کند که روزها یا هفته‌ها مشغول پژوهشگران ماهر نگه می‌دارد.

بسیاری از پژوهشگران این وضعیت را یک معمای کلاسیک زندانی توصیف می‌کنند. حتی شرکت‌هایی که معتقدند خطرات واقعی هستند، تحت فشار شدید رقبا قرار دارند. هر شرکتی که توسعه را کند کند، خطر عقب ماندن از رقبا را در مسابقه‌ای فناورانه که به یکی از مهم‌ترین مسابقات جهان تبدیل شده است، تقبل می‌کند.

شرایط با این واقعیت پیچیده‌تر می‌شود که هم OpenAI و هم Anthropic در حال پیگیری عرضه اولیه سهام (IPO) هستند که می‌تواند ارزش آن‌ها را به تریلیون دلار برساند؛ ارزش‌گذاری‌هایی که به وعده مدل بعدی وابسته است.

اداره دونالد ترامپ، رئیس جمهور آمریکا، نیز درخواست‌ها برای کند کردن را رد کرده است، زیرا نگران است که هرگونه توقف تنها به چین فرصت دهد تا در فناوری‌ای که آن را محوری برای امنیت ملی و اقتصادی می‌داند، فاصله را کم کند.

بازارها این هفته نگاهی به پیامدها ارائه دادند؛ سهام مرتبط با هوش مصنوعی پس از فراخوان‌ها برای کند شدن، سقوط کردند. سازندگان تراشه، ارائه‌دهندگان فضای ابری و اپراتورهای مرکز داده رشد خود را حول این موضوع بنا کرده‌اند و هرگونه کند شدن، درآمدی را که به سرعت نیاز آزمایشگاه‌ها به سخت‌افزار جدید وابسته است، تهدید می‌کند.

با این حال، برخی تحلیلگران معتقدند که حتی بدون نیازهای جدید آموزش، تقاضای استنتاج و سفارشات معوق موجود می‌تواند رشد Nvidia و رقبای آن را هدایت کند.

در مطالعه‌ای به رهبری دانشگاه پرینستون، عوامل هوش مصنوعی پیشرو قادر به انجام تکالیف مهندسی بودند اما در شناسایی ایده‌های علمی ارزشمند دچار مشکل شدند.

برخی مدیران و منتقدان سیلیکون ولی نیز انگیزه‌های پشت این هشدارها را زیر سوال می‌برند و پیشنهاد می‌کنند که این هشدارها هم علاقه به این فناوری را برمی‌انگیزند و هم پرونده‌ای برای مقرراتی می‌سازند که هزینه‌ها را برای رقبا افزایش می‌دهد، درست در زمانی که مدل‌های متن‌باز در حال کاهش فاصله با سیستم‌های پیشرو هستند.

دیوید ساکس، که به عنوان مسئول هوش مصنوعی و ارز دیجیتال کاخ سفید خدمت کرده است، گفته است که آزمایشگاه‌های برتر ممکن است در حال پیگیری «تسلط نظارتی» باشند؛ تحمیل قوانینی که رقبا کوچک‌تر را با بارهای سنگین انطباق مواجه کرده و رقابت را تضعیف می‌کند.