انتروپیک از آزمایشگاههای برجسته هوش مصنوعی میخواهد تا سرعت توسعه را کاهش دهند و میگوید سیستمهای هوش مصنوعی چنان به سرعت در حال پیشرفت هستند که ممکن است به زودی قادر به خودبهبودی بدون دخالت انسان شوند، به گونهای که میتواند خطرات اجتماعی قابل توجهی را به همراه داشته باشد.
این شرکت روز پنجشنبه در پست وبلاگی که دادههای داخلی مربوط به سرعت بهبود مدلهای پیشرفته خود را فاش کرد، گفت که توانایی کاهش سرعت توسعه جهانی هوش مصنوعی «احتمالاً چیز خوبی خواهد بود.»
این پست، که توسط رئیس موسسه تحقیقاتی داخلی و یکی از بنیانگذاران شرکت نوشته شده است، خاطرنشان کرد که پیشرفتهای مدل به نظر میرسد در مسیری به سمت «خودبهبودی بازگشتی» (recursive self-improvement) قرار دارند، یعنی زمانی که سیستمهای هوش مصنوعی میتوانند بدون دخالت انسان خود را بهبود بخشند. برخی از متخصصان هوش مصنوعی این آستانه را به عنوان یک نشانه بالقوه خطر و تحول عظیم اجتماعی تلقی کردهاند.
پست نوشته شده توسط مارینا فاوارو و جک کلارک میگوید: «ما معتقدیم که داشتن گزینه کاهش سرعت یا توقف موقت توسعه هوش مصنوعی پیشگام برای جهان مفید خواهد بود تا ساختارهای اجتماعی و تحقیقات همراستایی بتوانند با پیشرفت فناوری همگام شوند.» این پست یک توافق جهانی در مورد چگونگی کاهش احتمالی توسعه و یک مکانیسم برای تأیید رعایت آن توسط رقبا را پیشنهاد میکند.
این پست هشدار میدهد که خودبهبودی بازگشتی هنوز اتفاق نیفتاده و اجتنابناپذیر نیست، «اما ممکن است زودتر از آنکه اکثر نهادها برای آن آماده شوند، فرا رسد.»
انتروپیک اخیراً یک دوره جمعآوری کمک مالی را به پایان رساند که ارزش شرکت را نزدیک به ۱ تریلیون دلار رساند و اسناد محرمانه را برای آغاز فرآیند عرضه عمومی سهام خود ثبت کرد. این شرکت اخیراً به عنوان پیشتاز در رقابت شدید برای برتری هوش مصنوعی با OpenAI، سازنده ChatGPT، ظاهر شده است، که انتظار میرود به زودی نیز اسناد خود را برای عرضه اولیه عمومی (IPO) ثبت کند.
نرخ رشد انتروپیک (run rate)، عددی که معمولاً توسط استارتاپها برای پیشبینی درآمد سالانه بر اساس فروش کوتاهمدت استفاده میشود، در مسیر رسیدن به ۵۰ میلیارد دلار درآمد سالانه تا پایان این ماه قرار دارد که از ۹ میلیارد دلار در پایان سال ۲۰۲۵ افزایش یافته است.
این شرکت، که از زمان تأسیس خود بر ایمنی هوش مصنوعی تأکید کرده است، مدتها با این انتقاد روبرو بوده که کار سیاستگذاری آن برای کاهش سرعت پیشرفت هوش مصنوعی رقبا طراحی شده است. دیوید ساکس، سرمایهگذار خطرپذیر و مشاور غیررسمی رئیسجمهور ترامپ، رهبران انتروپیک را به اجرای «برنامه مهار نظارتی» (regulatory capture agenda) متهم کرده است.
در یک پادکست اخیر، ساکس گفت که «برنامه مهار نظارتی» در واشنگتن میتواند منجر به تلاشی برای ممنوعیت مدلهای به اصطلاح منبع باز شود، که اساساً نسخههایی از سیستمهای هوش مصنوعی هستند که استفاده و توسعه داخلی آنها برای سازمانها بسیار ارزانتر است.
برخی دیگر نیز گفتهاند که هشدارهای انتروپیک درباره پتانسیل خطرناک ابزارهای خود میتواند یک حقه بازاریابی نیز در نظر گرفته شود. این شکاکان به تصمیم انتروپیک برای محدود کردن انتشار مدل قدرتمند امنیت سایبری «Mythos» که قادر به یافتن باگها و مشکلات است، به عنوان راهی هوشمندانه برای تبلیغ قابلیتهای محصولات خود اشاره میکنند.
رهبران انتروپیک گفتهاند که ایمنی را جدی میگیرند و برای ایجاد بحث بیشتر در مورد خطرات تلاش میکنند.
ایتان مولیک، استاد دانشکده وارتون دانشگاه پنسیلوانیا و محقق برجسته در زمینه تحول هوش مصنوعی، گفت که در حالی که برخی منتقدان انتروپیک، در اظهارات ایمنی آنها اغراق و بازاریابی میبینند، بسیاری در داخل شرکت «معتقدان واقعی» هستند.
مولیک، که کتابش درباره هوش مصنوعی با عنوان «همزیستی» قرار است در پاییز منتشر شود، گفت: «آزمایشگاههای هوش مصنوعی ترکیبی از چیزها هستند. یک شرکت تریلیون دلاری با تمام موارد عادی یک شرکت تریلیون دلاری مانند تیمهای بازاریابی و وکلا وجود دارد. سپس هستهای از محققان هستند که فقط مدلهای بعدی را میسازند. و سپس مجموعهای از افراد وجود دارند که پادشاهان فیلسوفی هستند که نگران آینده و آنچه در پی میآید هستند، و همه آنها گاهی اوقات با یکدیگر در تضاد هستند.»
صنعت هوش مصنوعی برای مدتی در مورد اینکه مدلهای فعلی چقدر به دستیابی به نقاط عطفی مانند «هوش عمومی مصنوعی» (AGI) – سطحی از هوش که با انسان قابل مقایسه است – یا خودبهبودی بازگشتی نزدیک هستند، اختلاف نظر داشته است.
برخی از محققان، مانند یان لوکان، دانشمند ارشد سابق هوش مصنوعی در Meta Platforms و پیشگام هوش مصنوعی، استدلال کردهاند که سیستمهای پیشگام مبتنی بر مدلهای زبان بزرگ هرگز قادر به جهش برای رقابت با هوش انسانی نخواهند بود. او در حالی که مدلهای هوش مصنوعی را ابزارهای قدرتمندی میداند، آنها را با هوش یک گربه مقایسه کرده و با محققانی که از خطر وجودی هوش مصنوعی برای بشریت میترسند، بحث کرده است.
رهبران انتروپیک، از جمله مدیرعامل داریو آمودی، سالها درباره پتانسیل تأثیرات خطرناک هوش مصنوعی هشدار دادهاند و به دنبال همکاری گسترده اجتماعی برای رفع خطرات بودهاند. آمودی هشدار داده است که هوش مصنوعی میتواند نابرابری را بدتر کند و تا نیمی از مشاغل اداری سطح پایه را از بین ببرد.
آمودی همچنین هشدار داده است که منطقی است سیستمهای قدرتمند هوش مصنوعی، که انتظار میرود در آینده نزدیک وجود داشته باشند، بتوانند تمایلات مخربی را به روشهای غیرقابل پیشبینی توسعه دهند. در مقالهای در وبسایت شخصی خود در ماه ژانویه، آمودی پیشنهاد کرد که آموزش سیستمهای هوش مصنوعی با روایتهای علمی-تخیلی از شورش هوش مصنوعی میتواند، به عنوان مثال، منجر به شورش واقعی هوش مصنوعی شود.
کلارک، یکی از نویسندگان پست وبلاگ، رئیس بخش منافع عمومی و یکی از بنیانگذاران انتروپیک، بارها درباره خطرات احتمالی هوش مصنوعی و تأثیر احتمالی رسیدن سیستمهای هوش مصنوعی به نقطه «خودبهبودی بازگشتی» صحبت کرده است، که او گفته است جهان را متحول خواهد کرد.
او ماه گذشته در یک سخنرانی در لندن، طبق اظهاراتی که در یک خبرنامه به اشتراک گذاشت، گفت: «این کلاس از فناوری هرگز قبلاً وجود نداشته است، و با این حال من معتقدم که این اتفاق میتواند ظرف دو سال آینده، و احتمالاً زودتر، رخ دهد.»
او گفت: «در غیاب کاهش سرعت جهانی هماهنگ، ما با وضعیت فعلی روبرو هستیم: فناوری قدرتمند با سرعت سرسامآور توسط بازیگران مختلف در کشورهای مختلف توسعه مییابد، که در رقابتی با یکدیگر گرفتار شدهاند، جایی که رقابتهای تجاری و ژئوپلیتیکی جنبههای وجودیتر فناوری در حال ساخت را تحتالشعاع قرار میدهد.»
پست وبلاگ روز پنجشنبه میگوید که موسسه انتروپیک، یک مرکز تحقیقاتی داخلی که به درک و شکلدهی تأثیر هوش مصنوعی بر جهان اختصاص دارد، تحقیقاتی را با همکاری دیگران برای «کمک به ساخت سیستمهایی که یک کاهش سرعت یا توقف معتبر نیاز دارد»، انجام خواهد داد.
این پست بیان میکند که توقف یا کاهش سرعت تنها در صورتی منطقی خواهد بود که به طور گستردهای مورد احترام قرار گیرد، که این امر مستلزم یک رژیم تأیید برای اطمینان از توقف همه است. این شرکت این مشکل را به معاهدات تسلیحات هستهای تشبیه کرد – اما اذعان داشت که توقف تقلب حتی دشوارتر خواهد بود.
پست وبلاگ مینویسد: «عملیات آموزشی بسیار آسانتر از سیلوهای موشکی قابل پنهانکاری هستند»، و اضافه میکند، «هرکس در حالی که دیگران مکث میکنند ادامه دهد، میتواند رهبری را به ارث ببرد.»
انتروپیک قصد دارد در ماههای آینده گفتگوهایی را با سیاستگذاران، محققان و دیگران برای کمک به پاسخگویی به سوالات مربوط به خودبهبودی بازگشتی و یک سیستم تأیید ترتیب دهد: این پست میگوید: «پنجره تحقیق و بررسی این سوالات با یکدیگر باز است، و افراد خارج از شرکتهای هوش مصنوعی باید در این مباحثه مشارکت داشته باشند.»