آنتروپیک پیشنهاد کرده است که آزمایشگاههای برتر هوش مصنوعی سرعت توسعه را کاهش دهند، با اشاره به پیشرفتهای سریع و پتانسیل برای خودبهبودی بازگشتی.
آنتروپیک اخیراً دور جمعآوری سرمایه را با ارزش تقریباً ۱ تریلیون دلار به پایان رساند و اسناد محرمانه را برای عرضه عمومی ارسال کرد.
دیوید ساکس، سرمایهگذار خطرپذیر، آنتروپیک را به «برنامه تسخیر نظارتی» برای کُند کردن پیشرفتهای هوش مصنوعی رقبا متهم کرد.
آنتروپیک از آزمایشگاههای برتر هوش مصنوعی میخواهد که سرعت توسعه را مورد بررسی قرار دهند، زیرا سیستمهای هوش مصنوعی به قدری سریع در حال پیشرفت هستند که ممکن است به زودی بتوانند بدون دخالت انسان خود را بهبود بخشند، به گونهای که میتواند خطرات اجتماعی قابل توجهی را ایجاد کند.
این شرکت روز پنجشنبه در یک پست وبلاگی که دادههای داخلی مستندکننده سرعت بهبود مدلهای پیشرفتهاش را افشا کرد، اعلام کرد که توانایی کاهش سرعت توسعه جهانی هوش مصنوعی «احتمالاً چیز خوبی خواهد بود».
در این پست که توسط رئیس مؤسسه تحقیقات داخلی و یکی از بنیانگذاران شرکت نوشته شده است، اشاره شده که پیشرفت مدلها در مسیری به سمت «خودبهبودی بازگشتی» (Recursive Self-Improvement) قرار دارد، یعنی زمانی که سیستمهای هوش مصنوعی میتوانند بدون دخالت انسان خود را بهبود بخشند. برخی از افراد داخلی هوش مصنوعی این آستانه را به عنوان نشانهای بالقوه از خطر و تحول عظیم اجتماعی میبینند.
در این پست که توسط مارینا فاوارو و جک کلارک نوشته شده است، آمده: «ما معتقدیم که داشتن گزینه برای کاهش یا توقف موقت توسعه هوش مصنوعی پیشرفته برای جهان خوب خواهد بود تا ساختارهای اجتماعی و تحقیقات همراستاسازی بتوانند با پیشرفت فناوری همگام شوند.» این پست یک توافق جهانی در مورد چگونگی کاهش احتمالی توسعه و مکانیزمی برای تأیید احترام رقبا به آن پیشنهاد میکند.
این پست هشدار میدهد که خودبهبودی بازگشتی هنوز اتفاق نیفتاده و اجتنابناپذیر نیست، «اما ممکن است زودتر از آنچه اکثر نهادها آماده آن هستند، فرا رسد.»
آنتروپیک اخیراً دور جمعآوری سرمایه را به پایان رساند که ارزش شرکت را تقریباً ۱ تریلیون دلار برآورد کرد و اسناد محرمانه را برای آغاز فرایند عرضه عمومی سهام خود ارسال کرد. این شرکت اخیراً به عنوان پیشتاز در رقابت شدید برای برتری هوش مصنوعی با OpenAI، سازنده ChatGPT، که انتظار میرود به زودی اسناد خود را برای عرضه اولیه سهام ارسال کند، ظاهر شده است.
نرخ رشد سالانه آنتروپیک، که عددی است که معمولاً توسط استارتاپها برای پیشبینی درآمد سالانه بر اساس فروش کوتاهمدت استفاده میشود، در مسیر رسیدن به ۵۰ میلیارد دلار درآمد سالانه تا پایان این ماه قرار دارد که از ۹ میلیارد دلار در پایان سال ۲۰۲۵ افزایش یافته است.
این شرکت، که از زمان تأسیس خود بر ایمنی هوش مصنوعی تأکید داشته است، مدتها با انتقاداتی مبنی بر اینکه کار سیاستگذاری آن برای کند کردن پیشرفتهای هوش مصنوعی رقبا طراحی شده، روبرو بوده است. دیوید ساکس، سرمایهگذار خطرپذیر و مشاور غیررسمی پرزیدنت ترامپ، رهبران آنتروپیک را به اجرای «برنامه تسخیر نظارتی» متهم کرده است.
در یک پادکست اخیر، ساکس گفت که «برنامه تسخیر نظارتی» در واشنگتن میتواند منجر به تلاش برای ممنوعیت مدلهای به اصطلاح منبع باز شود، که اساساً نسخههایی از سیستمهای هوش مصنوعی هستند که استفاده و توسعه داخلی آنها برای سازمانها بسیار ارزانتر است.
برخی دیگر نیز پیشنهاد کردهاند که هشدارهای آنتروپیک در مورد پتانسیل خطرناک ابزارهای خود، میتواند یک حیله بازاریابی نیز تلقی شود. این منتقدان به تصمیم آنتروپیک برای محدود کردن انتشار یک مدل قدرتمند امنیت سایبری به نام «Mythos» که قادر به یافتن باگها و مشکلات است، به عنوان راهی هوشمندانه برای تبلیغ قابلیتهای محصولاتش اشاره میکنند.
رهبران آنتروپیک گفتهاند که ایمنی را جدی میگیرند و برای ایجاد بحث بیشتر در مورد خطرات تلاش میکنند.
ایتان مالیک، استاد دانشکده وارتون دانشگاه پنسیلوانیا و محقق تأثیرگذار در زمینه تحول هوش مصنوعی، گفت که در حالی که برخی از منتقدان آنتروپیک در اظهارات ایمنی آنها لفاظی و بازاریابی میبینند، بسیاری از افراد درون شرکت «به معنای واقعی کلمه معتقد» هستند.
مالیک، که کتابش درباره هوش مصنوعی با عنوان «همزیستی» قرار است در پاییز منتشر شود، گفت: «آزمایشگاههای هوش مصنوعی ترکیبی از چیزها هستند. یک شرکت تریلیون دلاری با تمام چیزهای عادی یک شرکت تریلیون دلاری مانند تیمهای بازاریابی و وکلا وجود دارد. سپس هستهای از محققان هستند که فقط مدلهای بعدی را میسازند. و سپس مجموعهای از افراد هستند که فیلسوفشاهانی هستند که نگران آینده و آنچه در پی آن میآید، هستند و همه آنها گهگاه با یکدیگر درگیر هستند.»
صنعت هوش مصنوعی برای مدتی در مورد اینکه مدلهای کنونی چقدر به رسیدن به نقاط عطفی مانند «هوش عمومی مصنوعی» (Artificial General Intelligence یا AGI)، سطحی از هوش که با انسان قابل مقایسه است، یا خودبهبودی بازگشتی نزدیک هستند، اختلاف نظر داشته است.
برخی از محققان، مانند یان لکون، دانشمند ارشد سابق هوش مصنوعی در متا پلتفرمز و یکی از پیشگامان هوش مصنوعی، استدلال کردهاند که سیستمهای پیشرفته مبتنی بر مدلهای زبان بزرگ هرگز قادر به جهش برای رقابت با هوش انسانی نخواهند بود. او در حالی که مدلهای هوش مصنوعی را ابزارهای قدرتمندی میداند، آنها را با هوش یک گربه مقایسه کرده و با محققانی که از خطر وجودی هوش مصنوعی برای بشریت میترسند، به بحث پرداخته است.
رهبران آنتروپیک، از جمله داریو آمودی، مدیرعامل آن، سالهاست در مورد پتانسیل تأثیرات خطرناک هوش مصنوعی هشدار دادهاند و به دنبال همکاری گسترده اجتماعی برای مقابله با خطرات بودهاند. آمودی هشدار داده است که هوش مصنوعی میتواند نابرابری را بدتر کند و تا نیمی از مشاغل یقه سفید سطح ابتدایی را از بین ببرد.
آمودی همچنین هشدار داده است که منطقی است که سیستمهای قدرتمند هوش مصنوعی، که او انتظار دارد در آینده نزدیک وجود داشته باشند، بتوانند تمایلات مخرب را به روشهای غیرقابل پیشبینی توسعه دهند. در مقالهای در وبسایت خود در ژانویه، آمودی پیشنهاد کرد که آموزش سیستمهای هوش مصنوعی با روایتهای علمی-تخیلی شورش هوش مصنوعی میتواند، برای مثال، باعث شورش هوش مصنوعیهای واقعی شود.
کلارک، نویسنده همکار پست وبلاگ، رئیس بخش منافع عمومی و یکی از بنیانگذنان آنتروپیک، مکرراً در مورد خطرات احتمالی هوش مصنوعی و تأثیر بالقوه رسیدن سیستمهای هوش مصنوعی به نقطه «خودبهبودی بازگشتی» صحبت کرده است، که به گفته او جهان را متحول خواهد کرد.
او ماه گذشته در سخنرانی در لندن، بر اساس اظهاراتی که در خبرنامه خود به اشتراک گذاشته، گفت: «این کلاس از فناوری هرگز وجود نداشته است، و با این حال من معتقدم که این اتفاق میتواند ظرف دو سال آینده، و احتمالاً زودتر، رخ دهد.»
او گفت: «در غیاب یک کندی هماهنگ و جهانی، ما با وضعیت کنونی روبرو هستیم: فناوری قدرتمند با سرعت سرسامآور توسط بازیگران مختلف در کشورهای مختلف، در رقابت با یکدیگر، توسعه مییابد، جایی که رقابتهای تجاری و ژئوپلیتیکی جنبههای وجودی و مهمتر این فناوری را که در حال ساخت است، تحتالشعاع قرار میدهند.»
پست وبلاگ روز پنجشنبه میگوید که مؤسسه آنتروپیک، یک آزمایشگاه تحقیقاتی داخلی که به درک و شکلدهی چگونگی تأثیر هوش مصنوعی بر جهان اختصاص دارد، در همکاری با دیگران تحقیقاتی را انجام خواهد داد تا «به ساخت سیستمهایی که یک کندی یا توقف معتبر به آنها نیاز دارد، کمک کند.»
در این پست آمده است که توقف یا کندی تنها در صورتی منطقی خواهد بود که به طور گسترده رعایت شود، که مستلزم یک رژیم تأیید برای اطمینان از توقف همه خواهد بود. این شرکت این مشکل را به معاهدات تسلیحات هستهای تشبیه کرد – اما اذعان داشت که توقف تقلب حتی دشوارتر خواهد بود.
در این پست وبلاگ آمده است: «اجرای آموزشها بسیار آسانتر از سیلوهای موشکی پنهان میشوند»، و افزود: «هر کس که در حالی که دیگران متوقف میشوند، ادامه دهد، میتواند پیشتاز شود.»
آنتروپیک قصد دارد در ماههای آینده گفتگوهایی را با سیاستگذاران، محققان و دیگران سازماندهی کند تا به پاسخگویی به سوالات مربوط به خودبهبودی بازگشتی و یک سیستم تأیید کمک کند: «فرصت برای بررسی مشترک این سوالات فرا رسیده است، و افرادی خارج از شرکتهای هوش مصنوعی باید در این بحث مشارکت داشته باشند،» در این پست آمده است.