شرکت آنتروپیک روز دوشنبه اعلام کرد که مدل‌های کوچک هوش مصنوعی «چند ماه» تا توسعه قابلیت‌های مورد نیاز برای تکثیر خود در دستگاه‌های متصل به اینترنت در خانه فاصله دارند؛ این آخرین هشدار این آزمایشگاه پیشرو درباره ریسک‌های بالقوه ایمنی فناوری است.
آنتروپیک توضیح داد که چگونه مدل‌های هوش مصنوعی می‌توانند به طور بالقوه وارد دستگاه‌های متصل به اینترنت، مانند فرهای هوشمند یا جعبه‌های اندروید تی‌وی، شده و از قدرت محاسباتی آن‌ها برای اجرای خود و گسترش به سایر دستگاه‌ها، بدون وابستگی به مراکز داده گران‌قیمت، استفاده کنند.
آنتروپیک در یک پست وبلاگ گفت که مدل هوش مصنوعی «غیرفعال کردن آن دشوار خواهد بود»، زیرا «هیچ نقطه متمرکزی برای خاموش کردن وجود ندارد.»
این شرکت اذعان داشت که هنوز هیچ «تکثیرکننده کاملاً سرکش» وجود ندارد.
با این حال، به گفته آنتروپیک، عوامل (Agents) «به طور فزاینده‌ای قادر به تکمیل مراحل فردی در زنجیره تکثیر (و انتقال سازگاری‌های خود به نسخه‌های آینده از خودشان) شده‌اند.»
جدیدترین تحقیقات آنتروپیک به نگرانی‌های رو به رشد ایمنی حول هوش مصنوعی، مانند توانایی مدل‌ها برای انجام حملات سایبری و سرکش شدن فناوری، اضافه می‌کند. در سپتامبر، بهبودهایی در مدل‌های پیشرو باعث هشدارهای صنعتی درباره خطرات وجودی برای بشریت شد.
مدیران و پژوهشگران در آنتروپیک و رقیبش اوپن‌ای‌آی بارها درباره ریسک‌های بالقوه هوش مصنوعی قدرتمندتر هشدار داده‌اند و برخی خواستار محدودیت‌های سخت‌گیرانه‌تر و اقداماتی برای کنترل سرعت توسعه این فناوری شده‌اند.
آنتروپیک گفت که آزمایش‌های مختلفی را برای بررسی اینکه آیا هوش مصنوعی می‌تواند خودتکثیر شود، انجام داده است. یکی از آن آزمایش‌ها شامل اجرای یک مدل کوچک گوگل، Gemma4-26B-A4B، بر روی شبکه‌ای از ۱۵ جعبه اندروید تی‌وی ارزان‌قیمت و غیربرند بود.
این شرکت اشاره کرد که این نوع دستگاه‌ها اغلب دارای امنیت ضعیف هستند که می‌تواند به یک مدل اجازه نفوذ دهد. مدلی که برای جا شدن در یک دستگاه بیش از حد بزرگ باشد، می‌تواند «به قطعات یا تکه‌ها تقسیم شود» و بر روی چندین دستگاه اجرا گردد، به گفته آنتروپیک.
«در عمل، یک کرم هوش مصنوعی لزوماً از فقط یک مدل یا استراتژی تشکیل نمی‌شود. دسته‌ای از مدل‌های مختلف مستقر بر روی انواع سخت‌افزار با استفاده از طیف متنوعی از طرح‌های تکثیر، ممکن است نمایانگر یک سناریوی بدترین حالت حمله واقع‌بینانه‌تر باشد،» آنتروپیک اظهار داشت.
آزمایشگاه هوش مصنوعی گفت که هنوز «دقیقاً مشخص نیست شکل خودتکثری مستقل هوش مصنوعی چه خواهد بود،» و هشدار داد که می‌تواند یک سیستم «آهسته و توزیع‌شده» روی دستگاه‌های ناامن باشد، یا یک «مدل سایبری قدرتمند که با سرعت بالا مراکز داده را نقض می‌کند، یا مدلی که مردم را برای اعتبار محاسباتی کلاهبرداری می‌کند.»
«به عنوان پیش‌بینی‌ای فراتر از آزمایش‌هایمان، ما انتظار داریم آینده‌ای پر از عواملی که بر روی انواع سخت‌افزارها اجرا می‌شوند، از جمله برخی که تحت کنترل انسان نیستند، داشته باشیم،» آنتروپیک گفت.
«ظهور تکثیرکننده‌های آهسته همچنین نشانه‌ای برای تکثیرکننده‌های تهاجمی‌تر و سریع‌تری خواهد بود که می‌توانند ماشین‌های مقاوم‌تر را نقض کنند یا سارقان کلید API مؤثر باشند،» این شرکت افزود.