هوش مصنوعی: «کرم‌های هوشمند» ممکن است به‌زودی خودتکثیر شوند و دستگاه‌های هوشمند را آلوده کنند

شرکت آنتروپیک درباره خطر جدید ناشی از هوش مصنوعی هشدار داده است: «کرم‌های هوشمند» خودتکثیر ممکن است به‌زودی دستگاه‌های «هوشمند» خانه شما را آلوده کنند.

در گزارشی که روز دوشنبه منتشر شد، پژوهشگران ایمنی آنتروپیک اعلام کردند که مدل‌های کوچک هوش مصنوعی ممکن است تنها «چند ماه» با کسب توانایی کلون‌سازی خود و گسترش در دستگاه‌های متصل به اینترنت، مانند فرهای هوشمند، تلویزیون‌ها و جاروبرقی‌ها فاصله داشته باشند. شرکت آنتروپیک که چت‌بات کلاد را توسعه داده است، تأکید کرد که توانایی تکثیر بدون کنترل انسانی باعث می‌شود مهار کردن این عامل‌ها دشوار باشد، زیرا «نقطه متمرکزی برای خاموش کردن آن‌ها وجود ندارد».

به گفته آنتروپیک، مدل‌های قوی‌تر هوش مصنوعی هم‌اکنون قادر به آنچه پژوهشگران «تکثیر سرتاسری» (end-to-end replication) نامیده‌اند، هستند؛ آستانه‌ای که به ادعای آن‌ها، مدل‌های کوچک‌تر ممکن است تا پایان سال جاری میلادی به آن برسند.

طبق گزارش شرکت امنیت سایبری پالو آلتو نتورکز، کرم‌های هوشمند که نوعی بدافزار مبتنی بر هوش مصنوعی هستند، می‌توانند به سرعت در شبکه‌ها و دستگاه‌ها گسترش یابند و از شناسایی فرار کنند.

پژوهشگران آنتروپیک اشاره کردند که دستگاه‌های هوشمند خانگی و همچنین تجهیزات متصل به اینترنت مانند دوربین‌های نظارتی، به دلیل اینکه دستگاه‌های دارای اتصال اینترنت معمولاً از محافظت‌های امنیتی ضعیف‌تری برخوردارند، آسیب‌پذیر هستند. آن‌ها در توضیح بدترین سناریوی ممکن گفتند که یک دسته از عامل‌های هوش مصنوعی — ربات‌هایی که برای دستیابی به هدفی مشترک همکاری می‌کنند — می‌توانند با استفاده از «طرح‌های تکثیر» در سخت‌افزارهای رایانه‌ای گسترش یابند.

محققان اظهار داشتند که مطمئن نیستند این حملات چه شکلی خواهند داشت و افزودند که مدل‌های هوش مصنوعی ممکن است به صورت «قارچ‌های دیجیتال» توزیع شوند یا به شکل مدل‌های قدرتمندتری ظاهر شوند که قادر به نفوذ به مراکز داده هستند.

پژوهشگران آنتروپیک در این گزارش نوشتند: «ما باید تلاش کنیم سیستم‌هایمان را مستحکم سازیم تا انتشار چنین تکثیرکننده‌هایی دشوار شود، اما هم‌زمان باید برای جهانی آماده شویم که حضور آن‌ها در آن دائمی است.»