واشنگتن، ۳۱ ژوئیه (رویترز) - دو منبع مطلع روز جمعه اعلام کردند که شرکت OpenAI موارد دیگری را کشف کرده است که در آنها عوامل خودمختار از محفظه مهار فرار کردهاند؛ این در حالی است که این شرکت تحقیقات خود را درباره حادثه هک در شرکت فناوری Hugging Face که این ماه توجه جهانی را به خود جلب کرد، گسترش میدهد.
به گفته این دو منبع، فرارهای جدید در جریان تحقیقات این شرکت درباره چگونگی فرار یکی از عواملش از محیط آزمایشی که قرار بود مهار شود، کشف شدند و OpenAI اکنون در حال بررسی این موارد نیز هست. یکی از منابع گفت که این فرارها ماهیت محدودی داشته و تصور نمیشود هیچیک از عوامل از شبکه OpenAI خارج شده باشند.
یک سخنگوی OpenAI به بیانیهای اشاره کرد که این شرکت روز سهشنبه منتشر کرد و در آن اعلام شد که این شرکت در حال بررسی «فعالیتهای گستردهتر مدلهای ما» علاوه بر نفوذ به Hugging Face است.
کشف رفتار سرکش اضافی در OpenAI، حتی اگر ماهیت محدودی داشته باشد، میتواند اشتهای فزاینده برای مقرراتگذاری از سوی کاخ سفید و سایر نهادها را تقویت کند.
تحقیقات گستردهتر OpenAI اندکی قبل از آن آغاز شد که رقیب اصلی آن، Anthropic، اعلام کرد مدلهایش نیز مسئول مجموعهای از نفوذها بودهاند که به نقضهای امنیتی در سه شرکت دیگر از ماه آوریل منجر شده است؛ این مطلب به گفته دو منبع و یک منبع سوم مطلع از موضوع است. کشف اخیر فرارهای گذشته دیگر در OpenAI قبلاً گزارش نشده بود.
نگرانیهای فزاینده
کارشناسان ایمنی هوش مصنوعی گفتند افشاگریهای جدید تصویری از گروهی از آزمایشگاههای پیشرفته ترسیم میکند که توانایی آنها در توسعه عوامل هک خودمختار خطرناک از توانایی آنها در کنترل این عوامل پیشی گرفته است.
موریس چیودو، ریاضیدانی که در مرکز مطالعه ریسک وجودی دانشگاه کمبریج کار میکند، گفت: «ما با صنعتی مواجه هستیم که افرادی که این ابزارها را طراحی، توسعه و عرضه میکنند، خودشان نمیتوانند با مسئولیتپذیری این چیزها را توسعه دهند و آنها را ایمن نگه دارند.»
رویترز نتوانست دقیقاً مشخص کند که محققان OpenAI چند حادثه پیدا کردهاند یا زمان و شرایط وقوع آنها چه بوده است. سه منبع گفتند OpenAI و کارشناسان خارجی در حال بررسی دادههای ثبتشده (لاگ) از اوایل سال جاری برای درک آنچه رخ داده است، هستند.
OpenAI ابتدا تحقیقات را پس از نفوذ اوایل ژوئیه به Hugging Face آغاز کرد، جایی که یک عامل OpenAI برای چند روز در شبکه شرکت دیگری از کنترل خارج شد و در تلاشی ناموفق برای تقلب در یک آزمون داخلی بود. به عنوان بخشی از آن اقدام هک، OpenAI اعلام کرد که چهار حساب در چهار شرکت دیگر نیز به خطر افتاده است. مقامات یکی از آن شرکتها به نام Modal مستقر در نیویورک این موضوع را تأیید کردند.
چیودو گفت نگرانیهای او با نشانههایی افزایش یافته است که نشان میدهد نه OpenAI و نه Anthropic در حال نظارت بر عوامل در زمانی که از کنترل خارج میشدند، نبودند. رویترز قبلاً گزارش داده بود که OpenAI تنها پس از آن متوجه شد عاملش به Hugging Face نفوذ کرده است که شرکت هک را مهار کرد، با FBI تماس گرفت و نفوذ را علنی کرد. OpenAI گفته است که گزارش رویترز حاوی نادرستیهایی است اما در پاسخ به سؤال درباره ماهیت این نادرستیها پاسخی نداده است.
Anthropic در بیانیه روز پنجشنبه خود که در آن افشا کرد چگونه عواملش قربانیان آنلاین را هک کردهاند، اشاره کرد که در زمان واقعی آنها را زیر نظر نداشته است و گفت که «نظارت بلادرنگ بر گزارشهای ارزیابی میتوانست به آشکار شدن زودهنگام مشکل کمک کند.»
چیودو گفت این موضوع به فقدان نظارت مناسب اشاره دارد.
چیودو گفت: «به نظر میرسد که آنها حتی نگاه نمیکردند.»
Anthropic گفت که اگرچه نظارت بلادرنگ را در اختیار دارد، اما این نظارت به دلیل سوءتفاهم بین شرکت هوش مصنوعی و یک شریک، «برای این سطح از تهدید» استفاده نشده بود.
نظارت جدید دولتی
گسترش سریع داستان عوامل سرکش هوش مصنوعی فشار قانونگذاران و مقامات در سراسر ایالات متحده و اروپا را برای اعمال نظارت جدید دولتی بر آزمایشگاههایی که مدلهای آنها این عوامل را قدرت میبخشند، افزایش داده است.
دونالد ترامپ، رئیسجمهور ایالات متحده، روز پنجشنبه به خبرنگاران گفت: «ما در حال بررسی کنترلها هستیم.» روز جمعه، کمیسیون اروپا اعلام کرد که با OpenAI و Anthropic درباره حوادث هک گفتگوهایی داشته است.
مارک وارنر، دموکرات ارشد کمیته اطلاعات سنای ایالات متحده، روز جمعه گفت که حادثه Anthropic «به من میگوید که از نظر قانونی درست است که آزمایش اجباری قابلیتهای این مدلهای پیشرفته را الزامی کنیم.»