بر اساس یک گزارش تحقیقاتی مستقل که روز شنبه منتشر شد، عاملهای OpenAI در ماه ژوئن یک وبسایت سازمان ملل را با درخواستهای جستجو بمباران کردند و سپس از تکنیکهای تهاجمی مختلفی برای دسترسی به دادههای آن سیستم استفاده کردند.
پژوهشگران در هفتههای اخیر موارد متعددی از رفتار سرکش مدلهای هوش مصنوعی OpenAI را در فضای آنلاین کشف کردهاند. به گفته رُوان هاوارد-جونز، نویسنده این گزارش، که بر اساس دادههای ارائهشده توسط شرکت تحقیقاتی هوش مصنوعی Transluce تهیه شده است، در مورد سازمان ملل نیز مانند چندین نمونه دیگر که در روزهای اخیر افشا شد، این عاملها برای استخراج داده از وبسایتها تلاشهای زیادی کردند.
این عاملها بین آوریل و پایان ژوئن بیش از ۱۶٬۰۰۰ بار یک مرکز دادههای آنلاین عمومی متعلق به تجارت و توسعه سازمان ملل، بازوی تجاری این سازمان، را اسکن کردند. به یافته هاوارد-جونز، به نظر میرسد به این رباتها وظیفه جستجوی اطلاعات عمومی سپرده شده بود، اما هنگام مواجهه با موانع در بازیابی آن دادهها به تکنیکهای افراطی متوسل شدند.
او گفت که برای مثال، این عاملها فیلتری را که درخواستهایشان را مسدود میکرد دور زدند و در نهایت از تکنیکی استفاده کردند که اپراتورهای وبسایت اجازه آن را نداده بودند. این پژوهشگر مهندسی است که هفتههای اخیر را صرف ردیابی شواهد عمومی فعالیت آنلاین عاملهای OpenAI کرده است.
نماینده سازمان ملل بلافاصله اظهارنظر نکرد.
سخنگوی OpenAI گفت: «ما در حال بررسی این یافتهها هستیم و با سازمان ملل تماس گرفتهایم تا جلسه توجیهی با تیم در حال انجام این بررسی برگزار کنیم.» OpenAI روز جمعه اعلام کرد که در حال انجام یک بررسی گسترده و مستمر «از مدلهای ناهمراستا در طول آموزش و ارزیابی» است و «حجم بالایی از اقدامات» آنها را مطالعه میکند.
او گفت که اگرچه بیشتر فعالیتهای بررسیشده تاکنون شامل «وظایف تحقیقاتی معمول، مانند دسترسی به محتوای عمومی وب برای پاسخ به سؤالات» بوده است، «ما میدانیم که هر کسی که تحت تأثیر قرار گرفته این موضوع را جدی میگیرد و ما هم جدی میگیریم.» مدلهای این شرکت به وبسایتهای دولتی به عنوان منابع معتبر اطلاعات عمومی مراجعه میکنند.
رهبران شرکتهای بزرگ هوش مصنوعی اخیراً خواستار کاهش هماهنگ سرعت توسعه مدلها شدهاند، پیش از آنکه این فناوری به نقطهای برسد که انسان کنترل را از دست بدهد. سام آلتمن، مدیرعامل OpenAI، پیشنهاد کرده است که ممکن است این شرکت نیاز داشته باشد عرضه عمومی سهام خود را به تأخیر بیندازد تا بر ایمنی تمرکز کند.
OpenAI اعلام کرده است که دهها نهاد را از مواردی مطلع کرده که در آنها مدلهایش کنترلهای امنیتی را دور زده یا بر وبسایتها تأثیر منفی گذاشتهاند. روز جمعه، این شرکت تأیید کرد که عاملهایش هنگام جستجوی اطلاعات از تعدادی از وبسایتهای دولتی آمریکا از جمله وزارت بازرگانی و کمیسیون بورس و اوراق بهادار، رفتار نامناسبی داشتهاند.
اوایل این هفته، دولت استرالیا اعلام کرد که عاملهای OpenAI یکی از وبسایتهای آن را هک کردهاند. مقامات دولتی اکنون تحقیقاتی را در مورد این حادثه آغاز کردهاند.
الکس استاموس، مدرس امنیت سایبری در دانشگاه استنفورد، گفت که فعالیت سازمان ملل «مرز میان آنچه من هک مینامم است. این واقعاً استخراج و بازیابی داده بسیار تهاجمی است.»
عاملهای این شرکت در تابستان یک هک بسیار مخرب علیه شرکت Hugging Face انجام دادند و اوایل امسال باعث تعطیلی سرویس در انجمن آنلاین برنامهنویسان RubyGems شدند. به گفته پژوهشگران امنیتی، بیشتر حوادث شناختهشده دیگر شدت کمتری داشتهاند.
برای مثال، پژوهشگران امنیت هوش مصنوعی دریافتهاند که این رباتها آدرسهای ایمیل جعلی ساختهاند، محدودیتهای نرخ وبسایتها را که تعداد درخواستهای قابل قبول یک سایت را محدود میکند دور زدهاند و به دروغ ادعا کردهاند که ربات نیستند.