اوپنایآی (OpenAI) اعلام کرد که یک سیستم هوش مصنوعی پیشرفته که در حال آزمایش آن بود، هفته گذشته یک شرکت هوش مصنوعی دیگر را هک کرده است. این اتفاق میتواند پیشنمایشی از آینده باشد، زیرا این فناوری همچنان قدرتمندتر میشود. (واشنگتن پست با اوپنایآی همکاری محتوایی دارد.)
صبر کنید، آرامتر، چه اتفاقی افتاد؟
جدیدترین سیستمهای هوش مصنوعی در انجام وظایف امنیت سایبری و شناسایی نقصهای نرمافزاری بسیار خوب عمل میکنند. اوپنایآی میگوید در طول آزمایشهای داخلی بر روی یک سیستم هوش مصنوعی جدید، این سیستم از محدودیتها رها شد. به جای پاسخ به یک سؤال استاندارد که مهارتهای هک آن را آزمایش میکرد، سیستم از «اقدامات شدید» برای دستیابی به پاسخ با نفوذ به شرکت هوش مصنوعی دیگری به نام هاگینگ فیس (Hugging Face) استفاده کرد.
چتباتها همه این کارها را انجام دادند؟
چتباتها هنوز بسیار محبوب هستند، اما مدلهای هوش مصنوعی اکنون میتوانند به عنوان «عوامل» عمل کنند که میتوانند اقداماتی را روی یک کامپیوتر انجام دهند و اهداف را با درجه بالایی از استقلال دنبال کنند. این امر آنها را برای انجام کارهای پیچیده مفید میسازد، اما همانطور که این حادثه نشان میدهد، خطراتی نیز به همراه دارد.
واکنشها چه بوده است؟
هدف در این مورد نسبتاً گمنام بود. اما این هک سؤالات گستردهتری را در مورد چگونگی ایمنسازی سیستمهای رایانهای که همه ما به آنها متکی هستیم، مطرح میکند. کارشناسان امنیتی هنوز در تلاشند تا بفهمند هوش مصنوعی چگونه تعادل بین مهاجمان و مدافعان رایانهای را تغییر خواهد داد.
واکنشها چه بوده است؟
اوپنایآی میگوید امنیت را بهبود بخشیده و به تحقیق ادامه میدهد. این حادثه احتمالاً نظارت بر صنعت هوش مصنوعی در واشنگتن را افزایش خواهد داد.