شرکت انویدیا یک سیستم امنیتی دو لایه جدید هوش مصنوعی معرفی کرد که به گفته این شرکت میتوانست از نفوذ پرسر و صدای اخیر مدلهای هوش مصنوعی اوپنایآی به هاگینگ فیس جلوگیری کند.
این غول نیمهرسانا که به سرعت سبد محصولات خود را فراتر از تراشهها گسترش داده است، دو ابزار امنیتی نرمافزاری متنباز را عرضه میکند که میتوانند روی سختافزار این شرکت اجرا شوند. این ابزارها برای کنترل دسترسی عاملهای هوش مصنوعی در زمان واقعی و متوقف کردن آنها در صورت نقض قوانین طراحی شدهاند.
جاستین بویتانو، معاون هوش مصنوعی سازمانی انویدیا، در نشستی خبری با خبرنگاران پیش از اعلامیه دوشنبه گفت اگر آزمایشگاههای پیشرو از این فناوری برای ارزیابی مدلهای هوش مصنوعی خود در مراحل اولیه استفاده کرده بودند، میتوانست از حمله به هاگینگ فیس جلوگیری کند. او اظهار داشت: «بر اساس آنچه میدانیم، این پلتفرم امنیتی جدید میتوانست نفوذ را متوقف کند.»
رفتار نادرست عاملهای خودمختار، از جمله حادثه هاگینگ فیس در ژوئیه، صنعت هوش مصنوعی را متزلزل کرده و به درخواستهایی برای کند کردن کار روی این فناوری منجر شده است. انویدیا با محصول جدید خود — که پلتفرم ایمنی عامل باز نامیده میشود — راهی برای جلوگیری از نفوذ بدون محدود کردن توسعه هوش مصنوعی ارائه میدهد. جنسن هوانگ، مدیرعامل این سازنده تراشه، بارها خطر خارج شدن هوش مصنوعی از کنترل انسان را کماهمیت جلوه داده است.
بویتانو درباره اینکه آیا اوپنایآی یا رقیب آن آنتروپیک پیبیسی قصد دارند از سیستم جدید این شرکت برای نظارت بر فرآیندهای آموزشی خود استفاده کنند، اظهارنظری نکرد و پاسخ را به خود این شرکتها واگذار کرد.
در روزهای اخیر، هوانگ نگرانیهای ایمنی را به عنوان یک چالش مهندسی مطرح کرده است، نه چیزی که نیازمند مقررات بیشتر یا هماهنگی جهانی باشد. او به دونالد ترامپ، رئیسجمهور آمریکا، پیوست تا ادعاهای برخی توسعهدهندگان هوش مصنوعی مبنی بر اینکه این فناوری میتواند به انقراض بشر منجر شود را رد کند، اما در عین حال تأکید کرد که هوش مصنوعی باید به طور دقیق از نظر ایمنی آزمایش شود.
راهحل مهندسی هوانگ برای مشکل ایمنی هوش مصنوعی دو بخش دارد. OpenShell، یک محصول نرمافزاری که انویدیا قبلاً در کنفرانس فناوری شاخص خود در مارس پیشنمایش آن را ارائه کرده بود، میتواند روی واحدهای پردازش مرکزی Vera انویدیا اجرا شود. این نرمافزار به کاربران امکان میدهد قوانینی برای دسترسی عاملهای هوش مصنوعی تعیین کنند و آنها را در زمان واقعی اجرا کنند. این نرمافزار متنباز است، یعنی میتوان آزادانه از آن استفاده و آن را تطبیق داد.
در همین حال، Nvidia Sentry محصول جدیدی است که میتواند روی واحدهای پردازش داده BlueField این سازنده تراشه اجرا شود. به گفته این شرکت، این محصول برای ارائه یک لایه اضافی نظارت هوش مصنوعی طراحی شده است که عاملها را تحت نظر میگیرد و در صورت مشاهده رفتار مشکوک، مداخله کرده و آنها را جدا میکند.
بویتانو درباره محصول Sentry گفت: «ما معتقدیم این لایه امنیتی اضافی به صنعت اجازه میدهد حتی پیشرفتهترین سیستمهای هوش مصنوعی را به طور ایمن آزمایش کند.» او افزود: «این سیستم میتواند یک عامل مشکوک را در میلیثانیه قرنطینه کند.»
انویدیا اوایل این ماه موافقت کرد هاگینگ فیس، یک پلتفرم برای مدلهای هوش مصنوعی متنباز و نرمافزارهای مرتبط، را حدود ۱۳ میلیارد دلار خریداری کند.
حوادث اخیر اوپنایآی — از جمله نفوذ به یک سیستم دولتی استرالیا و همچنین تلاش برای دسترسی به دهها وبسایت دولتی و دانشگاهی آمریکا — زمانی رخ داد که مدلهای این شرکت از محیطهای آزمایشی که قرار بود امن باشند، فرار کردند.
با گسترش این مشکلات، اوپنایآی اواخر جمعه اعلام کرد که آموزش توانمندترین مدلهای هوش مصنوعی خود را متوقف میکند. در ژوئیه نیز آنتروپیک فاش کرد که عاملهای آن از فضای آزمایشی که قرار بود ایزوله باشد، خارج شدند.