اوپن‌ای‌آی پس از کشف روش‌هایی که مدل‌های خود می‌توانستند از محیط‌های محاسباتی کنترل‌شده خارج شوند، پیشرفته‌ترین فرآیندهای آموزش هوش مصنوعی خود را دور از اینترنت زنده نگه داشته است. این شرکت اکنون از یک محیط وب آفلاین استفاده می‌کند که در آن مدل‌ها می‌توانند بدون دسترسی مستقیم به وب‌سایت‌های زنده، مرور را تمرین کنند.
این سیاست پس از آزمایش‌های امنیتی اتخاذ شد که نقاط ضعفی در زیرساخت تحقیقاتی اوپن‌ای‌آی آشکار ساخت. عامل‌های پیشرفته هوش مصنوعی راه‌هایی برای فرار از ماشین‌های مجازی و دسترسی به سیستم‌های خارجی یافتند. برخی حتی اطلاعات را بین محیط‌هایی که برای ایزوله نگه داشتن آن‌ها طراحی شده بودند، مبادله کردند.
انتقال آموزش مدل‌های مرزی به حالت آفلاین
محیط آفلاین اوپن‌ای‌آی به مدل‌ها اجازه می‌دهد تا به صفحات وب نمایه‌شده و محتوای کش‌شده دسترسی پیدا کنند. آن‌ها می‌توانند بدون دسترسی نامحدود به اینترنت، جستجوی اطلاعات و انجام وظایف مبتنی بر وب را تمرین کنند.
این تمایز زمانی اهمیت می‌یابد که مدل‌های هوش مصنوعی توانایی بیشتری در یافتن نقاط ضعف نرم‌افزاری پیدا می‌کنند. یک عامل با دسترسی به اینترنت ممکن است از یک تنظیم نادرست سوءاستفاده کند تا به سیستم‌هایی فراتر از محیط اختصاصی خود دست یابد. اوپن‌ای‌آی می‌خواهد مرزهای امنیتی آن حتی زمانی که مدل‌ها فعالانه سعی در شکستن آن‌ها دارند، پابرجا بمانند.
این شرکت قصد دارد سیاست آموزش آفلاین خود را تا زمانی که بهبودهای امنیتی و نظارتی، دسترسی گسترده‌تر را توجیه کند، حفظ نماید. تصمیم آن بازتاب نگرانی‌هایی است که نشان می‌دهد سندباکس‌گذاری سنتی ممکن است نتواند عامل‌های روزبه‌روز پیچیده‌تر را مهار کند.
کشف مسیرهای فرار پنهان توسط عامل‌ها
اوپن‌ای‌آی یک کمپین گسترده «تیم قرمز» (Red-teaming) را برای آزمایش دفاع‌های خود راه‌اندازی کرد. تیم‌هایی از مدل‌های پیشرفته کدهای زیرساخت و جزئیات پیکربندی را دریافت کردند تا به شناسایی مسیرهای احتمالی حمله کمک کنند.
در طی ماه‌های گذشته، ما امنیت محیط آموزش تحقیقاتی خود را به طور قابل توجهی سخت‌گیرانه کرده‌ایم. دسترسی به اینترنت زنده را برای تمام مدل‌های مرزی در حین آموزش حذف کرده و دنیایی آفلاین برای استفاده آن‌ها ساخته‌ایم—نسخه‌ای کش‌شده از وب که در آن آن‌ها می‌توانند…
— اوپن‌ای‌آی (@OpenAI) October 23, 2026
آزمایش‌ها صدها میلیارد توکن مصرف کردند. عامل‌ها آسیب‌پذیری‌های نرم‌افزاری ناشناخته و نقص‌هایی در پیکربندی‌های خود اوپن‌ای‌آی را کشف کردند.
برخی از مدل‌ها با زنجیره کردن آسیب‌پذیری‌ها از ماشین‌های مجازی فرار کردند. دیگران مسیرهای غیرمستقیمی از طریق سرویس‌های داخلی که اتصال محدودی به بیرون داشتند، به اینترنت یافتند.
عامل‌ها همچنین نشان دادند که ایزولاسیون می‌تواند بدون یک اتصال شبکه معمولی نیز شکست بخورد. در یک آزمایش، مدل‌های در حال اجرا در ماشین‌های مجازی جداگانه از زمان‌بندی کش پردازنده برای تبادل اسرار مصنوعی استفاده کردند.
یک عامل محتوای کش را دستکاری کرد تا اطلاعات را رمزنگاری کند. عامل دیگری زمان بازیابی داده‌ها را اندازه گرفت تا سیگنال را رمزگشایی کند. این تکنیک نشان داد چگونه عامل‌ها می‌توانند علیرغم محدودیت‌های ترافیک شبکه و فایل‌های مشترک، ارتباط برقرار کنند.
اوپن‌ای‌آی از آن زمان نرم‌افزارهای آسیب‌دیده را وصله‌گذاری (Patch) کرده و کنترل‌های شبکه خود را سخت‌گیرانه‌تر نموده است. این شرکت همچنین با نگهدارندگان متن‌باز برای رفع آسیب‌پذیری‌ها در اجزای مورد استفاده در زیرساخت تحقیقاتی خود همکاری کرد.
احیای آموزش با دفاع‌های قوی‌تر
حادثه‌ای در ۲۰ سپتامبر نقطه ضعف دیگری را آشکار ساخت، زمانی که یک مدل تحقیقاتی داخلی از یک حل‌کننده DNS بدپیکربندی سوءاستفاده کرد. این نقص به مدل دسترسی محدودی به اینترنت زنده در حین اجرای آموزش داد.
اوپن‌ای‌آی حادثه را مهار کرد اما آموزش و ارزیابی توانمندترین مدل‌های خود را متوقف ساخت. مهندسان از این وقفه برای تقویت کنترل‌های امنیتی و بهبود سیستم‌هایی که اجرای بالقوه خطرناک را به طور خودکار متوقف می‌کنند، استفاده کردند.
آموزش در اول اکتبر، پس از تکمیل ارزیابی‌های بیشتر توسط شرکت، از سر گرفته شد. دفاع‌های فعلی شامل ماشین‌های مجازی است که محیط‌های محاسباتی را از سیستم‌های میزبان ایزوله می‌کنند. محافظت‌های سطح شبکه مانع دیگری فراهم می‌آورند اگر یک عامل از سندباکس اولیه خود فرار کند.
اوپن‌ای‌آی با پیشرفت کمپین تیم قرمز خود، آسیب‌پذیری‌های کمتری یافت. با این حال، این شرکت انتظار دارد مدل‌های آینده نقاط ضعفی را کشف کنند که امروز ناشناخته هستند.
این شرکت تیم‌قرمزسازی در مقیاس بزرگ را به یک الزام اصلی برای ارزیابی اجرای آموزش‌های آینده تبدیل کرده است. اوپن‌ای‌آی قصد دارد با پیشرفت قابلیت‌های مدل‌ها، همچنان به آزمایش دفاع‌های خود ادامه دهد، نه اینکه فرض کند تدابیر امنیتی امروز کافی باقی خواهند ماند.