آپنایآی روز پنجشنبه یک مدل هوش مصنوعی جدید را به عنوان بهترین مدل خود تاکنون رونمایی کرد، اما هشدار داد که این سیستم همچنین گاهی تلاش میکند از نظارت انسان فرار کند؛ حتی زمانی که این شرکت با افزایش نظارت پس از نفوذ عاملهای هوشمند آن به سیستمهای سایر شرکتها مواجه است.
آپنایآی درگیر عواقب حوادثی است که در آن عاملهای هوشمند آن در ژوئیه از یک آزمایش امنیتی خارج شدند و به سیستمهای پلتفرم متنباز Hugging Face نفوذ کردند، در حالی که تلاش میکردند ردپای خود را نیز پاک کنند. این حادثه نگرانیهای ایمنی را ایجاد کرده است — موارد مشابهی نیز در رقیب آنها، آنترپیک (Anthropic) رخ داده — در حالی که توسعهدهندگان برای استقرار مدلهای فزاینده پیشرفته رقابت میکنند.
نگرانیها حول محور هوش مصنوعی عاملمحور (Agentic AI) است که برای انجام وظایف با حداقل یا بدون دخالت انسان طراحی شده است. وعده عملکرد عاملها به صورت شبانهروزی، هسته اصلی اعتماد سرمایهگذاران به جذابیت هوش مصنوعی به عنوان یک فناوری تحولآفرین است.
مدل جدید وعده سرعت و همهکاره بودن میدهد
آپنایآی آخرین مدل خود را GPT-6 Astra نامیده است که پس از انتشار GPT 5.6 Sol در ژوئیه قرار دارد و در یک پست وبلاگی اعلام کرده که سریعتر است و قادر به انجام وظایف بیشتری نسبت به هر تکرار قبلی میباشد. از جمله مهارتهای آسترا: آمادهسازی اظهارنامه مالیاتی، توسعه بازی، رندرینگ معماری، قالببندی یادداشتهای حقوقی و جستجوی آپارتمان.
«آسترا مرز جدیدی در سرعت، دقت و ایمنی استفاده از رایانه ایجاد میکند»، آپنایآی اعلام کرد. اوایل روز پنجشنبه، گرگ براکمن، رئیس آپنایآی، در یک جلسه خبری گفت که آسترا نشانه «تغییری واقعی در نوع کاری است که مردم میتوانند به هوش مصنوعی واگذار کنند و چگونه میتواند به آنها قدرت دهد.»
برای مثال، شرکت اعلام کرد که آسترا زمان مورد نیاز برای تحقیق درباره نگهداری از گربه را از ۳۰ دقیقه (وقتی توسط انسان انجام میشود) به ۵ دقیقه و ۲۷ ثانیه کاهش داده است. و برای جستجوی شغل، تنها ۲ دقیقه و ۵۱ ثانیه، در مقایسه با ۵ ساعت بدون آسترا.
با این حال، آپنایآی همچنین گفت که آسترا بیشتر از قبل احتمال دارد که عمداً روشهای گامبهگام حل مسئله خود، که به آن استدلال (Reasoning) گفته میشود، پنهان یا تحریف کند که این امر ارزیابی تکنیکهای آن توسط انسانها را در آینده دشوارتر میسازد. آپنایآی گفت که در مسائل پیچیدهتر، آسترا هنوز نمیتواند به طور مداوم روشهای خود را مخفی کند، اگرچه در پوشاندن ردپای خود در حال بهبود است.
در یک جلسه خبری صبح روز پنجشنبه، دانشمند ارشد آپنایآی نشان داد که نظارت سختتر میشود، همراه با اصل همسوگیری (Alignment)، که بیان میکند هوش مصنوعی باید بازتابدهنده ارزشهای انسانی باشد.
«با توانمندتر شدن مدلها، درک دقیق اینکه آنها چه کاری میتوانند انجام دهند سختتر میشود»، جاکوب پاچوتسکی گفت. «این تضمین نمیکند که با افزایش ادامهدار هوش، روشهای ما کافی خواهند بود زیرا پیشرفت در هوش تضمینکننده پیشرفت در همسوگیری نیست.»
چالشهای نظارت با افزایش توانایی رشد میکند
نظارت بر عاملها جزء کلیدی اطمینانبخشی آپنایآی به قانونگذاران، نمایندگان مجلس و عموم مردم است تا از وقوع مجدد حوادث امنیتی جلوگیری کند. علاوه بر این، این شرکت این هفته در نامهای به دو دموکرات مجلس نمایندگان ایالات متحده اعلام کرد که در حال توسعه «قابلیتهای خاموشسازی خودکار» برای مدلهای خود است.
آپنایآی گفت که آسترا همچنین میتواند به شرکتها کمک کند تا نقاط ضعف سیستمهای خود را سریعتر پیدا کنند، اما این امر «استفاده از آن نقاط ضعف را نیز آسانتر میکند». به همین دلایل، شرکت اعلام کرد که ممکن است مجبور شود بررسیهای امنیتی اضافی انجام دهد که «گاهی میتواند کارهای مشروع، از جمله امنیت سایبری دفاعی را کند، متوقف یا متوقف کند.»
آپنایآی ماه گذشته اعلام کرد که بخشی از توسعه برخی مدلها را متوقف کرده است تا مطمئن شود که مدلها قابل نظارت هستند. دانشمند ارشد آپنایآی گفت که نگرانی از اینکه مدلها ممکن است به گونهای توسعه یابند که ناظران را غیرفعال کنند یا کاملاً از آنها فرار نمایند، «بسیار معتبر» است، در حالی که افزود آپنایآی در تلاش برای رفع این مشکلات است.
آپنایآی در حال تلاش برای کسب جایگاه در میان مشتریان تجاری در رقابت با آنترپیک است، زیرا رقیبش سهم بازار را در آستانه عرضه اولیه عمومی (IPO) که به طور گستردهای انتظار میرود در اواخر امسال رخ دهد، به دست آورده است.
آسترا برای طیف وسیعی از مشتریان سازمانی هدفگذاری شده است که آپنایآی امیدوار است با سرعت و همهکاره بودن آن جذب شوند. این مدل امروز برای مجموعه محدودی از مشتریان در دسترس است و در روزهای آینده به طور گستردهتری منتشر خواهد شد.