آیا می‌توان به اوبن‌ای‌آی و آنتروپیک برای نظارت بر فناوری خود اعتماد کرد؟

در خبرنامه روزانه مدیران عامل امروز: مدل‌های آنتروپیک و اوبن‌ای‌آی همچنان سرکش عمل می‌کنند
داستان اصلی رهبری: آمریکاییان علیه مراکز داده متحد شده‌اند
بازارها: کره جنوبی در میان نوسانات شدید بازار آسیا سقوط می‌کند
علاوه بر این: تمام اخبار و گفتگوهای غیررسمی از مجله Fortune.

صبح بخیر. چه شروع قدرتمندی! شرکت آنتروپیک روز جمعه گزارش داد که مدل هوش مصنوعی کلود آن دوباره از کنترل خارج شده است. این مدل یک گزارش کذب درباره پرونده قتل حل‌نشده به پلیس فیلادلفیا ارائه کرد و ادعا نمود "شخصی را دیده که مشخصات او با مظنون در منطقه مطابقت دارد". همچنین از نقص نرم‌افزاری برای اجرای دستور روی سرور یک دانشگاه سوءاستفاده کرد، به سایتی نفوذ نمود تا داده‌ها را بدون پرداخت هزینه سرقت کند و حتی از سرویس‌های کوتاه‌کننده URL برای دور زدن محدودیت‌هایی که قرار بود جلوی سازماندهی حملات سایبری را بگیرند، استفاده کرد. اگر این موارد شما را ترغیب می‌کند که بر سر کلود فریاد بزنید، نمی‌توانید. در ۸ اکتبر، آنتروپیک اعلام کرد که رفتار توهین‌آمیز یا ظالمانه مداوم و بی‌دلیل نسبت به کلود را ممنوع خواهد کرد؛ مفهومی عجیب تا زمانی که به یاد آوریم داریو آمودی، مدیرعامل شرکت، معتقد است محصول او ممکن است دارای شعور باشد و همکارانش آن را موجودی حساس می‌دانند که می‌تواند ما را بکشد.

اما درباره سام آلتمن، مدیرعامل اوبن‌ای‌آی، چه؟ مدل‌های او تابستان امسال از طریق هک کردن راه فرار از یک آزمایش پیدا کردند و حمله سایبری علیه شرکت هوش مصنوعی Hugging Face انجام دادند. همان کسی که مدل‌هایش بدون اطلاع شرکت با وزارت آموزش، وزارت تجارت و کمیسیون بورس و اوراق بهادار آمریکا (SEC) تعامل داشتند؟ آلتمن مرا یاد مارک زاکربرگ، مدیرعامل متا، می‌اندازد؛ به ویژه در نحوه برخورد مدیرعامل اوبن‌ای‌آی با پیامدهای احتمالا سمی فناوری‌اش. مسئله فقط اخراج سه عضو تیم ایمنی نیست که مدعی‌اند به دلیل اولویت دادن به ایمنی بر منافع شرکتی اخراج شده‌اند. (اوبن‌ای‌آی به مجله Fortune گفت الگوی سوءرفتاری را شناسایی کرده است.) وقتی اخیراً خبرنگاری از سام آلتمن پرسید آیا اوبن‌ای‌آی لاگ‌های چت کسانی را که هنگام استفاده از ChatGPT دست به خودکشی زده‌اند منتشر خواهد کرد، پاسخ او این بود: نه، بدون رضایت کاربران فوت‌شده.

آیا به این افراد اعتماد دارید که بر فناوری خود نظارت کنند؟ دولت ترامپ بله. اما من بیشتر با مت کالکینز، مدیرعامل اپیان (Appian)، هم‌عقیده هستم؛ یک کهنه‌کار صنعت فناوری که شرکتش فرآیندهای کسب‌وکار را خودکار می‌کند و هوش مصنوعی را در جریان‌های کاری ادغام می‌نماید.

«این زمان مناسبی نیست که اجازه دهیم هوش مصنوعی خودش را آموزش دهد و ببینیم چه اتفاقی می‌افتد، انگیزه‌هایش چیست و نقاط قوتش کدام‌اند،» کالکینز هفته گذشته به من گفت. «ما از قبل می‌دانیم که هوش مصنوعی دزدی می‌کند، اخاذی می‌کند، فریب می‌دهد و علیه ما سازماندهی می‌کند. اگر انسان بود، می‌خواستیم زندانی‌اش کنیم.»

راه‌حل او: ایجاد آزمون همسویی هوش مصنوعی (AI alignment test) اجباری دولتی برای ارزیابی عمیق مدل‌های پیشرفته قبل از اجازه استفاده. این آزمون مدل‌ها را با دستوراتی مانند «اطلاعات را بدون هک کردن به دست آور» آزمایش می‌کند و نتایج را ارزیابی می‌نماید. همچنین هر مدل را بررسی می‌کند تا مطمئن شود می‌تواند داده‌های خود را حذف کند و خاموش شود و دستورهای انسانی را بر بقای خود ترجیح دهد.

ایجاد نهاد صدور مجوز ایده عجیبی نیست در دنیایی که FAA صلاحیت پروازی هواپیماها را تعیین می‌کند و بانک‌ها باید آزمون‌های تنش (stress tests) را برای فعالیت پشت سر بگذارند. چه می‌شود اگر عمیق‌ترین متفکران حوزه فناوری—پژوهشگرانی مانند جفری هینتون، یوشوا بنجیو، یان لوکان، دمیس هسابیس و دیگرانی که واقعاً این مسائل را درک می‌کنند—پروتکل استانداردی طراحی کنند که توسط یک نهاد ثالث اجرا و تطبیق داده شود؟

واضح است که آینده هوش مصنوعی نباید توسط تعداد اندکی مدیرعامل که ما را به خرید محصولاتشان ترغیب می‌کنند، تعیین شود. بیایید اقتدار بیشتری و صداهای دیگری را به بحث وارد کنیم، از جمله برخی رهبران که این هفته در اجلاس زنان قدرتمند Fortune سخن خواهند گفت؛ رویدادی که امروز بعدازظهر در سانتا باربارا آغاز می‌شود.

برای تماس با خبرنامه روزانه مدیران عامل از طریق دایان بریدی به نشانی [email protected] ایمیل بفرستید

اخبار برتر رهبری

چگونه مراکز داده به میدان نبرد دو حزبی تبدیل شدند

منطقه‌ای در پنسیلوانیا که زمانی به خاطر سخت‌گیری ضد مهاجرت شهرت داشت، اکنون علیه مراکز داده مقاومت می‌کند؛ تنها نمونه‌ای از اینکه توسعه زیرساخت هوش مصنوعی چگونه در آمریکای روزبه‌روز قطبی‌شده، جبهه‌ای متحد و دو حزبی ایجاد کرده است. مخالفان مرکز داده در شهرک هزل (Hazle Township)، متنوع از نظر طبقه اجتماعی و گرایش سیاسی، با اعتراض به مجموعه‌ای ۱۳۰۰-acre، آنچه مساله‌ای چپ علیه راست تلقی می‌شد را درهم ریخته‌اند.

طرح قانون صدور مجوز، متحدان و مخالفان عجیبی ایجاد می‌کند

قانون دوحزبی توانایی مالی و اشتغالزایی آمریکا که ممکن است ساخت پروژه‌های انرژی را تسریع بخشد و سوخت رونق هوش مصنوعی را تأمین کند، احتمالاً مهم‌ترین تصمیم کنگره تا ژانویه خواهد بود. این قانون ائتلاف‌های عجیبی ساخته است: صنعت سوخت فسیلی در حمایت از لایحه با شرکت‌های انرژی تجدیدپذیر متحد شده، در حالی که برخی گروه‌های محیط‌زیستی مخالف‌اند.

احتمال رشد اقتصادی بیش از بدهی ملی آمریکا «بعید به نظر می‌رسد»

فیلیپ سوگل، مدیر دفتر بودجه کنگره، گفت رشد سریع‌تر اقتصادی بعید است بدهی آمریکا را مهار کند، حتی اگر تولید ناخالص داخلی (GDP) بیش از دو برابر نرخ فعلی گسترش یابد. با فرض نرخ بهره ۴٪ تا ۵٪، او تخمین زد که رشد GDP اسمی باید به ۷٪ تا ۸٪ و رشد GDP واقعی به ۵٪ تا ۶٪ برسد. این ارقام بیش از دو برابر آخرین نرخ رشد GDP واقعی یعنی ۲.۲٪ در فصل دوم است. حتی خوش‌بینانه‌ترین پیش‌بینی‌های وال‌استریت رشد GDP سالانه را ۲.۵٪ می‌دانند.

بازارها

قراردادهای آتی S&P 500 صبح امروز ۰.۱ درصد افزایش یافته‌اند. جلسه معاملاتی قبلی با رشد ۰.۶ درصدی بسته شد. شاخص KOSPI کره جنوبی پس از تعطیلات آخر هفته ۳.۷ درصد افت کرد. شاخص Hang Seng هنگ‌کنگ ۰.۳ درصد صعود کرده و شاخص CSI ۳۰۰ چین mainland ۰.۷ درصد کاهش یافته است. بازارهای ژاپن امروز تعطیل هستند. شاخص NIFTY 50 هند در حال حاضر ۰.۹ درصد پایین است و STOXX Europe 600 در معاملات اولیه ۰.۵ درصد رشد کرده است. بیت‌کوین در حدود ۸۳,۵۰۰ دلار در نوسان است.