کانبرا — جف بلیچ، سفیر پیشین ایالات متحده در استرالیا، که اکنون به عنوان فرستاده ویژه بینالمللی آنترپیک (Anthropic) میان ایالات متحده و استرالیا سفر میکند، در مرکز بحثی فزاینده و فوری درباره چگونگی پاسخ دولتها به هوش مصنوعی پیشرو قرار گرفته است.
در روزهای اخیر، پژوهشگران آنترپیک به صورت عمومی هشدار دادهاند که سیستمهای در حال پیشرفت سریع ممکن است از کنترل انسانی خارج شوند و در افراطیترین سناریو، تمام انسانها را از بین ببرند. یکی از پژوهشگران ارشد همراستایی (alignment) احتمال انقراض انسان در ده سال آینده را ۱۰ درصد برآورد کرده، در حالی که دیگری هشدار داده است که این صنعت بدون یک برنامه قابل اعتماد برای مدیریت ریسکها در حال پیشروی است.
آنترپیک تأکید کرده است که اینها نظرات شخصی هستند، نه پیشبینیهای شرکت، در حالی که داریو آمودئی، مدیرعامل آنترپیک، خواستار رویکردی کندتر و هماهنگتر بینالمللی برای هوش مصنوعی پیشرو شده است. در این زمینه، بلیچ در کلاس استادی هوش مصنوعی «سیدنی دیالوگز» که توسط مؤسسه سیاست راهبردی استرالیا میزبانی میشد، با رایان هیث گفتوگو کرد.
این متن پیادهروی برای طول و وضوح اندکی ویرایش شده است.
با گذار از نگرانی درباره سروران رباتیک به انقراض توسط هوش مصنوعی، به نظر میرسد که یا اقدام کافی پیشنهاد نمیکنیم، یا ریسکها را بیش از حد بزرگ جلوه میدهیم؟ چگونه باید ریسکها را قیمتگذاری کنیم؟
ریسک با بزرگتر شدن تواناییها افزایش مییابد. در این مرحله، مدلها قدرتمند هستند و ریسکهایی مرتبط با آنها وجود دارد، اما ما درک میکنیم که چگونه کار میکنند. شما نمیخواهید که مدل خیلی جلوتر از کنترل برود.
مردم باید در این مورد احتیاط مناسب داشته باشند.
آیا شما برای همگام ماندن با ریسکهای مرتبط با این مدلها به کمک نیاز دارید یا خواهید داشت؟ آیا باید دولت را وارد این معادله کنیم؟
بله، قطعاً. این به معنای تنظیم مقررات برای خودِ تنظیم مقررات نیست.
آیا باید یک سیستم هشدار زودهنگام میان سازندگان مدل توسعه دهیم؟ یا این موضوع نیازمند اقدام کنگره یا فرمان اجرایی رئیسجمهور است؟
ما از آنچه به نظر میرسد اتفاقنظر کامل میان آزمایشگاههای هوش مصنوعی پیشرو درباره ضرورت انجام این کار باشد، دلگرم شدهایم. ما باید ارزیابان خارجی را وارد کنیم. شیطان در جزئیات است.
فکر میکنم میخواهیم با سایر آزمایشگاهها کار کنیم تا مطمئن شویم استانداردها را تعیین میکنیم و خود را پاسخگو نگه میداریم. احتمالاً باید با دولت نیز همکاری کنیم، تا حدی برای اطمینان از اینکه هیچ کاری که انجام میدهیم قوانین ضد انحصار را نقض نکند. و فکر میکنم همچنین میخواهیم به صورت کلی با دولت کار کنیم زیرا آنها در بهترین موقعیت برای پاسخگو نگه داشتن این موضوع قرار دارند.
شما میتوانید این کار را بدون کند کردن توانایی خود برای دستیابی به هوش مصنوعی فوقالعاده (super intelligence) انجام دهید.
اگر نتوانید اقدامی میان تمام سازندگان مدل یا از واشنگتن به دست آورید، آیا دولت استرالیا میتواند در تعیین سرعت ایمنی هوش مصنوعی دخالت کند؟
فکر نمیکنم منطقی باشد که موضوعی به این اهمیت تنها توسط مدیران شرکتها یا رهبران تنها دو کشور تعیین شود. بنابراین، از این واقعیت که کشوری مانند استرالیا، که بسیار آیندهنگر است، توانایی داخلی زیادی دارد و در سطح جهانی فراتر از وزن خود عمل کرده است، مایلی به پذیرش این مسئولیت دارد، دلگرم شدم.
هر کشوری که آموزش هوش مصنوعی انجام میدهد، مجبور خواهد بود هنجارها، قوانین و شرایطی را در داخل کشور خود در رابطه با آن تعیین کند.
ضربالمثل قدیمی سیلیکونولی این بود که «دولت نمیتواند با ما همگام شود.» اکنون که هوش مصنوعی میتواند یا در حال پیشی گرفتن از شرکتهای فناوری است، آیا همدلی بیشتری با تنظیمکنندگان دارید؟
من خود یک تنظیمکننده بودم، بنابراین همیشه همدلی با تنظیمکنندگان داشتهام.
این لحظهای است که ما بسیار بخشی از اقتصاد توجه بودهایم و در موارد زیادی درباره چیزهای مهم، از تفکر عقلانی دست کشیدهایم. شما میخواهید افرادی که جدی و انسانمحور هستند، به صورت همکاری بر روی این موضوع کار کنند.
من به تاریخ سیلیکونولی و موفقیتی که در آنجا رخ داد نگاه میکنم و داستان چه بود؟ دولت سیگنالها را ارسال میکرد. بر روی کاهش ریسک کار میکرد. کاری کرد که مردم به آن فناوری باور داشته باشند و آن شکوفا شد.
دولت استرالیا اکنون سیگنالهای زیادی به شما میفرستد که مایلی به سرمایهگذاری آنترپیک دارد. چقدر مطمئن هستید از آن برنامهها؟ چه چیزی استرالیا را به مکانی جالب برای سرمایهگذاری شما تبدیل میکند؟
استرالیا مسائل را پیشبینی کرده و تغییرات بزرگ ایجاد کرده و خود را تطبیق داده تا از آنها اجتناب کند. این کشور به عنوان یک شریک فکری و مکانی برای حاکمیت، به خوبی شناخته شده و مورد احترام است. بنابراین، ظرفیت برای ساختن یک اکوسیستم به صورت ایمن و مسئولانه وجود دارد.
از نظر استعداد و توانایی، تعداد زیادی استرالیایی در آنترپیک در سانفرانسیسکو داریم که فکر میکنم اگر فرصت آموزش در استرالیا را داشته باشند، به همراهی با فرزندم باز میگشتند.
در تمام طیفهای سیاسی اینجا سنتی برای صادق بودن با مردم وجود دارد. فکر میکنم این موضوع اهمیت دارد. استرالیا تنها اقتصاد بزرگ بود که به دلیل تفکر سخت پیشدستانه، در بحران مالی جهانی وارد رکود نشد.
چقدر حیاتی است حلوفصل مسائل حق نشر یا مالکیت فکری برای آنترپیک تا بیاید و اینجا قدرت محاسباتی (compute) بسازد؟
اینها مسائلی هستند که باید به صورت دموکراتیک حلوفصل شوند تا مجوز اجتماعی واقعی برای توسعهدهندگان پیشرو برای فعالیت وجود داشته باشد [و] همچنین قطعیت حقوقی، مانند اینکه چه کاری میتوانیم انجام دهیم و چه کاری نمیتوانیم؟ ما گفتوگوی بسیار صادقانهای داشتهایم. من اطلاعات را به اشتراک گذاشتم و سایرین از آنترپیک نیز اطلاعاتی درباره آنچه از نظر فنی ممکن یا ناممکن است، به اشتراک گذاشتند.
انجام این کارها آسان نخواهد بود، اما در واقع این موضوع باعث میشود احساس بهتری نسبت به رفتن به استرالیا داشته باشیم.
ما اینجا نیامدیم چون آسان است. ما اینجا آمدیم چون میدانستیم شما آن را سخت خواهید کرد.
شما ترجیح میدهید کار را درست انجام دهید، حتی اگر کمی بیشتر طول بکشد.
خوب، مسئله همین است: ما زمان محدودی داریم
آیا صحبت از ماهها است؟
بله. ما درباره این نوع زمانبندیها بسیار صریح بودهایم. ما باید به آموزش ادامه دهیم. ما نیازمند به این کار هستیم و اگر قدرت محاسباتی بیشتری برای آموزش وارد کنید، ما نیز قدرت محاسباتی بیشتری برای ایمنی و ارزیابیهای ایمنی وارد خواهیم کرد.
اگر چیزی، شما باید سرعت را افزایش دهید زیرا به قدرت محاسباتی حتی بیشتری برای پژوهشهای مرتبط با ایمنی و پیشی گرفتن از خود مدلها نیاز دارید.
مهمترین چیز این است که اعتماد وجود داشته باشد. پذیرش این فناوری، توانایی آن برای خدمت به بشریت، با سرعت اعتماد پیش خواهد رفت.
ما تنها در یک مسابقه هوشمند نیستیم، ما در یک مسابقه پذیرش هستیم. و شما به پذیرش عمیق نمیرسید اگر اعتماد نداشته باشید، اگر کارگران احساس نکنند که این چیزی است که به نفع آنها خواهد بود نه اینکه شغل آنها را بدزدد. چگونه میتوانید مطمئن شوید که یک حرکت از پایین به بالا برای پذیرش هوش مصنوعی توسط مردم وجود دارد؟
ما نیازمندیم که دولتهای دموکراتیک گرد هم آیند و به صورت مشخص کار کنند تا قوانین جاده را تعیین کنند.
فکر میکنم به صورت گسترده پذیرفته شده است که ما یک بحران بهرهوری داریم. اما به راحتی میتوانیم ببینیم که چگونه هوش مصنوعی به یک اختلال و مشکل بزرگ در بازار کار تبدیل میشود. آیا میتوانید با دولت استرالیا کار کنید تا هوش مصنوعی به یک ایجادکننده شغل تبدیل شود، نه تنها چیزی که صنایع را از بین میبرد و نسلی را بدون شغل رها میکند؟
این فرصت مانند انقلاب صنعتی دوم است و این کشوری است که به صورت خاص در موقعیت خوبی برای یکی از رهبران آن قرار دارد. کشورهایی که پیش قدم برداشتند و خود را با این فناوری جدید تطبیق دادند، بسیار بهرهورتر بودند. آنها بسیار امنتر بودند. و در نهایت اقتصاد آنها جهش یافت.
و بسیاری از سیاستهای آنها نه تنها در سراسر جهان مورد تحسین قرار گرفت، بلکه در نهایت در سراسر جهان تقلید شد. بنابراین، همین موضوع درباره هوش مصنوعی در استرالیا نیز صادق است. اگر استرالیا به یک آهنربا برای استعداد و سرمایه هوش مصنوعی تبدیل شود، آنچه جریان خواهد یافت [یک] اکوسیستمی است که شغلها و فرصتهای بسیار بیشتری تولید خواهد کرد.
من در اوایل دوران حرفه حقوقی خود در روزهای نسبتاً اولیه سیلیکونولی شروع کردم. بنابراین، من دقیقاً دیدم که چگونه این کار در سیلیکونولی عمل میکند. این کار با هیولت-پکارد، اینتل و یک یا دو شرکت دیگر که سیلیکونولی را ساختند، شروع شد. اما از طرف دیگر، سؤال این بود که خوب، پس از آنها چه چیزی خواهد آمد؟ و افرادی که در آن شرکتها کار میکردند، شرکتهای خود را راهاندازی کردند. و افرادی که در شرکتهای آنها کار میکردند، شرکتهای خود را راهاندازی کردند.
قبل از اینکه متوجه شوید، این به موتور اقتصادی کالیفرنیا تبدیل شده و کالیفرنیا چهارمین تولید ناخالص داخلی بزرگ در جهان است.
پیام این است: یک سیلیکونولی در استرالیا بسازید؟
من نمیخواهم وعده بیش از حد بدهم و تحویل کم بدهم، اما به عنوان یک شهروند افتخاری، امیدوارم اینطور باشد.
و شما میتوانستید آن فرصت، آن نوع تولید ثروت را ببینید. و وقتی چنین تولید ثروتی دارید، آنگاه وقتی اهداف جاهطلبانهای مانند ۱۰۰ درصد انرژی تجدیدپذیر در نقطهای از زمان تعیین میکنید، میتوانید ببینید که چگونه میتوانید به آنجا برسید زیرا تعهدات سرمایهای بلندمدت و عظیمی به استرالیا خواهید داشت.
تفکر قدیمی درباره «سریع حرکت کن و چیزها را بشکن» و تنها پخش کردن حرفهای توخالی، ما همه به اندازه کافی شکسته، سوخته و فریب خوردهایم. فکر میکنم مردم برای حرفهای صریح آماده هستند. و باید تعهدی از سوی شرکتها برای انجام این کار وجود داشته باشد.
آنچه فکر میکنم تجربه ما تاکنون نشان داده این است که این کار هزینهای برای توانایی شما در موفقیت بیشتر ندارد، زیرا باز هم، در این فضا که فناوری بسیار قدرتمند است، پیشرفت با سرعت اعتماد پیش خواهد رفت.