«من به شما دروغ نمیگویم – خطرات واقعی وجود دارند»، داریو آمودی، مدیرعامل و همبنیانگذار شرکت آنتروپیک، در مورد توسعه هوش مصنوعی گفت. «و فکر میکنم صنعت برای مدت بسیار طولانی در مورد اینکه این فناوری دارای ریسک است، به مردم دروغ گفته است.»
و بزرگترین خطر ممکن است پایان بشریت باشد، جیکوب کاکسون، پژوهشگر پیشین آنتروپیک، روز سهشنبه گذشته در شبکههای اجتماعی هشدار داد و گفت که آنتروپیک و اوپنایآی (OpenAI) با توسعه ابرهوش خودبهبودبخش «با جان ما قمار میکنند».
«این موضوع تفاوت چندانی با فیلمهایی مانند 'ترمیناتور' یا فیلمهای علمی-تخیلی ندارد»، کاکسون پنجشنبه به سیبیاس نیوز گفت. «آنقدر باهوش خواهد بود که ما را بکشد.
در پاسخ، آمودی دیروز در برنامه «یکشنبه صبح» در دفتر مرکزی آنتروپیک در سانفرانسیسکو گفت: «فکر نمیکنم کاملاً قدردان این بوده باشم که وقتی پیشرفت به این سرعت انجام میشود، واقعاً چه وضعیتی خواهد داشت.»
او گفت که توسعه هوش مصنوعی روی منحنی نمایی قرار دارد که شروع به شیب گرفتن بیشتر میکند. وقتی از او پرسیده شد این یعنی چه، آمودی گفت: «این به معنای وحشت امروز نیست. به معنای خاموش کردن همه چیز نیست. اما میگویم که این یک علامت هشدار است. علامت هشداری که نشان میدهد باید سرعت را کم کنیم.»
آمودی در مقالهای که شنبه منتشر شد، نوشت که کل صنعت فناوری باید برای «کاهش سرعت» قابلیتهای هوش مصنوعی با هم کار کنند.
وقتی از او پرسیده شد آیا آنتروپیک انتشار مدلهای پیشرفتهتر را متوقف خواهد کرد، آمودی پاسخ داد: «این منظور نیست. منظور این است که باید مطمئن شویم هر نسلی از مدلهایی که منتشر میکنیم به درستی آزمایش شده است.»
برای تلاش در این راستا، آمودی میگوید که آنتروپیک اکنون به ارزیابان مستقل دسترسی دائمی «مشابه کارمند» به مدلهای خود خواهد داد. «هر زمان که کسی مدلی از هوش مصنوعی میسازد، یک ارزیاب شخص ثالث وجود دارد که میتواند بررسی کند آیا آن شرکت از شیوههای ایمنی که متعهد به آنها شده پیروی میکند یا خیر – این شبیه به بازرس مواد غذایی است»، او گفت.
اما کارشناسان هوش مصنوعی میگویند این اقدام به سختی کافی است و آمودی نیز موافق است و ادعا میکند که از مقررات فدرال حمایت میکند. تاکنون، پیشنهادات قانونگذاری طیفی از ممنوعیت کامل ابرهوش تا یک «کلید توقف اضطراری» (Kill Switch) اجباری که میتواند هوش مصنوعی پرخطر را خاموش کند، را شامل میشود.
«کلید توقف اضطراری هوش مصنوعی میتواند ایده خوبی باشد»، آمودی گفت. «اما فکر نمیکنم ممنوع کردن آن، ممنوع کردن کامل آن، رویکرد درست باشد. اولاً، ایده اینکه ما هرگز از مزایای فوقالعاده بهرهمند نخواهیم شد، هرگز درمانهای پزشکی را نخواهیم یافت، برای من قابل قبول نیست. ثانیاً، این فناوری در کشورهای دیگر، از جمله کشورهای اقتدارگرا، ساخته خواهد شد.»
وقتی از او پرسیده شد آیا آمریکا باید توسعه هوش مصنوعی را کند کند اگر چین این کار را نکند، آمودی پاسخ داد: «این دشوارترین دوراهی است. این دشوارترین جنبه وضعیت ماست.»
او به توافقنامههای کنترل تسلیحات هستهای با اتحاد جماهیر شوروی سابق به عنوان الگوی بالقوه نگاه میکند، اما هشدار میدهد که حتی انتظارات او پایین است. «راه بلندمدترتر این است که با هم کار کنیم تا محدودیت سرعتی بر نرخ پیشرفت هوش مصنوعی اعمال شود»، او گفت. «فکر میکنم این بسیار دشوار خواهد بود، زیرا انگیزهها برای پیشی گرفتن در مزیت نظامی که از آن حاصل میشود بسیار زیاد است. و صادقانه بگویم، نمیدانم آیا امکانپذیر است یا خیر، اما باید تلاش کنیم.»
با توجه به اینکه سرنوشت بشریت ظاهراً در معرض خطر است، آمودی چقدر مسئولیت شخصی نسبت به جایی که به سمت آن حرکت میکنیم احساس میکند؟ «دیدگاه من این است که همیشه عجیب بوده که این فناوری توسط یک شرکت خصوصی ساخته میشود»، او گفت. «مردم مرتباً از من این سوال را میپرسند: چرا این کار توسط دولت انجام نمیشود؟ و عجیبترین نکته این است که من با آنها موافقم. من ناراحت هستم.»
وقتی از او پرسیده شد آیا حاضر است فناوری را به دولت واگذار کند، آمودی پاسخ داد: «به ترکیب مناسبی از دولتها. نگرانی من – من نگرانم که یک دولت واحد بتواند به همان راحتی یک شرکت واحد از این فناوری سوءاستفاده کند. اما فکر میکنم ترکیبی از دولتهای منتخب دموکراتیک، نمیدانم درباره تحویل دادن، اما نوعی نظارت، نوعی حاکمیت مشترک.»
سوال دیگر این نیست که آیا هوش مصنوعی به اندازه کافی قدرتمند خواهد شد که نیازمند محدودیت باشد، بلکه این است که چه کسی در قدرت اقدام خواهد کرد.
«اگر به روش درست بسازیم، فکر میکنم احتمال وقوع اتفاق بد بسیار کم است»، او گفت. «اگر به روش غلط بسازیم، احتمال وقوع اتفاق بد بسیار بالا است.»