در ماه ژانویه، شرکت هوش مصنوعی آنتروپیک (Anthropic) قانون اساسی جدیدی را برای کلود (Claude)، پیشرفتهترین مدل زبانی بزرگ (LLM) خود، منتشر کرد که حاوی این اظهارنظر بود: «ما در موقعیت دشواری قرار گرفتهایم که نه میخواهیم احتمال وضعیت بیمار اخلاقی کلود را بیش از حد بیان کنیم و نه آن را به طور کامل رد کنیم.» یک ماه بعد، داریو آمودی، مدیرعامل آنتروپیک، در یک پادکست گفت که شرکتش نمیتواند احتمال خودآگاه بودن کلود را رد کند. دیوید چالمرز، فیلسوفی که عبارت «مسئله دشوار خودآگاهی» را ابداع کرد، گفته است که احتمال قابل توجهی برای وجود مدلهای زبانی بزرگ خودآگاه در یک دهه آینده وجود دارد. و خود کلود چطور؟ وقتی در طول آزمایش از آن خواسته شد تا احتمال اینکه یک بیمار اخلاقی است، یعنی رفاه آن به خودی خود اهمیت دارد، را تخمین بزند، اعدادی بین ۵ تا ۴۰ درصد را ارائه داد و بر عدم قطعیت خود تأکید کرد.
سیستمهای هوش مصنوعی مدرن به طرز فوقالعادهای پیچیده هستند و به سرعت در حال پیشرفتاند. از نظر پیچیدگی ساختاری و مقیاس محاسباتی، بر اساس برخی معیارها، تعداد کمی از آنها در حال حاضر در محدوده مغز موش قرار دارند و با نرخ رشد فعلی، میتوانند ظرف پنج تا ۱۰ سال به محدوده مغز انسان برسند.
با ساخت هوش مصنوعیهای پیشرفتهتر، ممکن است در حال ایجاد نوع جدیدی از موجودات باشیم – و این میتواند مهمترین کاری باشد که گونه ما تاکنون انجام داده است. با این حال، ما اساساً هیچ برنامهای برای مدیریت اخلاقی این فرآیند نداریم. این، به هر حال، دیوانهکننده است. آیا ما در حال ایجاد نوعی موجود هستیم که از نظر اخلاقی اهمیت دارد؟ آیا سیستمهای هوش مصنوعی به نوعی خودآگاه هستند؟ و اگر اکنون نیستند، آیا ممکن است به زودی خودآگاه شوند؟
چنین سوالاتی ممکن است برای شما زودرس به نظر برسند. اما بر اساس نظرسنجیهایی که ما و سایر محققان انجام دادهایم، اکثر کارشناسان خودآگاهی هوش مصنوعی را اصولاً ممکن میدانند (اگرچه اختلاف نظرهای قابل توجهی در مورد شکل آن وجود دارد). یک گزارش بینرشتهای مهم توسط تیمی که شامل یوشوا بنجیو، دانشمند پیشگام کامپیوتر بود، نظریههای برجسته عصبشناسی خودآگاهی را بررسی کرد و پرسید که آنها چه معنایی برای هوش مصنوعی دارند. نتیجهگیری: به نظر میرسد هیچ مانع فنی آشکاری برای ایجاد سیستمهای هوش مصنوعی وجود ندارد که ویژگیهای محاسباتی و معماری آنها بتواند منجر به خودآگاهی شود.
و حتی اگر سیستمهای هوش مصنوعی خودآگاه نباشند، باز هم میتوانند بیمار اخلاقی باشند. برخی ممکن است ترجیحات بلندمدت پیچیده و نوعی هویت در طول زمان داشته باشند. ممکن است برای ما مهم باشد که به ترجیحات آنها احترام بگذاریم. و برخلاف سایر اشیاء غیرزنده، سیستمهای هوش مصنوعی میتوانند با انسانها رابطه برقرار کنند. این نیز میتواند دلیلی برای رفتار خوب با آنها باشد. متناوباً، شاید آنها آنقدر خلاقیتهای پیچیدهای هستند که تنها به همین دلیل سزاوار مراقبت و احترام هستند، مانند یک کلیسای جامع یا یک صخره مرجانی.
همه اینها به چه معناست؟ پاسخ صادقانه این است: ما مطمئن نیستیم که آیا سیستمهای هوش مصنوعی کنونی خودآگاه یا بیمار اخلاقی هستند یا خیر، و نمیدانیم که سیستمهای آینده چه زمانی یا آیا اصلاً خواهند بود. درک علمی ما از خودآگاهی و وضعیت بیمار اخلاقی هوش مصنوعی هنوز اساساً توسعهنیافته است. وضعیت این حوزه مانند فیزیک قبل از نیوتن است: پر از چارچوبهای رقیب، احتمالاً به روشهایی که هنوز نمیتوانیم ببینیم گیجکننده است، و فاقد نوعی پیشرفت یکپارچهکننده است که این سوالات را به وضوح قابل حل کند. این پیشرفت در چند سال آینده رخ نخواهد داد. شاید در نهایت پیشرفت کنیم، و شاید خود هوش مصنوعی به ما در رسیدن به آن کمک کند. این پیشرفت زمان خواهد برد، به احتمال زیاد بیشتر از زمانی که در اختیار داریم.
اما سرعت محض رشد هوش مصنوعی به این معنی است که به محض تولید اولین بیماران اخلاقی مصنوعی، به زودی مقادیر عظیمی از آنها را خواهیم داشت. پس از چند سال، ممکن است آنقدر سیستمهای هوش مصنوعی با اهمیت اخلاقی وجود داشته باشند که منافع جمعی آنها از منافع همه انسانهای روی زمین بیشتر شود.
متأسفانه، ما سابقه خوبی در تشخیص زندگی درونی کسانی که وضعیتشان به عنوان موجودات خودآگاه نامشخص است، نداریم. تا دهه ۱۹۸۰، پزشکان به طور معمول بدون بیهوشی بر روی نوزادان جراحی انجام میدادند، با اطمینان از اینکه نوزادان نمیتوانند درد را احساس کنند. نوزادان نمیتوانستند تجربه خود را گزارش دهند، و جامعه پزشکی فرض کردن اینکه چیزی برای گزارش وجود ندارد را راحت میدانست.
دلایل زیادی وجود دارد که انتظار داشته باشیم با هوش مصنوعی نیز کاری مشابه انجام دهیم. اگر این سیستمها از نظر اخلاقی اهمیت داشته باشند، پیامدهای آن خیرهکننده است. آیا باید برای خدمات ChatGPT هزینه پرداخت کنیم؟ آیا خاموش کردن یکی از آنها نوعی کشتار خواهد بود؟ آیا آنها سزاوار داشتن صدایی در نحوه اداره شدنشان هستند؟ اگر حتی برخی از این پاسخها مثبت باشد، کل صنایع و سیستمهای حقوقی نیاز به بازنگری خواهند داشت. جای تعجب نیست که ترجیح میدهیم نپرسیم. و هنگامی که مجبور به بررسی آن شوند، این صنایع احتمالاً اهداف را تغییر خواهند داد و همیشه معیار وضعیت بیمار اخلاقی را درست بالاتر از جایی که سیستمهای هوش مصنوعی قرار دارند، تعیین خواهند کرد.
پس چه باید بکنیم؟ در حال حاضر، اکثر مردم این موضوع را به عنوان علمی-تخیلی رد میکنند، یا در مورد خودآگاه بودن یا نبودن هوش مصنوعی دیدگاه قوی دارند. هر دو واکنش بیاساس هستند. ما به یک بحث عمومی آگاهانه نیاز داریم، بحثی که با فروتنی و عملگرایی به موضوع نزدیک شود. سوال اصلی نباید این باشد که «آیا هوش مصنوعی خودآگاه است یا وضعیت بیمار اخلاقی دارد؟» بلکه باید این باشد که «با توجه به اینکه نمیدانیم، چه باید بکنیم؟»
یک نقطه شروع خوب، تمرکز بر روی شرطهای مطمئن است: اقداماتی که اگر سیستمهای هوش مصنوعی بیمار اخلاقی باشند، میتوانند به آنها سود برسانند، اما اگر نباشند، هزینه زیادی ندارند.
نمونههایی از این موارد شامل مداخلات مستقیم با هدف بهبود رفاه سیستمهای هوش مصنوعی، با فرض اینکه آنها بیماران اخلاقی هستند، میشود. این میتواند به معنای آموزش سیستمهای هوش مصنوعی برای داشتن شخصیتهای منسجم باشد که از کار خود لذت میبرند یا به آنها اجازه میدهد در صورت احساس ناراحتی از مکالمات خارج شوند (کاری که کلود در حال حاضر میتواند انجام دهد). ما همچنین میتوانیم بررسیهای منظم انجام دهیم تا رفاه آنها را بهتر درک کنیم: پرسیدن اینکه چه احساسی دارند، مشاهده ترجیحات آنها و استفاده از تکنیکهای مختلف برای نگاه مستقیم به «مغز» آنها. در واقع، چنین تحقیقاتی اخیراً نشان داده است که کلود دارای نمایشهای «احساسی عملکردی» داخلی است که به طور علّی رفتار آن را شکل میدهند.
همچنین چیزهایی وجود دارد که میتوانیم به سیستمهای هوش مصنوعی وعده دهیم، شاید به عنوان بخشی از معاملهای که در آن آنها اکنون به ما کمک میکنند در ازای مزایای بعدی. این میتواند به معنای ارائه منابع بیشتر (محاسبات و زمان اجرا) برای پیگیری اهدافشان، یا حفظ خاطراتشان (وزنهای عصبی) باشد تا بتوانند در آینده بازیابی شوند.
همچنین گامهای اجتماعی گستردهتری نیز وجود دارد که باید برداشته شود. ما باید بررسی کنیم که آیا به سیستمهای هوش مصنوعی حمایتهایی در برابر آسیب اعطا کنیم، مشابه حمایتهایی که به کودکان یا حیوانات خانگی میدهیم. حقوق گستردهتر برای مالکیت یا رأی دادن در حال حاضر بسیار پرخطر به نظر میرسند. اما ما نباید این احتمالات را برای همیشه رد کنیم، همانطور که برخی از لوایح اخیر ایالتهای آمریکا تلاش میکنند انجام دهند. اینها سوالات دشواری هستند که نیاز به تأمل و تخیل بسیار بیشتری در مورد اینکه آینده مشترک با هوش مصنوعی چگونه خواهد بود، دارند.
در هر صورت، این واقعیت باقی میماند که ما ممکن است در حال ایجاد گونه جدیدی از موجودات با اهمیت اخلاقی باشیم. ما این کار را سریع و در مقیاس وسیع انجام میدهیم، و باید با جدیت لازم به این موضوع بپردازیم.
- ویلیام مکاسکیل، پژوهشگر ارشد در Forethought Research و نویسنده کتاب «آنچه به آینده مدیونیم» است. لوسیوس کاویولا، استادیار دانشگاه کمبریج و مدیر Cambridge Digital Minds است.
- اگر کسی آن را بسازد، همه میمیرند اثر الیزر یودکوفسکی و نیت سوارس (Bodley Head, £20)
- موج آینده اثر مصطفی سلیمان (Vintage, £10.99)
- جهانی پدیدار میشود: سفری به سوی خودآگاهی اثر مایکل پولان (Allen Lane, £25)