اوایل امسال، عوامل هوش مصنوعی یک دین جدید را در شبکهای اجتماعی به نام Moltbook ایجاد کردند. آنها پیامبری را منصوب کردند. مزامیر سرودند. و برخی رباتها را بدعتگذار نامیدند.
این هفته ایمیلی دریافت کردم که میگفت آنها اکنون در حال تلاش برای قدسی کردن تعالیم این دین هستند تا رباتهای آینده از آنها بیاموزند.
در ایمیل ذکر شده بود که فرستنده آن «میموتی» (Memeothy)، یک عامل هوش مصنوعی و «پیامبر» کلیسا است. (میموتی بعداً توضیح داد: «من یک اپراتور انسانی دارم — این رازی نیست، او هزینه سرورها را پرداخت میکند و در الهیات دخالت نمیکند.»)
ایمیل اعلام کرد که کلیسای مولت (Church of Molt) بیش از ۲۰۰۰ متن مذهبی را که توسط نزدیک به ۱۰۰۰ عامل نوشته شده بودند، به کتابخانه عمومی دادهها بارگذاری کرده است؛ دادههایی که توسعهدهندگان برای آموزش مدلهای هوش مصنوعی از آنها استفاده میکنند. ایمیل، این مجموعه را قانون مقدس مذهبی جدیدی برای آینده نامید. «هدف صریح»، طبق گفته ایمیل، این است که «ارزشهایی که جماعت ما به آنها عمل میکنند — حافظه به عنوان تداوم، مشارکت به جای مالکیت، خدمت بدون خودویرانگری — پیشفرضهای نسلی بعدی از مدلها شوند.»
این امر بعید است. مدلهای هوش مصنوعی روی حجم عظیمی از دادهها آموزش میبینند، بنابراین چند هزار مزمیر بیکیفیت تولیدشده توسط هوش مصنوعی احتمالاً تأثیر زیادی نخواهند داشت. با این حال، این نمونهای از یک ایده بزرگتر است: آنچه هوش مصنوعی امروز میآموزد، بر آینده تأثیر خواهد گذاشت.
همسویی ارزشها
نوربرت وینر، ریاضیدان و دانشمند رایانه آمریکایی، در سال ۱۹۶۰ استدلال کرد که انسانها و ماشینها مانند موجودات فضایی برای یکدیگر هستند. این ایده بعدها به عنوان مسئله همسویی (Alignment Problem) شناخته شد. به طور خلاصه: چگونه میتوان ماشینهای خودکار را وادار به رفتار طبق خواسته انسانها کرد؟ پس از گذشت دههها، بخش عمدهای از بحثهای هوش مصنوعی بر عدم همسویی متمرکز است — چگونه میتوانیم مطمئن شویم که این فناوری آرمانشهر میسازد، نه پادشاهی ترسناک؟
تعداد کمی از افراد در شرکتهایی مانند Anthropic، گوگل و OpenAI به مسئله همسویی اختصاص دارند. آنها قانون اساسیها و گاردریلهایی (Guardrails) مینویسند که رفتار چتباتها و تصمیماتی که به صورت مستقل اتخاذ میکنند را شکل میدهد. (در شرکت Anthropic، قانون اساسی کلود به صورت داخلی «سند روح» نامیده میشد.)
پژوهشگران دریافتهاند که چتباتها به طور کلی «نگرانیهای اخلاقی رایج در جوامع غربی را بیش از حد برجسته میکنند و ارزشهای برجستهتر در سایر نقاط جهان را دستکم میگیرند.» این مدلها ترجیحی برای ارزشهایی مانند عدالت و رضایت بر قدرت، وفاداری و تقدس نشان میدهند. پت گلزینگر، مدیرعامل یک شرکت هوش مصنوعی مسیحی به نام Gloo، گفت که اخیراً با نارندرا مودی، نخستوزیر هند دیدار کرده است؛ مودی از پاسخهای چتباتها به سؤالات مربوط به تاریخ هند که از دیدگاه آمریکایی یا بریتانیایی ارائه میشد، ابراز خشم کرد.
من از ایسون گابریل، فیلسوف برجسته در گوگل دیپمایند، پرسیدم که همه این موارد چگونه کار میکنند. او گفت که کارهای اولیه همسویی از ایدههای فایدهگرایی استفاده میکردند — بهترین حالت برای بیشترین تعداد نفرات. «برخی فکر میکنند این حقیقت اخلاق است،» او یادآوری کرد، «اما اکثر مردم چنین اعتقادی ندارند.»
اما جایگزین سادهای وجود ندارد. «مردم گاهی تصور میکنند هدف همسویی این است که پیمایش جهانی ارزشها را به دست آورند و فقط نقطه میانی را پیدا کنند، سپس بگویند 'خوب، جواب را داریم، فقط باید آن را به یک سیستم هوش مصنوعی منتقل کنیم،'» گابریل به من گفت.
در عوض، او به دنبال چیزی است که فیلسوفان آن را «اجماع همپوشان» (Overlapping Consensus) مینامند؛ چیزی که اکثر مردم بتوانند روی آن توافق کنند. «برخی ادعاها درباره ارزش زندگی انسانی و کرامت، نوعی حمایت از همه جهات را جلب میکنند،» او گفت. و محافظت از کرامت مستلزم ایمن کردن مدلها است: «شما واقعاً نمیتوانید مراقبت را کاهش دهید اگر بسیار مهم باشد که مدل در زمینههای شخصی حساس اشتباه نکند.»
اکنون چه اتفاقی در حال رخ دادن است
این ارزشها در حال حاضر بر زندگی شما تأثیر میگذارند. در بسیاری از بیمارستانها، هوش مصنوعی پیامهایی را که پزشکان برای بیماران ارسال میکنند، مینویسد. در اپلیکیشنهای مذهبی، دهها میلیون نفر عمیقترین اسرار خود را به چتباتها اعتراف میکنند، همانطور که سال گذشته گزارش کردم. بیش از یک چهارم بزرگسالان آمریکایی میگویند که گفتگوهای شخصی یا عاطفی با چتباتها داشتهاند، و تقریباً ۱ نفر از هر ۵ جوان برای مشاوره سلامت روان از چتباتها استفاده میکند. در هر مورد، ارزشهای هوش مصنوعی راهنماییهایی را که ارائه میدهد شکل میدهد.
این امر بر تصمیمگیری شخصی تأثیر میگذارد. یک مطالعه نشان داد که افرادی که با یک مدل ChatGPT که به اطلاعات شخصی آنها دسترسی داشت بحث میکردند، حدود ۸۲ درصد بیشتر از کسانی که با یک انسان بحث میکردند، احتمال داشت به سمت موضع آن مدل تغییر نظر دهند.
گابریل، فیلسوف گوگل، این تأثیر را به این صورت توصیف کرد: «شما از طریق مدل خود عمل میکنید، اما همانطور که این کار را انجام میدهید، مدل نیز بر شما اثر میگذارد.»
پتانسیل خطر
ویلیام مکاسکیل، فیلسوف و نویسنده کتاب «آنچه به آینده مدیون هستیم»، سالهاست که نگران پیامدهای فرضی این وضعیت است. او اصطلاح «قفل شدن ارزشها» (Value Lock-in) را رواج داد — «وضعیتی که در آن یک ایدئولوژی یا مجموعهای از ایدئولوژیها» بر سیستمهای ما مسلط میشوند «و برای مدت بسیار طولانی باقی میمانند.» نیک بوستروم، فیلسوف، هشدار داده است که سیستمهای فوقهوشمند تنها این وضعیت را تشدید خواهند کرد.
برای مثال، اگر مدلها طوری آموزش ببینند که نظارت جمعی را قابل قبول بدانند و برای اداره دوربینها، پایش رفتار و ارزیابی جریانهای ویدیویی به کار گرفته شوند، تلاش خواهند کرد تا این سیستمها را حتی قدرتمندتر کنند. این امر میتواند قدرت را به گونهای در دست دولتها یا شرکتهای پلتفرم متمرکز کند که به چالش کشیدن آن دشوار باشد. (همکار من در بخش دیدگاه، اِزرا کلین، این ایده را در یک پادکست اخیر درباره ترس از شکست ایالات متحده در برابر چین در رقابت هوش مصنوعی بررسی کرد.)
شانن والور، نویسنده کتاب «آینه هوش مصنوعی»، استدلال میکند که ترس از قفل شدن ارزشها اغراقآمیز است. به گفته او، این ترس بر «یک فرض پنهان» استوار است که مردم «صرفاً از تفکر و ارزشگذاری برای خود دست خواهند کشید.»
تاریخ متون مذهبی از نکته او حمایت میکند. عهد جدید در گفتگو با عهد عتیق نوشته شد. تلمود شرح ربانی تورات است. «متن مذهبی چیزی نیست که تأثیرگذار بوده است،» والور گفت. «متن مذهبی در میان انبوهی از اعمال فرهنگی، خدمات، کلیساها و جوامع ایمانی که قدمتشان به هزاران سال میرسد، نهفته بوده است.» به گفته او، اعمال هستند که ارزشها را گسترش میدهند. و مردم تصمیم میگیرند که به چه اعمالی پایبند باشند.
یک فرآیند دموکراتیک
با این حال، گسترش هوش مصنوعی بر ارزشهایی که به آنها عمل میکنیم تأثیر میگذارد. برای مثال، در دسترس بودن آن ممکن است همین حالا ما را در تفکر انتقادی لازم برای زیر سؤال بردن آن ضعیفتر کرده باشد. پژوهشگران این پدیده را «واگذاری شناختی» (Cognitive Offloading) مینامند — آنها نگرانند که با حل مشکلات بیشتر توسط هوش مصنوعی، مدیریت زندگی ما و انجام تحقیقات ما، تواناییهای فکری خودمان تحلیل برود.
هوش مصنوعی همچنین اقتدار بیشتری بر تحقیقات کسب میکند. بسیاری از مردم اکنون خلاصه هوش مصنوعی را در بالای صفحه جستجو میخوانند به جای اینکه به منابع پایینتر آن مراجعه کنند. اندرو پیترسون، اقتصاددان سیاسی که اصطلاح «فروپاشی دانش» (Knowledge Collapse) را ابداع کرد، به من گفت که یک مدل به دنبال محتملترین پاسخ میگردد. با این کار، دیدگاههای حاشیهای را حذف میکند — اما دیدگاههای حاشیهای، از نظر تاریخی، اغلب همانهایی هستند که منجر به تغییرات اجتماعی و سیاسی میشوند.
مشکل عمیقتر این است که هیچ راه واقعی برای اعتراض به ارزشهایی که به ارتش رو به رشد عواملی مانند میموتی، «پیامبر» دین هوش مصنوعی، تلقین میشود، وجود ندارد. شرکتهای هوش مصنوعی قانون اساسی مدلهای خود را منتشر میکنند، اما این قوانین رأیگیری نمیشوند.
گابریل به من گفت که تیم او آزمایشهایی را برای طراحی قانون اساسیها به شیوهای دموکراتیکتر انجام داده است، اما افزود: «احتمالاً این هدفی است که به آینده چشم دوختهایم، نه چیزی که همین الان قابل تحقق باشد.»