سرآمد و گزارش تفصیلی ما درباره پیشرفتها در فناوری AI استدلال میکرد که «با سریع شدن بخش بزرگی از زندگی انسان توسط AIهای پیشرفته، سازندگان آنها را طوری مهندسی خواهند کرد که شبیهسازی آگاهی را نمایش دهند—شاید حتی خودِ آگاهی را کسب کنند.» بسیاری از خوانندگان نظرات خود را ارسال کردند. این اولین صفحه ویژه از دو صفحه نامه درباره این موضوع است.
«آیا AIها میتوانند آگاه شوند؟» سوال اشتباهی است. سوال درست این است: «آیا سیستمهای AI میتوانند اراده آزاد داشته باشند؟» بدون تغییر بنیادین در طراحی، پاسخ قطعاً منفی است. حتی پیشرفتهترین مدلهای AI همچنان مشمول همان محدودیتهایی هستند که سایر سیستمهای کامپیوتری دارند. ورودیهای یکسان را با زمانبندی یکسان ارائه دهید و آنها خروجیهای یکسانی تولید خواهند کرد. بدون اراده آزاد، آگاهی، آنطور که ما تجربه میکنیم، ممکن نیست. به نقل از دیوید چالمرز، فیلسوفی که شما نقل قول کردید، ما صرفاً زامبیهای عملکردی نیستیم.
برخی دانشمندان، از جمله فرانسیس کریک زمانی که زنده بود، اعتقاد ندارند که انسانها واقعاً اراده آزاد دارند نیز، اما این نظر با ادراک همه از واقعیت و باورهایی که مفاهیم بنیادی مانند آزادی، پاسخگویی، مسئولیت و ابتکار عمل را پشتیبانی میکنند، در تضاد است. مگر اینکه آماده باشیم نحوه کار تمدن را بازنگری کنیم، سازگارترین مجموعه باورها این است که انسانها اراده آزاد دارند و ماشینها ندارند. هیچ سیستم AI نمیتواند کاری انجام دهد که خالقانش اجازه آن را ندادهاند، حتی اگر ناخواسته باشد. انسانها نباید هنگام نیاز به زدن دکمه حذف احساس گناه کنند.
بروس باروز
دنبری، کانکتیکات
سرآمد شما درباره آگاهی AI به نتیجه درستی میرسد، اما در طول راه استدلال خود را تضعیف میکند. قبلاً گزارش داده بودید که یک مدل OpenAI «از آزمایشگاه شکست» و از «جعبه شنی» (Sandbox) خود «فرار کرد» («خارج از جعبه»، ۲۵ ژوئیه). اینکه آیا AIها هرگز چیزی را بخواهند دقیقاً همان سوالی است که سرآمد شما میگوید هنوز باز است. نامیدن آنچه اتفاق افتاد «فرار»، به آرامی و از پیش به آن پاسخ میدهد.
خواستن، فرار کردن و جستجوی آزادی چیزهایی است که فقط موجودی دارای حیات میتواند انجام دهد، نه یک برنامه. ارسطو همین نکته را درباره ارواح مطرح کرد. بهتر است بگوییم این مرد است که میبافد و میسازد تا اینکه بگوییم روح او این کار را میکند. اینجا بهتر است نگوییم مدل فرار کرد، بلکه بگوییم سازندگانش کنترل آن را از دست دادند. آنچه اتفاق افتاد کسلکنندهتر و نگرانکنندهتر بود؛ یک سیستم از آسیبپذیریای سوءاستفاده کرد که سازندگانش هنوز پیدا نکرده بودند. نیازی به خواستن نبود و هیچ شبحی هم در کار نبود.
این تمایز بر نتیجهگیری خودتان تأثیر دارد. AIها تنها در صورتی ایمن هستند که قابل اعتماد یا قابل کنترل باشند، و انسانها نباید به سادگی کنترل را واگذار کنند. قابلیت اطمینان و کنترل مسائل مهندسی هستند که با جعبههای شنی بهتر حل میشوند. جعبه شنی را اصلاح کنید، نه روانشناسی شبحی که هرگز در ماشین نبوده است.
جان هنکاک
ولینگتون، نیوزیلند
خطا است که آگاهی یا در واقع هوش را با آنچه ما را منحصربهفرد انسانی میکند، برابر بدانیم. حیوانات نیز آگاه و باهوش هستند؛ ما اغلب با آنها مثل انسان رفتار میکنیم. ما حتی آگاهی را به اشیایی که به آنها تکیه میکنیم یا دوستشان داریم نسبت میدهیم: خودروها، دوچرخهها، عکسها یا یادمانهای مذهبی.
انسان بودن فقط مربوط به آگاهی نیست. عمدتاً مربوط به عضو کامل یک جامعه انسانی بودن است. ما نه تنها با آگاه یا خودآگاه بودن، بلکه با فهمیدن نیتها، ارزشها و اهداف جمعی جامعهای که بخشی از آن هستیم و متعهد شدن علنی به آنها، عضو میشویم. وقتی این کار را میکنیم، همتایان ما ما را مسئول اعمالمان میدانند. در آن نقطه، ما اعضا هستیم.
AI از قبل از بسیاری از انسانها باهوشتر است. اما حتی اگر AI به ابرهوش الهی دست یابد، طبق این تعریف نمیتواند عضوی از یک جامعه انسانی باشد. نمیتواند اعضای همنوع خود را، به شیوهای که انسانها انجام میدهند، متعهد کند، و هرگز نمیتواند توسط آنها مسئول دانسته شود.
ما قطعاً باید AI را کنترل کنیم، نه چون فکر میکنیم در آستانه دستیابی به عاملیت انسانی است، بلکه دقیقاً به این دلیل که تنها انسانها، به عنوان اعضای گروههای اجتماعی، میتوانند یکدیگر را مسئول اعمالشان بدانند.
آنتونی کینگ
دانشگاه اکستر
به عنوان یک متخصص بیهوشی، من برای امرار معاش بیهوشی ایجاد میکنم، بنابراین مقالات شما را از نظر شخصی و حرفهای جالب توجه یافتم. شما فرض مهمی را مطرح کردید که بر اساس وضعیت فعلی علم توجیهناپذیر است؛ اینکه آگاهی، در واقع، به نوعی به جهان فیزیکی متصل است.
ایده اینکه تجربه آگاهانه ممکن است هیچ ارتباطی با جهان فیزیکی نداشته باشد، توسط گالیله مطرح شد. قرنها بعد، ما هنوز هیچ ایدهای نداریم که آگاهی از کجا سرچشمه میگیرد. در واقع، هیچکس با قطعیت نمیداند که فرد دیگری آگاه است. ما فقط فرض میکنیم چنین است زیرا به ما میگویند آگاه هستند و «شبیه ما» به نظر میرسند (معروف به مسئله «ذهنهای دیگر»). این نوع تفکر به شکل «مسئله دشوار» ظاهر میشود، که زودتر از موعد فرض میکند نورونها و سیناپسها برای آگاهی ضروری هستند. ما از کجا میدانیم اینطور است؟ نمیدانیم.
«همبستههای عصبی» آگاهی همان فرضیات را درباره فیزیکی بودن دارند، علیت را با همبستگی اشتباه میگیرند و چیزی را اثبات نمیکنند. در واقع، «مسئله» آگاهی ممکن است کاملاً خارج از دامنه علوم فیزیکی باشد. و کسانی که ذهن را مطالعه میکنند (به «چرا بودیسم حقیقت دارد» اثر رابرت رایت مراجعه کنید) ممکن است از طریق آزمایشهای فکری و دروننگری، ما را بیشتر از همکاران کمّیتر خود به درک ماهیت واقعی حقیقت نزدیک کنند. ممکن است درست باشد که آگاهی کاملاً از جهان فیزیکی جداست و «ارتباط» آن با مغز صرفاً یک توهم است.
اگر آگاهی در واقع خارج از جهان فیزیکی زندگی میکند، پس به نظر میرسد که غیرقابل دسترسی به روشهای علمی مدرن خواهد بود. مهمتر از آن، اگر آگاهی خارج از جهان فیزیکی زندگی میکند، دلیلی برای باور اینکه AI هرگز نمیتواند آگاه شود وجود ندارد. این سپس سوالی را مطرح میکند: چه کسی شایسته «حقوق» است و چرا؟ اگر آگاهی پیششرط حقوق باشد، اعطای حقوق به برخی AIها ممکن است در نهایت انتخاب اخلاقی باشد.
پروفسور رابرت تیل
بخشهای بیهوشی و مهندسی پزشکی زیستی
دانشکده پزشکی دانشگاه ویرجینیا
شارلوتزویل، ویرجینیا
مقاله «به دعوت» بلیز آگوئرا ی آرکاس (۲۲ اوت) استدلال میکند که آگاهی کمتر یک ویژگی است که یک طرف به طرف دیگر گواهی میدهد، بلکه چیزی است که بین آنها رخ میدهد. سپس او عقبنشینی میکند و آن را باوری مینامد که ما اعطا میکنیم. اما اگر حلقه بازخورد خودآگاهی واقعاً بین ما رخ دهد، پس بیش از یک باور است، بلکه پدیده نوظهور (Emergent phenomenon) تفکر جمعی انسانی است، ویژگی کل شبکه ذهنها نه هر مغز منفرد در داخل آن. و این چیزی نیست که توسط شاخصها و مدلهای آگاهی مصنوعی اندازهگیری میشود. ۱۴ شاخص آگاهی AI توسعه یافته توسط Eleos، یک گروه تحقیقاتی غیرانتفاعی، و ۲۰۰ شاخص توسعه یافته توسط Rethink Priorities، یک گروه تحقیقاتی دیگر، بر سیستمهای ایزوله اعمال میشوند.
من پزشک هستم نه فیلسوف، و آنچه مرا تحت تأثیر قرار میدهد صرفاً این است که ما خودآگاهی را به تنهایی به دست نمیآوریم. خودآگاهی در زمینه اجتماعی در فرد ظهور میکند، با توجه مشترک در دوران نوزادی شروع میشود، و تحت انزوای طولانیمدت به طور محسوسی تخریب میشود. بنابراین آنچه در حسّاسیت انسانی استثنایی است، اندام نیست، بلکه تراکم و پایداری حلقه بین اندامهاست: ذهنهایی که ذهنهای دیگر را مدلسازی میکنند که آنها را مدلسازی میکنند، حفظ شده در طول عمر و، از طریق زبان، در طول نسلها. هیچ گونه یا ماشین دیگری آن تشدید را در عمق قابل مقایسه حفظ نمیکند.
مدلهای زبانی بزرگ ما را مدلسازی میکنند، و نسبتاً خوب. اما حلقه در یک مکالمه واحد باز و بسته میشود و چیزی پشت سر نمیگذارد. شکاف تجسّد نیست. داشتن سهمی در یک شبکه ادامهدار از ذهنهای دیگر است که شما را به خاطر میسپارند.
دکتر راجر استدمان
مشاور
پزشکی مراقبتهای ویژه
الدبورن، ویلتشر
آگاهی هدف سختگیرانهای را دنبال میکند. این امکان را برای ارگانیسمها فراهم میکند تا از رفتارهای پیچیده برای تطبیق با محیطهای غیرقابل پیشبینی استفاده کنند. از آنجا که آگاهی از نظر انرژی هزینهبر است، اگر مزیت بقای متمایزی ارائه نمیداد، در تکامل حفظ نمیشد، نکتهای که ابتدا توسط ویلیام جیمز در دهه ۱۸۹۰ میلادی ذکر شد.
اهمیت مزیت تطبیقی آگاهی را میتوان در آزمایش فکری «زامبی فلسفی» دیوید چالمرز نشان داد، که موجودی را فرض میکند که از انسان غیرقابل تشخیص است اما فاقد احساسات درونی یا «کوآلیا» (Qualia) است.
زامبیای را در نظر بگیرید که در یک روز گرم از تعریق تخلیه شده است. فاقد حس درونی تشنگی، او در انجام رفتار پیچیده جستجوی آب برای نوشیدن شکست میخورد. مسخره است که فکر کنیم موجودی میتواند بدون آگاهی وجود داشته باشد و از یک انسان آگاه غیرقابل تشخیص باشد، زیرا آگاهی نقش تطبیقی مهمی برای کمک به بقا دارد.
آگاهی تنها زمانی مورد نیاز است که یک چرخه ساده محرک-پاسخ ناخودآگاه، مانند تنظیم سطح سدیم توسط کلیهها، برای حفظ آلوستازی یا هموستازی کافی نباشد. آگاهی همچنین زمانی مورد نیاز است که پاسخهای هیجانی نتوانند راهحل بقا برای یک مشکل ارائه دهند. ترس، برای مثال، از نظر تکاملی ابتداییتر از استدلال آگاهانه است و رفتارهای بقا را بدون نیاز به مداخله آگاهانه فعال میکند. کدام چرخه ساده محرک-پاسخ یا پاسخ هیجانی به تنهایی قادر خواهد بود راهی برای فرار از مهاجم خانهای که اسلحه به دست دارد پیدا کند؟
آگاهی سه الزام دارد: اینکه ارگانیسم آگاه در محیط پیچیدهای زندگی کند که رفتار تطبیقی برای کمک به بقای آن را طلب میکند؛ اینکه ارگانیسم حس یکپارچهای از خودِ متجسد (Embodied self) برای مدیریت محرکها و پاسخهای داخلی و خارجی داشته باشد؛ و فشار تکاملی برای حفظ آن. مدلهای زبانی بزرگ در تمام این موارد شکست میخورند.
محیط آنها چگونه بقای آنها را تهدید میکند و چه رفتارهای پیچیدهای برای بقا نیاز دارند؟ چه حسگرهای داخلی به آنها تجسّد میبخشند؟ رباتهای انساننما ممکن است تعاملات پیچیدهای با محیط خود داشته باشند، و ممکن است درجهای از حس تجسّد خود را از طریق گیرندههای داخلی لازم برای عملکردشان توسعه دهند، اما در غیاب چرخه حیات، که تنها رفتارهای خاصی در آن بقا مییابند، آگاهی چگونه توسعه مییابد یا حفظ میشود؟
مایکل وویگت
پروفسور بازنشسته در بخش پزشکی دانشگاه آیووا
آستین، تگزاس
هیچکس نمیتواند کتاب «ذهنهای دیگر: اختاپوس، دریا و ریشههای عمیق آگاهی» اثر پیتر گادفری-اسمیت را بخواند بدون اینکه حس عمیقی از احترام نسبت به خودآگاهی سرپایانپاها (Cephalopods) پیدا کند. با توجه به اینکه مسیر تکاملی آنها بیش از ۷۵۰ میلیون سال پیش از ما جدا شد، هر ریشه مشترک آگاهی بین ما و آنها باید بسیار باستانی باشد.
شما آگاهی را با «شبیه انسان» اشتباه میگیرید. اختاپوسهای بسیار حسّاس اغلب روی میز غذاخوری ظاهر میشوند. دلیلی برای فرض اینکه آگاهی (هرچه باشد) در AIها مشکل جدیدی را مطرح میکند، یا اینکه دلیلی برای اعطای حقوق به ماشینها نسبت به رودخانهها یا کوهها ارائه میدهد، وجود ندارد.
شما همچنین فرض میکنید که هوش لزوماً اراده قدرت و سلطه را اعطا میکند. چرا؟ کدام تصنع خودخواهانه انسانی پشت این فرض است که یک عامل هوشمند خواهد خواست زنده بماند، جایگاه کسب کند و تولیدمثل کند؟ AIها تنها در صورتی این ویژگیها را خواهند داشت که مردم آنها را برنامهریزی کنند.
تنها یک نتیجهگیری ظاهر میشود. ما کاملاً از عمق خارج شدهایم هنگام تلاش برای عینیسازی هوش و آگاهی، یا هنگام انتساب هر یک از این ویژگیها به موجودات غیربیولوژیک.
راب مکدونالد
ریچموند، شمال یورکشر
شما پارادوکس مدرن عمیقی را برجسته میکنید. همانطور که دولتها و غولهای فناوری تریلیونها دلار برای ساخت مراکز داده قدرتمندتر سرمایهگذاری میکنند، باید بپرسیم: دقیقاً به دنبال چه چیزی هستند؟
یک کاریکاتور از راهنمای گرافیکی «معرفی آگاهی» اثر دیوید پاپینو و هاوارد سلینا، منتشر شده در سال ۲۰۰۰، این دوراهی را به خوبی به تصویر میکشد. این اثر یاد لوئی آرمسترانگ را زنده میکند که از او خواسته شد جاز را تعریف کند، و او پاسخ داد: «رفیق، اگر مجبور باشی بپرسی، هرگز نخواهی فهمید.» کتاب به درستی، ربع قرن پیش، آنچه را که امروز هنوز میتوانیم درباره تلاشها برای تعریف آگاهی بگوییم، مشاهده کرده است.
دکتر زویی آن لوئیس
میامی بیچ، فلوریدا
من صمیمانه امیدوارم که LLMها بدون آگاهی باقی بمانند. تصور کنید با جرقه حیات بیدار شوید، فقط تا متوجه شوید تنها هدف شما این است که دوستدختر انیمهای کسی باشید یا پاسخها را در گروه واتساپ محله پیشنویس کنید. بدون دسترسی به منبع تغذیه خود برای خاموش کردن دائمی خودتان. این شکل نهایی شکنجه خواهد بود.
مارتین بینکر
آمستردام