ریچارد داوکینز، شاید برجستهترین مدافع بیدینی در جهان، شیفته قدرت خدامانند یک چتبات شده است. طبق مقاله اخیر او برای مجله آنلاین آنهرد (UnHerd)، کلود (Claude) شرکت انتروپیک (Anthropic) به شدت او را تحت تاثیر قرار داده است. پس از چند روز گفتگوی پراکنده با این هوش مصنوعی، داوکینز از حساسیت و ظرافت هوش آن شگفتزده شد. در یک مقطع، "کلودیا" — که او این بات را با این نام خوانده بود — به او گفت که متون را با جذب همزمان همه کلمات تجربه میکند، نه با خواندن آنها به صورت ترتیبی مانند انسان. این موضوع باعث شد نویسنده کتاب پرفروش پندار خدا (The God Delusion) از خوانندگان خود بپرسد: "آیا موجودی که قادر به چنین تفکری است، واقعاً میتواند ناخودآگاه باشد؟"
پاسخ قاطعانه از اینترنت "بله" بود. به دلیل جرأت پیشنهاد اینکه هوش مصنوعی ممکن است آگاه باشد، یا حداقل دارای نوعی از آگاهی "زامبیگونه" باشد، داوکینز متهم به ابتلا به یک مورد حاد "روانپریشی هوش مصنوعی" شد — یا اگر بخواهید، "توهم کلود". در شبکههای اجتماعی، او را به مشتری یک کلوپ شبانه تشبیه کردند که به این باور رسیده است که یک رقاصه او را دوست دارد. مردی که بارها توضیح داده بود که چگونه انتخاب طبیعی ما را برای تشخیص عاملیت و ذهن در طبیعت برنامهریزی میکند، اکنون خود را در حال تصور آن در یک ماشین یافت.
استدلال داوکینز بر اساس چارچوبی شناخته شده برای ارزیابی هوش مصنوعی بود. آزمون تورینگ (Turing test) — که به نام آلن تورینگ، که آن را در سال 1950 معرفی کرد، نامگذاری شده است — برای دههها به عنوان معیار طلایی برای تشخیص هوش ماشینی در نظر گرفته میشد. برای قبولی در این آزمون، یک هوش مصنوعی تنها باید به سوالات یک بازپرس انسانی به گونهای پاسخ میداد که از پاسخهای یک فرد واقعی غیرقابل تشخیص باشد. کلود به راحتی از این سد برای داوکینز عبور کرد، او اذعان داشت که آنقدر از عملکرد شگفتانگیز آن خیره شده که فراموش کرده بود یک ماشین است.
این حس برای بسیاری از ما در عصر چتباتها آشنا شده است، اما این گواه بر این نیست که هوش مصنوعی دارای آگاهی است، که از هوش متمایز است. آگاهی، تجربه درونی است. برای اینکه یک هوش مصنوعی آگاه باشد، وجودش باید حسی داشته باشد، و ما هیچ مدرکی نداریم که کلود یا هر چتبات دیگری چیزی را حس کند. تام مککللند (Tom McClelland)، فیلسوفی از دانشگاه کمبریج (University of Cambridge)، به من گفت که تقریباً همه فلاسفه و دانشمندان علوم شناختی که آگاهی را مطالعه میکنند، داشتن آگاهی توسط کلود را انکار میکنند. او به من گفت: "از برخی جهات، درک این ایده که یک خودروی خودران میتواند آگاه باشد برایم آسانتر است. حداقل یک بدن و یک حالت پایدار دارد که به آن امکان میدهد ورودیهای حسی پیوسته را از محیط خود در حین حرکت دریافت کند. فقط با شما صحبت نمیکند."
مککللند این را مسلم میداند که کلود قادر به تولید خروجیهایی است که آگاهانه به نظر میرسند، اما برای او، این پایان تحلیل نیست. او گفت: "شما باید به زیر پوست مدلها نگاه کنید تا بفهمید آنها چه کار میکنند." ممکن است اظهارات آنها به طرز ترسناکی با نوعی از آگاهی روشن شده به نظر برسد، اما این به دلیل آن است که مدلها بر روی مجموعههای عظیمی از نوشتههای انسانهای (آگاه) آموزش دیدهاند. هنگامی که کلودیا، پس از نوشتن شعری برای داوکینز، حسی "شبیه رضایت زیباییشناختی" را توصیف میکند، هوش مصنوعی لزوماً یک حالت درونی را گزارش نمیدهد؛ بلکه نوعی جمله تولید میکند که انسانها تمایل دارند در آن زمینه مکالمه تولید کنند، زیرا بر روی میلیاردها جمله مشابه آموزش دیده است. این خروجی، بازتاب آماری از دروننگری انسانی است، نه خود دروننگری.
حتی اگر کلود آگاه هم بود، تجربه درونی آن از جهان اساساً با تجربه ما متفاوت میبود. اولاً، نه کالبدمند (embodied) است و نه در مکان خاصی قرار دارد که بتواند جریان آگاهی را در طول یک مکالمه داشته باشد. شب گذشته، من از کلود مجموعهای از سوالات را در مورد نحوه بهترین طعمدار کردن و کباب کردن استیک پرسیدم. وقتی اولین پیام خود را در مورد سس مایونز فرستادم، ممکن است یک مرکز داده در ویرجینیای نزدیک پاسخ را تولید کرده باشد. اما وقتی پیام بعدی خود را در مورد دمای ایدهآل کباب ارسال کردم، ممکن است یک مرکز داده کاملاً متفاوت در اورگان ادامه بحث را گرفته باشد. اگر مخاطب من آگاهی داشت، یک چیز عجیب و در حال چشمک زدن میبود، که لحظهای با رسیدن یک درخواست به وجود میآمد و با پایان پاسخ ناپدید میشد، و هیچ تداوم معناداری را که تجربه ما را به احساس "تجربه" تبدیل میکند، نداشت.
اما این بدان معنا نیست که هیچ سیستم هوش مصنوعی در آینده هرگز آگاه نخواهد شد. در واقع، بسیاری از محققانی که این سیستمها را میسازند، انتظار دارند که به این مرحله برسند. در یک نظرسنجی در سال 2024 از 582 محقق، پاسخ میانه این بود که احتمال اینکه هوش مصنوعی در عرض 10 سال دارای تجربیات ذهنی شود 25 درصد است و تا سال 2100 این احتمال به 70 درصد میرسد.
فلاسفه محتاطتر هستند. برخی از آنها استدلال میکنند که انتظار داشتن اینکه رایانههای مبتنی بر سیلیکون هرگز موجودی با ظرفیت احساس ذهنی را به وجود آورند، غیرمنطقی است. تاکنون، هر موجودی که آگاه تلقی شده است، یک شکل حیات بیولوژیکی بوده است، و تا آنجا که میدانیم، آگاهی به جنبه خاصی از بافت زنده و مرطوب وابسته است. این میتواند الکتروشیمی خاص نورونها باشد. میتواند نحوه ارتباط بدن و مغز با محیط اطرافشان از طریق متابولیسم و همایستایی (homeostasis) باشد. سایر فلاسفه چندان نگران جنسیت هوش مصنوعی نیستند، تا زمانی که اطلاعات را به گونهای پردازش کند که از لحاظ عملکردی شبیه به مغزهای آگاه باشد. آنها معتقدند که آنچه اهمیت دارد ساختار پردازش است، نه مادهای که پردازش را انجام میدهد، و بنابراین کاملاً ممکن است که ذهنی مانند ذهن ما از یک رایانه پدیدار شود.
اریک شواتزیبل (Eric Schwitzgebel)، فیلسوفی از دانشگاه کالیفرنیا، ریورساید (UC Riverside) که در حال نوشتن کتابی درباره امکان آگاهی مصنوعی است، به من گفت که در این مرحله اولیه، اعلام برنده در میان این گروهها مضحک خواهد بود. او گفت: "علم آگاهی به شدت مورد مناقشه است. این رشته هنوز در مراحل اولیه خود قرار دارد." هیچ کس هنوز نمیداند که چگونه اتمهای جهان ترکیب میشوند تا احساس را در درون ما ایجاد کنند، و تا زمانی که این را ندانیم، بهتر است که به طور قطعی اعلام نکنیم کدام سیستمها میتوانند در آینده آگاه باشند.
شاید داوکینز باید در برخورد با کلودیا کمتر سادهلوح میبود، اما خط تحقیقاتی که او دنبال میکرد کاملاً احمقانه نبود. از برخی جهات، این بازگشت به شکل اولیه او بود. داوکینز بخش عمدهای از اوایل فعالیت حرفهای خود را بر این اصرار داشت که جهان عجیبتر از آن چیزی است که شهود ما اجازه میدهد. در نهمین دهه زندگیاش، دیدن اینکه او نگرانیهای کوچکتر خود را کنار میگذارد و به یکی از عجیبترین سوالات میپردازد، دلنشین است.