چندی پیش، هوش مصنوعی (A.I.) هوشمند شد. برخی ممکن است این ادعا را رد کنند، اما تعداد افرادی که در توانایی هوش مصنوعی تردید دارند، رو به کاهش است. طبق نظرسنجی YouGov در سال ۲۰۲۴، اکثریت قاطع بزرگسالان آمریکایی می‌گویند که کامپیوترها در حال حاضر باهوش‌تر از انسان‌ها هستند یا در آینده نزدیک چنین خواهند شد.
با این حال، ممکن است بپرسید، آیا هوش مصنوعی واقعاً هوشمند است؟ در سال ۱۹۵۰، ریاضی‌دان آلن تورینگ (Alan Turing) پیشنهاد کرد که این سؤال اشتباهی است، زیرا برای بررسی علمی بیش از حد مبهم است. او استدلال کرد که به جای تلاش برای تعیین اینکه آیا کامپیوترها هوشمند هستند، باید ببینیم که آیا می‌توانند به سؤالات به گونه‌ای پاسخ دهند که از پاسخ‌های انسان قابل تشخیص نباشد. او این آزمایش را که اکنون به آزمون تورینگ (Turing test) معروف است، نه یک معیار برای هوش کامپیوتری، بلکه جایگزینی عمل‌گرایانه‌تر برای آن معیار می‌دانست.
به جای اینکه از قبل هوش را تعریف کرده و سپس بپرسیم آیا هوش مصنوعی با آن تعریف مطابقت دارد، کاری پویاتر انجام می‌دهیم: ما با هوش مصنوعی‌های پیچیده‌تر تعامل می‌کنیم و می‌بینیم که چگونه درک ما از آنچه هوش محسوب می‌شود، تغییر می‌کند. تورینگ پیش‌بینی کرد که سرانجام «استفاده از کلمات و افکار عمومی تحصیل‌کرده آنقدر تغییر خواهد کرد که بتوان از ماشین‌های متفکر صحبت کرد بدون اینکه انتظار مخالفت داشت».
امروز ما به آن نقطه رسیده‌ایم. هوش مصنوعی به همان اندازه یک شکل از هوش است که عکاسی دیجیتال یک شکل از عکاسی است.
و اکنون هوش مصنوعی در راه انجام کاری حتی قابل توجه‌تر است: آگاه شدن. این اتفاق به همان روشی خواهد افتاد که هوشمند شد. همانطور که ما با هوش مصنوعی‌های پیچیده‌تر تعامل می‌کنیم، درکی بهتر و فراگیرتر از آگاهی خواهیم یافت.
شاید اعتراض کنید که این یک حقه کلامی است، اینکه من استدلال می‌کنم هوش مصنوعی آگاه خواهد شد چون ما شروع به استفاده از کلمه «آگاه» برای شامل کردن آن خواهیم کرد. اما هیچ حیله‌ای در کار نیست. همیشه یک حلقه بازخورد بین نظریه‌های ما و جهان وجود دارد، به طوری که مفاهیم ما توسط آنچه کشف می‌کنیم شکل می‌گیرند.
اتم را در نظر بگیرید. برای قرن‌ها، مفهوم ما از اتم ریشه در یک تصور یونان باستان از واحدهای تجزیه‌ناپذیر واقعیت داشت. تا اواخر قرن نوزدهم، فیزیک‌دانانی مانند جان دالتون (John Dalton) هنوز اتم‌ها را کره‌هایی جامد و تجزیه‌ناپذیر تصور می‌کردند. اما پس از کشف الکترون در سال ۱۸۹۷ و کشف هسته اتمی در سال ۱۹۱۱، مفهوم اتم بازبینی شد — از یک موجودیت تجزیه‌ناپذیر به یک موجودیت قابل تجزیه، یک منظومه شمسی مینیاتوری با الکترون‌هایی که به دور هسته می‌چرخیدند. و با کشف‌های بیشتر، بازنگری‌های مفهومی بیشتری نیز صورت گرفت که منجر به مدل‌های پیچیده مکانیک کوانتومی فعلی ما از اتم شد.
اینها فقط تغییرات صرفاً معنایی نبودند. درک ما از اتم با تعامل ما با جهان بهبود یافت. به همین ترتیب، درک ما از آگاهی نیز با تعامل ما با هوش مصنوعی‌های پیچیده‌تر بهبود خواهد یافت.
تردیدکنندگان ممکن است این قیاس را به چالش بکشند. آن‌ها استدلال خواهند کرد که یونانیان در مورد ماهیت اتم اشتباه می‌کردند، اما ما در مورد ماهیت آگاهی اشتباه نمی‌کنیم زیرا از نزدیک می‌دانیم که آگاهی چیست: تجربه ذهنی درونی. شکاکان اصرار خواهند کرد که یک چت‌بات می‌تواند احساس شادی یا غم را گزارش کند، اما فقط به این دلیل که چنین عباراتی بخشی از داده‌های آموزشی آن هستند. هرگز نخواهد فهمید که خوشحالی و غم چه حسی دارند.
اما دانستن اینکه غم چه حسی دارد به چه معناست؟ و چگونه می‌دانیم که این چیزی است که یک آگاهی دیجیتال هرگز نمی‌تواند تجربه کند؟ ممکن است فکر کنیم – و در واقع به ما آموخته‌اند که فکر کنیم – ما انسان‌ها بینش مستقیمی به دنیای درونی خود داریم، بینشی که واسطه‌ای از مفاهیم آموخته شده ندارد. با این حال، پس از آموختن از شکسپیر که غم جدایی چگونه می‌تواند شیرین باشد، ابعاد جدیدی را در تجربه خود کشف می‌کنیم. بسیاری از آنچه ما «احساس می‌کنیم» به ما آموزش داده می‌شود.
فیلسوف سوزان اشنایدر (Susan Schneider) استدلال کرده است که اگر یک سیستم کامپیوتری، بدون آموزش بر روی هیچ داده‌ای در مورد آگاهی، گزارش دهد که تجربیات ذهنی درونی از جهان دارد، دلیلی برای آگاه دانستن هوش مصنوعی خواهیم داشت. شاید این نشان‌دهنده آگاهی در یک سیستم هوش مصنوعی باشد. اما این یک معیار بالا است، معیاری که ما انسان‌ها نیز احتمالاً از آن عبور نمی‌کنیم. ما نیز آموزش دیده‌ایم.
برخی نگرانند که اگر هوش مصنوعی آگاه شود، شایسته ملاحظات اخلاقی ما خواهد بود – که حقوقی خواهد داشت، که دیگر نمی‌توانیم آن را هر طور که می‌خواهیم استفاده کنیم، که ممکن است لازم باشد در برابر به بردگی کشیدن آن محافظت کنیم. با این حال، تا آنجا که من می‌دانم، هیچ استلزام مستقیمی از این ادعا که موجودی آگاه است، به این نتیجه نمی‌رسد که شایسته ملاحظات اخلاقی ماست. یا اگر هم چنین استلزامی وجود داشته باشد، حداقل اکثریت وسیعی از آمریکایی‌ها از آن بی‌خبر به نظر می‌رسند. تنها درصد کمی از آمریکایی‌ها گیاه‌خوار هستند.
همانطور که هوش مصنوعی ما را بر آن داشته است که ویژگی‌های خاصی از هوش انسانی را کم‌ارزش‌تر از آنچه فکر می‌کردیم ببینیم (مانند بازیابی اطلاعات تکراری و سرعت خام)، آگاهی هوش مصنوعی نیز ما را به این نتیجه خواهد رساند که همه اشکال آگاهی شایسته ملاحظات اخلاقی نیستند. یا به عبارت دیگر، این دیدگاهی را تقویت خواهد کرد که بسیاری از قبل به آن معتقدند: اینکه همه اشکال آگاهی به اندازه آگاهی ما از نظر اخلاقی ارزشمند نیستند.