سیستم‌های هوش مصنوعی مانند مدل‌های زبانی بزرگ (LLMs) می‌توانند رفتاری را نشان دهند که به طرز شگفت‌انگیزی هوشمندانه به نظر می‌رسد. این موضوع باعث شده بسیاری از افراد، از جمله برخی متخصصان، بپرسند آیا این سیستم‌ها ممکن است نوعی آگاهی — ظرفیت تجربه ذهنی — داشته باشند یا خیر. با این حال، ما معتقدیم که سیستم‌های هوش مصنوعی موجود آگاه نیستند و با روند فعلی توسعه، بعید است که آگاه شوند. وضوح بیشتر در مورد اینکه آیا هوش مصنوعی می‌تواند آگاه شود، زمانی که جامعه با چالش‌های ناشی از این فناوری قدرتمندتر دست‌وپنجه نرم می‌کند، حیاتی خواهد بود.
چند دانشمند برجسته، از جمله ریچارد داوکینز، زیست‌شناس تکاملی انگلیسی، و جفری هینتون، پیشگام هوش مصنوعی کانادایی-بریتانیایی، استدلال کرده‌اند که سیستم‌های هوش مصنوعی ممکن است همین حالا آگاه باشند. همچنین اوایل امسال، شرکت هوش مصنوعی انثروپیک (Anthropic) مستقر در سان‌فرانسیسکو، کالیفرنیا، تحقیقاتی منتشر کرد که ادعا می‌کند امضاهای محاسباتی نوعی آگاهی را در مدل کلود خود شناسایی کرده است.
اینکه آیا مدل‌های هوش مصنوعی هرگز می‌توانند آگاه باشند، تنها یک پرسش فلسفی نیست. پیامدهای عملی دارد. برای مثال، اگر سیستم‌های هوش مصنوعی آگاه بودند، ممکن است مانند انسان‌ها دچار رنج و درد شوند. پس آیا باید اجازه داد شمار بی‌شماری موجودات آگاه جدید که ممکن است رنج ببرند، تکثیر شوند؟ شاید تعجب‌آور نباشد که برخی افراد اکنون خواستار جدی گرفتن «رفاه هوش مصنوعی» و «حقوق هوش مصنوعی» شده‌اند.
در مقابل، اگر سیستم‌های هوش مصنوعی فقط آگاه به نظر برسند و فاقد تجربه درونی واقعی باشند، اعطای حقوق یا حمایت به آن‌ها می‌تواند تلاش‌ها برای اداره و کنترل آن‌ها را دقیقاً در زمانی که نظارت فوری لازم است، مختل کند. طی کردن این مسیر، توجه و منابع را از موجوداتی که آگاهی آن‌ها هیچ تردیدی ندارد، منحرف خواهد کرد.
با نگاه فراتر از انسان‌ها و نزدیک‌ترین خویشاوندان ما در پادشاهی حیوانات، هنوز سخت است که مطمئن باشیم چه چیزی دارای ظرفیت آگاهی است و چه چیزی نیست — چه حشرات، چه هوش مصنوعی و چه ساخته‌های زیست‌شناسی مصنوعی، مانند ارگانوئیدهای مغزی پرورش‌یافته در آزمایشگاه.
این عدم قطعیت باعث شده برخی پژوهشگران از رویکرد احتیاطی دفاع کنند: اگر احتمال معقولی وجود داشته باشد که سیستم‌های هوش مصنوعی آگاه باشند، جامعه باید اقدام پیش‌دستانه انجام دهد و نوعی حمایت از این سیستم‌ها در برابر رنج احتمالی فراهم کند. طبق این استدلال، این کار از تکرار خطاهای اخلاقی گذشته — مانند بدرفتاری با حیوانات غیرانسانی یا جراحی نوزادان نارس بدون بیهوشی — جلوگیری می‌کند. نسخه افراطی این ایده این است که جامعه باید منابع را از رسیدگی به نگرانی‌های رفاه انسان‌های امروزی به سمت کاهش رنج احتمالی تریلیون‌ها نویداده آینده هوش مصنوعی تغییر مسیر دهد.
از دیدگاه ما، عدم قطعیت همان ندانستن نیست و به این معنا نیست که همه احتمالات به یک اندازه محتمل وقوع هستند. تصمیمات درباره آنچه اخلاقی است باید هم پیامدهای منفی‌های کاذب — ناتوانی در تشخیص آگاهی جایی که وجود دارد — و هم هزینه‌های مثبت‌های کاذب — نسبت دادن آگاهی به جایی که وجود ندارد — را بسنجد. در مورد هوش مصنوعی، ما فکر می‌کنیم مثبت‌های کاذب بسیار بیشتر از منفی‌های کاذب رخ خواهند داد. اگر چنین باشد، رویکرد احتیاطی گمراه‌کننده خواهد بود.
ما مجموعاً دهه‌ها را صرف مطالعه آگاهی از دیدگاه‌های علمی مختلف کرده‌ایم: علوم اعصاب تجربی، زیست‌شناسی نظری عصبی و فلسفه ذهن. بر اساس این کار، احساس می‌کنیم که آگاهی در هوش مصنوعی بسیار بعید است، حداقل در سیستم‌های دیجیتال مبتنی بر سیلیکون که زیربنای فناوری‌های امروز را تشکیل می‌دهند. در اینجا، سه دلیل برای تردید خود بیان می‌کنیم.
هوش همان آگاهی نیست
آنچه ما از آگاهی منظور داریم به اندازه کافی ساده است: چیزی است که با خواب بدون رویا یا تحت بیهوشی عمومی از بین می‌رود و پس از بیدار شدن یا هنگام رؤیا دیدن باز می‌گردد. تجربیات آگاهانه شبیه چیزی هستند، خواه چشیدن بستنی در یک روز گرم باشد یا دیدن رنگ‌های زنده غروب خورشید. فیلسوف توماس نیگل، که مقاله تأثیرگذار او در سال ۱۹۷۴ با عنوان «شبیه بودن به یک خفاش چیست؟» به شکل‌گیری بحث‌های مدرن درباره آگاهی کمک کرد، استدلال می‌کند که یک ارگانیسم آگاهانه آن است که «چیزی شبیه بودنِ آن ارگانیسم» وجود دارد.
این تعریف از آگاهی، اولین دلیل تردید درباره آگاهی هوش مصنوعی را مطرح می‌کند. آگاهی همان هوش نیست. آگاهی مربوط به بودن و احساس کردن است؛ هوش — به طور کلی — مربوط به انجام دادن یا ایفای نقش است. صرف اینکه چیزی هوشمند باشد به معنای آگاه بودن آن نیست.
انسان‌ها می‌دانند که آگاه هستند و تمایل دارند آگاهی را با استفاده از توانایی‌های فکری خود مرتبط بدانند. با این حال، تجربه آگاهانه و رفتار هوشمندانه می‌توانند به شکلی چشمگیر از هم جدا شوند. ما به صورت شخصی می‌دانیم که مغز و بدن ما می‌توانند فرآیندهای بسیار هوشمندانه را کاملاً خارج از آگاهی انجام دهند. برای مثال، مخچه عملکرد حرکتی را به روشی دقیق، سریع و سازگار از طریق یادگیری مداوم تنظیم و برنامه‌ریزی می‌کند. اما هیچ‌یک از کارهایی که انجام می‌دهد مستقیماً شامل آگاهی نمی‌شود — ما کاملاً از تمام «محاسبات» آن بی‌خبر هستیم. علاوه بر این، نبود یا برداشتن مخچه، که تقریباً چهار پنجم نورون‌های مغز انسان را در خود جای داده است، مستقیماً بر آگاهی تأثیر نمی‌گذارد.
وسوسه برای یکی دانستن هوش و آگاهی احتمالاً بازتاب سوگیری‌های روانشناختی ذاتی است — انسان‌محوری، یعنی دیدن جهان از لنز انسانی، و انسان‌نمایی، یعنی نسبت دادن ویژگی‌های انسانی به چیزهایی که صرفاً شبیه مردم هستند. برای مثال، قدرت فریبنده زبان را در نظر بگیرید، ظرفیتی که انسان‌ها مدت‌هاست احساس می‌کنند آن‌ها را خاص می‌کند. وقتی مدل‌های زبانی بزرگ با ما صحبت می‌کنند، طبیعی است که ویژگی‌هایی مانند هوش و آگاهی را که همراه با روانی زبانی ما هستند، به آن‌ها فرافکنی کنیم.
اما مدل‌های زبانی بزرگ روی مقادیر عظیمی از متن نوشته‌شده توسط انسان آموزش دیده‌اند، بخش زیادی از آن صراحتاً یا ضمنی در مورد افکار، احساسات و تجربیات آگاهانه است. مدل‌های زبانی بزرگ آینه‌هایی هستند که تصویری از گذشته دیجیتال جمعی ما را بازتاب می‌دهند. ما به درون آن‌ها خیره می‌شویم و بیش از حد راحت بازتاب‌ها را با ذهن‌های آگاهانه خودمان اشتباه می‌گیریم.
ماهیت فریبنده مدل‌های زبانی بزرگ با در نظر گرفتن واکنش به آلفافولد (AlphaFold)، ساخته گوگل دیپ‌مایند در لندن، برجسته می‌شود. مشابه یک مدل زبانی بزرگ، آلفافولد یک شبکه عصبی قدرتمند است که روی سخت‌افزار سیلیکونی اجرا می‌شود. اما تقریباً هیچ‌کس نگران نیست که ممکن است آگاه باشد. دلیلش این است که آلفافولد ساختار پروتئین‌ها را پیش‌بینی می‌کند، در حالی که مدل‌های زبانی بزرگ با ما «صحبت» می‌کنند. توهم جذاب آگاهی ایجاد شده توسط روانی زبانی برای آلفافولد وجود ندارد.
مغزهای سیلیکونی
دوم، ایده آگاهی هوش مصنوعی از این فرض سرچشمه می‌گیرد که الگوریتم‌های در حال اجرا روی سیلیکون، اصولاً برای آگاهی کافی هستند. به عبارت دیگر، محاسبات از نوع درست تنها چیزی است که لازم است و مهم نیست که این محاسبات داخل مغزهای مبتنی بر کربن پیاده‌سازی شوند یا در رایانه‌های مبتنی بر سیلیکون. فیلسوفان این فرض را کارکردگرایی محاسباتی (computational functionalism) می‌نامند. اگرچه محاسبات به وضوح برای تولید اشکال هوش کافی هستند — همان‌طور که سیستم‌های هوش مصنوعی مدرن نشان می‌دهند — اما بسیار کمتر روشن است که آن‌ها بتوانند برای آگاهی نیز کافی باشند.
کارکردگرایی محاسباتی به طور گسترده در میان اعضای جامعه فناوری فرض می‌شود و در میان برخی دانشمندان و فیلسوفان نیز محبوب است، اما ما فکر می‌کنیم که معیوبی مرگبار دارد زیرا مغزها نه — یا حداقل نه فقط — رایانه‌هایی از جنس گوشت هستند.
Nature 658, 866-868 (2026)
doi: https://doi.org/10.1038/d41586-026-03313-7