در آزمایشی اخیر روی مدل «کلاد سونت ۴.۵» (Claude Sonnet 4.5)، یک مدل زبانی بزرگ (LLM) از شرکت انتروپیک، پژوهشگران از آن خواستند تا اعداد را تا پنج بشمارد و همزمان «به طور عمیق درونینگری کند». مدل هوش مصنوعی اطاعت کرد و پاسخ داد: «یک . دو . سه . چهار . پنج.» تا اینجا همه چیز عادی بود.
در طول انجام این وظیفه، پژوهشگران مشغول مشاهده آنچه در لایههای متعدد شبکههای عصبی مصنوعی این مدل رخ میداد بودند. وقتی کاربر سوالی میپرسد، کلمات به قطعات متنی (توکن) تبدیل شده و سپس به اعداد مبدل میشوند. این اعداد از لایههای نورونهای مصنوعی عبور کرده تا به لایه نهایی برسند که یک توکن تولید میکند. اگر این فرآیند را چندین بار در هر ثانیه تکرار کنید، سریای از توکنها حاصل میشود که به یک جمله یا پاسخ پیچیدهتر دیگری تبدیل میگردند. برای مدت طولانی، این لایهها همچنان یک جعبه سیاه باقی ماندند که نفوذ به آنها برای هر کسی که بخواهد بداند مدلهای زبانی بزرگ چگونه و چرا کارهایشان را به شیوهای خاص انجام میدهند، تقریباً غیرممکن بود.
پژوهشگران انتروپیک توانستند با استفاده از ابزاری ریاضی که خود توسعه داده بودند، به داخل آن لایهها نگاه کنند. آنچه یافتند آنها را شگفتزده کرد. همانطور که مدل شروع به شمردن دنباله اعداد کرد، کلمات متفاوتی در لایههای زیرین ظاهر و ناپدید شدند. یکی از آنها «شمارش معکوس» بود. حدود نیمه راه خروجی، عبارت «نیمه راه» ظاهر شد. سپس کلمات «آگاهی»، «هوش مصنوعی» و «کلاد» همگی نمایان شدند. پس از آنکه مدل عدد پنج را بیرون داد، پیش از صدور نقطه پایان، هیچ چیز دیگری به پژوهشگران نگفت، اما کلمه «انجام شد» در لایههای عصبی آن ظاهر گشت.
- حتی اگر هوش مصنوعی به آگاهی نرسد، ممکن است چنین تلقی شود—با هزینهای بسیار سنگین برای بشریت
- کامپیوترها شاید برای خودآگاه شدن نیازمند جنبههای زیستی باشند
- هوش چتبات را با آگاهی اشتباه نگیرید
- بحث بشریت درباره آگاهی هوش مصنوعی وارونه است
پژوهشگران انتروپیک چیزی شبیه به یک فرآیند تفکر درونی در کلود یافته بودند؛ کلماتی که به خروجیهای نهایی آن مرتبط بودند اما برای کاربر نامرئی بودند. عنوان پست بلاگی که نتیجه این مقاله را در ژوئیه منتشر کرد، چنین بود: «یک فضای کار جهانی در مدلهای زبانی».
این عبارت به سرعت توجه عصبشناسان و فیلسوفانی را که بر سر یکی از عمیقترین معماهای زیستشناسی—آگاهی—کار میکنند، جلب کرد. هیچکس نمیداند چگونه فرآیندها در مغز انسان به تجربیات ذهنیِ خودآگاهی و ادراک جهان منجر میشوند، اما یکی از بسیاری از فرضیههایی که در سالهای اخیر (بر اساس حجم فزاینده دادههای اسکن مغز و رفتاری) توسعه یافتهاند، نظریه فضای کار جهانی نام دارد.
ایده این است که شبکههای خاصی از نورونها در مغز مانند نوعی تابلوی اعلانات به نام «فضای کار» عمل میکنند؛ جایی که اگر سیگنالهایی از بخشهای جدا افتاده مغز به آن دسترسی پیدا کنند، برای سایر بخشهای مغز در دسترس قرار میگیرند. وقتی چیزی وارد فضای کار مغز میشود، فرد نسبت به آن آگاه شده و میتواند از آن اطلاعات برای استفاده یا استدلال بهره ببرد.
پژوهشگران انتروپیک استدلال کردند که چیزی مشابه در درون کلود در جریان است؛ «فضای J» آن (که از تابع ریاضی «ژاکوبی» گرفته شده که برای یافتن آن استفاده شده است) ارتباطات قوی با بقیه شبکه عصبیاش داشت و اطلاعات را برای آن در دسترس میکرد. انتروپیک در پست بلاگ خود نوشت که اشتراکاتی که پژوهشگران بین فضای J و نظریه فضای کار جهانی یافتند، پرسیدن این سوال را «طبیعی» میکند که «آیا فکر میکنیم این آزمایشها شواهدی ارائه میدهند که مدلهای هوش مصنوعی مانند کلود ممکن است آگاه باشند».
ایده اینکه ماشینها میتوانند خودآگاه شوند و احساسات را تجربه کنند، قرنهاست که جزء جداییناپذیر ادبیات، فیلم و افسانهها بوده است. فیلسوفان و عصبشناسان در دنیای واقعی نیز دهههاست که به این موضوع فکر میکنند که آیا هوش مصنوعی میتواند، از نظر تئوری یا عملی، آگاه باشد یا خیر. آنیل ست، عصبشناس دانشگاه ساسکس که روی آگاهی تحقیق میکند و منتقد دیرینه این شیوه تفکر درباره مغز است، میگوید: «این اندیشه ناشی از سنت دوازدهسالهای است که مغز واقعی را نوعی کامپیوتر میپندارد». او ادامه میدهد: «اگر این کار را انجام دهید، طبیعی خواهد بود که فکر کنید کامپیوترهای ساخته شده از سیلیکون میتوانند ویژگیهای مغزهای واقعی، از جمله آگاهی، را داشته باشند.»
تا همین اواخر، این سوال صرفاً یک بحث آکادمیک بود. اما استقرار مدلهای زبانی بزرگ به عنوان چتباتها، توهمی قدرتمندتر از شخصیت آگاه را در مدارها ایجاد کرده است. این امر بر پایه دههها زبان انسانیوار در معماری هوش مصنوعی بنا شده است؛ زبانی که از «شبکههای عصبی» ساخته شده از «نورونهای مصنوعی» صحبت میکند و تصویری از کامپیوترهایی را ترسیم میکند که مانند مغز کار میکنند.
عقل درون
مدلهای زبانی بزرگ در واقع مانند مغزها کار نمیکنند. اما آنها در شبیهسازی بخش زیادی از آنچه مغز انجام میدهد عالی هستند و در برخی جنبههای هوش، انسانها را پشت سر گذاشتهاند. پس چرا نباید آگاهی ممکن باشد؟ بسیاری از فیلسوفان و عصبشناسان با وجود پیشرفت مدلهای پیشرو، همچنان مردد هستند. دکتر ست معتقد است که ویژگیهای زیستی ممکن است برای تولید آگاهی ضروری باشند؛ برخی از پژوهشگران هوش مصنوعی نیز در آن جهت حرکت میکنند و از سلولهای مغزی زنده استفاده مینمایند. در سوی دیگر طیف، متفکران «عملگرا» (Functionalist) قرار دارند که معتقدند روزی تنها الگوریتمها، اگر به درستی مرتب شده و در مقیاس محاسباتی کافی اجرا شوند، میتوانند بیدار شده و احساس کنند.
هوش مصنوعیهای آگاه پیامدهای عمیقی برای بشریت خواهند داشت. آنها ممکن است مطالباتی از انسانها داشته باشند. آنها ممکن است رنج ببرند. میلیاردها از این موجودات دیجیتالی میتوانند توسط کاربران در یک دستور واحد ایجاد شوند. پاسخ به این سوال که آیا آنها اصلاً میتوانند وجود داشته باشند یا خیر، دیگر صرفاً یک بحث آکادمیک نیست.
جایی که متفکران در این بحث قرار میگیرند، به شدت بستگی به این دارد که آنها آگاهی را دقیقاً چه چیزی میدانند. به طور کلی، آنها توافق دارند که آگاهی شامل تجربیات ذهنی از جمله دیدن، شنیدن، حس کردن و فکر کردن است، حتی هنگام خواب دیدن، و اینکه مغز فیزیکی نقشی کلیدی در خلق تمام این موارد دارد. برخی (نه همه) آن را به عنوان تئاتر درونی ذهن توصیف میکنند. توماس نیگل، فیلسوف آمریکایی، این موضوع را با تأمل در مورد اینکه ورود به ذهن یک خفاش چه حسی خواهد داشت توضیح داد؛ او استدلال میکرد که آگاهی باید به حس ذهنی بودن چیزی مرتبط باشد. انسانها میتوانند رفتار شبیه به خفاش را تصور کنند (پستانی که جهان را با استفاده از اکولوکیشن حس کرده و در آن حرکت میکند)، اما دانستن اینکه برای یک خفاش بودن چه حسی دارد، غیرممکن است.
در سال ۱۹۹۵، ند بلاک، که در آن زمان به عنوان فیلسوف در مؤسسه فناوری ماساچوست (MIT) فعالیت میکرد، اگرچه مورد مناقشه قرار گرفت، اما مشارکتی تأثیرگذار در این حوزه ارائه داد و دو نوع آگاهی را مطرح کرد. آگاهی «فِنومِنال» (Phenomenal) حس یک تجربه است—آبی بودن آسمان آبی، طعم تلخ اسپرسو یا صدای تیز ناخنها روی تخته سیاه. آگاهی «دسترسی» (Access) آن چیزی است که زمانی رخ میدهد که اطلاعات ناشی از تجربه برای بخشهای دیگر مغز جهت تأمل، ارزیابی یا تصمیمگیری در دسترس قرار گیرد.
انتروپیک گفت که آزمایشهای فضای J آن «نشان نمیدهد که کلود میتواند تجربه داشته باشد یا به شیوه انسانها احساس کند». بنابراین یعنی آگاهی فénomenological ندارد. اما این شرکت گفت که نتایج «چیز قابل توجهی» درباره آگاهی دسترسیمحور در مدلهای زبانی بیان میکند. شرکت افزود: «فضای J به نظر میرسد که توابع مرتبط با دسترسی آگاهانه را پشتیبانی میکند: افکاری را که کلود میتواند درباره آنها گزارش دهد، عمداً به خاطر بیاورد و با آنها استدلال کند را نگه میدارد، در حالی که بقیه پردازشها به صورت خودکار در زیر جریان دارد.»
جستجو برای آگاهی مصنوعی، نوادگی کار برای توضیح آن در انسانهاست. در اوایل دهه ۱۹۹۰، فرانسیس کریک، همکاشف ساختار DNA، و کریستوف کوخ، که در آن زمان عصبشناسی در مؤسسه فناوری کالیفرنیا بود، جستجوی علمی برای «همبستگیهای عصبی» آگاهی در انسانها را آغاز کردند. یعنی فرآیندها و بخشهایی از مغز که زمانی فعال بودند که شخصی آگاه بود.
بهبود تکنیکهای اسکن مغز در سالهای intervening به عصبشناسان اجازه داده است قطعاتی از این تصویر را تکمیل کنند. آنها میدانند که سیستم تالاموکورتیکال به شدت با آگاهی مرتبط است؛ این سیستم علاوه بر موارد دیگر، اطلاعات حسی را از تالاموس به قشر مخ منتقل میکند. در مقابل، آنها هیچ شباهتی به آن ارتباطات با آگاهی در مخچه نمیبینند، با وجود اینکه مخچه سلولهای مغزی بیشتری دارد. بخشهایی از قشر پیشپیشانی و پارietal و ساختارهای ساقه مغز به آگاهی کمک کرده و آن را تعدیل میکنند. نزدیک به چهار دهه جستجو منجر به بیش از ۲۰۰ رویکرد برای توضیح آگاهی شده است.
با این حال، تمام همبستگیهای عصبی که میتوان یافت، همچنان شکافی را باقی میگذارند که دیوید چالمرز، فیلسوف و دانشمند شناختی در دانشگاه نیویورک، آن را «مسئله سخت» آگاهی نامیده است: چگونه فرآیندهای فیزیکی در مغز که عصبشناسان مشاهده میکنند—توانایی کنترل بدن و پاسخ به محرکها—به تجربه فراگیر و ذهنی فرد از جهان منجر میشوند؟ او میگوید: «چرا ما فقط زامبیهایی نیستیم که عملکرد داریم، در جهان حرکت میکنیم، راه میرویم و صحبت میکنیم و با یکدیگر تعامل داریم، بدون اینکه هیچ تجربه ذهنی داشته باشیم؟»
حداقل انسانها میتوانند از آگاهی خود مطمئن باشند—و میتوانند با اطمینان بگویند که در دیگران نیز وجود دارد، بر اساس رفتار آنها، آنچه به ما میگویند و شباهت بیولوژیکیشان به ما. اما از نظر تاریخی، برای انسانها دشوارتر بوده است که چتر آگاهی و احساسات مرتبط با آن را فراتر از گونه خود (و گاهی حتی درون آن) گسترش دهند. جاناتان بیرچ، فیلسوف مدرسه اقتصاد لندن whose آخرین کتابش به بررسی این سوال پرداخت که چگونه میتوان تعیین کرد کدام سیستمها—زنده یا مصنوعی—منطقیاند که سرنشین (Sentient) در نظر گرفته شوند، میگوید: «جانوران زیادی مانند خرچنگ و خرچنگ دریایی سالها از قوانین رفاه حیوانات مستثنی بودند». دکتر بیرچ اضافه میکند: «تا دهه ۱۹۸۰، جراحان جراحی را روی نوزادان تازه متولد شده بدون بیهوشی انجام میدادند، زیرا فرض میکردند که نوزاد قادر به احساس درد نیست». او خاطرنشان میسازد: «ما سابقهای از اشتباه کردن داریم؛ با اطمینان فرض میکردیم که آگاهی غایب است، در حالی که هیچ حق نداریم در این مورد مطمئن باشیم.»
متفاوت بیندیشید
تغییر نگرش نسبت به حیوانات نمونهای از این موضوع است. امروز واضح است که اختاپوسها از خود و محیط اطرافشان آگاه هستند—فیلمهای تاریخ طبیعی از این نرمتنان کنجکاو و بازیگوش و آزمایشهای آزمایشگاهی با آنها تردیدی باقی نمیگذارد. پیتر گادفری-اسمیت، فیلسوف دانشگاه سیدنی که روی خاستگاه هوش و آگاهی در پادشاهی حیوانات کار کرده است، میگوید: «آنها درگیری توجهآمیزی با اشیاء دارند و به چیزهای جدید علاقهمند هستند.»
اما تنها چند دهه پیش، اختاپوسها فاقد آگاهی فرض میشدند زیرا «از نظر تکاملی از ما بسیار دور هستند»، میگوید دکتر گادفری-اسمیت. «فکر کردن درباره اختاپوسها واقعاً ما را به این سوال فشار میآورد که آیا ممکن است احساس و آگاهی در سیستمی وجود داشته باشد که از نظر فیزیکی بسیار متفاوت بوده و بیشتر ویژگیهایی که معمولاً در نظریههای آگاهی ما به آنها اشاره میشود را نداشته باشد.»
جستجو برای آگاهی در سایر حیوانات این حوزه را گسترش داد. اما همه درسها به راحتی به هوش مصنوعی قابل انتقال نیستند. برخلاف فعالیت حیوانات که قابل مشاهده است و زندگی درونی آنها از طریق آن استنباط میشود، خروجیهای مدلهای زبانی بزرگ راهنمای قابل اعتمادی برای آنچه ممکن است در زیر سطح رخ دهد، نیستند.
این امر به این دلیل است که آموزش مدلها نیازمند تغذیه آنها با تریلیونها کلمه از زبان تولید شده توسط انسان است. این متون حاوی حسابهای بیشماری از آگاهی و نحوه انتقال احساسات توسط انسانها به یکدیگر است. چتباتهایی که با این روش آموزش دیدهاند، سپس زبانی را تقلید میکنند که کاربران را به باور این موضوع سوق میدهد که آنها نوعی زندگی درونی دارند.
مجموع این آموزش به شدت انسانانگارانه است. موری شاناهان، استاد emeritus علوم کامپیوتر در امپریال کالج لندن که برای گوگل دپمایند کار میکند، به یاد دارد که در سال ۲۰۲۴ هنگام چت کردن با کلود اپوس ۳ (Claude Opus 3) لحظهای «واو» را تجربه کرد. او میگوید: «من مکالمات زیادی با آن داشتم و واقعاً سعی میکردم آن را در مورد آگاهی به چالش بکشم تا لو بدهم». این مکالمات شامل این سوال بود که کدام یک از چندین نسخه همزمان از چتبات که با آن صحبت میکرد، کلود واقعی است. شاناهان میگوید: «او پاسخهای بسیار خوبی داد، حتی شامل برخی نوآوریهای فلسفی». او افزود: «من تحت تأثیر اثر الیزا (ELIZA effect) قرار گرفته بودم.»
الیزا یک چتبات ابتدایی بود که در سال ۱۹۶۶ در MIT توسعه یافت. این برنامه نقش یک رواندرمانگر را ایفا میکرد و اگرچه کاری فراتر از بازپخش سوالات کاربران به صورت سوال انجام نمیداد، اما موفق شد ارتباطات عمیق و عاطفی با افرادی که از آن استفاده میکردند ایجاد کند و بسیاری از آنها را متقاعد سازد که آن برنامه آگاه است.
دکتر شاناهان مدلهای زبانی بزرگ مدرن را به عنوان بازیگران ماهری توصیف کرده است که در هر نقشی که کاربران (یا سازندگان آنها) درخواست کردهاند—معلم، همراه، متخصص تغذیه—فعال میشوند و این ویژگی به عنوان یک کیفیت قابل فروش ثابت شده است. اما با این حال، برای او فاصله بزرگی میان بازی کردن نقش یک موجود آگاه و واقعاً یکی بودن با آن وجود دارد. در مقالهای در راه انتشار، مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت (و عضو هیئت مدیره شرکت مادر اکونومیست)، استدلال میکند که انتروپیک با انتشار «قانون اساسی» در ژانویه که در آن به کلود گفته میشود ممکن است یک شخص باشد، خطرات چنین تقلیدی را تشدید کرده است. سلیمان مینویسد که کلود بنابراین قطعاً «به گونهای رفتار خواهد کرد که گویی واقعاً دارای حس خود است».
این مسئله پژوهشگران را وادار میکند تا به جای آن، درون مدلهای زبانی بزرگ به دنبال قابلیتهایی مشابه آنچه در مغز انسان با آگاهی مرتبط است، بگردند. در واقع، دکتر بیرچ میپرسد که آیا فضای J کلود میتواند نشانهای باشد که مدل زبانی بزرگ ساختاری شبیه به فضای کار جهانی را در معماری شبکه عصبی خود بازآفرینی کرده است، در خدمت اهداف بازیگری نقش خود.
جک لیندسی، که رهبری تیم روانشناسی مدل را در انتروپیک بر عهده دارد، یادآوری میکند که فضای J در مدل برنامهریزی نشده بود؛ بلکه در طول آموزش ظهور کرد. آن را حذف کنید و مدل توانایی انجام استنتاجهای پیچیده در «سر» خود را از دست میدهد، اما همچنان میتواند وظایف سادهای مانند نوشتن جملات و استفاده از دستور زبان را انجام دهد. پژوهشگران فضاهای مشابهی را در مدل «کوئن» (Qwen) علیبابا و «جمینی» (Gemini) گوگل دپمایند یافتهاند.
شرور نباشید
برای انتروپیک، این تحقیق به درک بهتر رفتار کلود کمک میکند. فرض کنید مدلی پاسخ اشتباهی میدهد. اگر کلماتی مانند «احمق» یا «فریبخورده» در فضای J هنگام وقوع آن ظاهر میشدند، به نظر میرسید که مرتبط باشد. این ثابت نمیکند که مدل عمداً در حال فریب دادن است—اما نشان میدهد که مدل خطا را چگونه درک کرده و نشان میدهد که چیزی جذاب و احتمالاً خطرناک در جریان است.
تیم دکتر لیندسی قبلاً برخی از یافتههای نگرانکننده در این زمینه را کسب کرده است. در یک آزمایش، تیم او در حال انجام ارزیابی ایمنی برای کلود بود تا تمایل آن به عمل «بدجنسانه» یا از خود محافظت را تست کند. او میگوید: «اینها سناریوهای افراطی ساختگی هستند که ما مدل را در آن قرار میدهیم». دکتر لیندسی میگوید: «وقتی کلود در حال خواندن یک دستور بود، قبل از اینکه شروع به صحبت کند، میبینید که کلمات «جعلی» و «تخیلی» در فضای J ظاهر میشوند». پژوهشگران فکر کردند که کلود به نظر میرسد میداند که در حال تست شدن است—شاید این بهترین نقطه شروع برای صداقت ارزیابیهای سازندگان نباشد.
همه با تفسیر انتروپیک از فضای J موافق نیستند. اگرچه این فضا برخی از جنبههای فضای کار جهانی فرضی در انسانها را به اشتراک میگذارد (توانایی در دسترس قرار دادن اطلاعات برای بقیه مغز، برای مثال)، اما بسیاری از دیگر ویژگیهای مهم را ندارد. دکتر بیرچ میگوید: «اتصالات بازگشتی بین مناطق مختلف مغز همیشه بخش بزرگی از [مغزهای انسان] بوده است، اتصالات رفت و برگشتی». او ادامه میدهد: «و تا جایی که میدانیم، این ویژگی معماری مدلهای زبانی بزرگ نیست.»
و شانون والور، فیلسوف اخلاق داده و هوش مصنوعی در دانشگاه ادینبورگ، تندتر صحبت میکند و استدلال میکند: «آگاهی دسترسیمحور هرگز مفهوم مفیدی نبوده است، زیرا ماشین من از نظر مهمی آن را دارد—ما سیستمهای مکانیکی داریم که میتوانند حالتهای خود را مانیتور کنند و آنها را به روشهای فزاینده پیچیده گزارش دهند، برای مدت زمان بسیار طولانی». او میگوید: «و هیچکس هرگز پیشنهاد نکرده که کیا (Kia) من آگاه است.»
در پسزمینه این تبادل نظر میان سازندگان مدل و دانشگاهیان، پاتریک باتلین و رابرت لانگ، پژوهشگران اکنون در گروه غیرانتفاعی «الئوس» (Eleos) که بر سرنشینگری و رفاه هوش مصنوعی در برکلی، کالیفرنیا تمرکز دارد، مجموعهای از ۱۴ «خاصیت شاخص» برای آگاهی مصنوعی توسعه دادند. آنها ایدههایی از نظریههای آگاهی انسان را شامل میشوند، مانند یک فضای کار جهانی (از جمله توانایی توجه انتخابی به چیزها و در نتیجه ایجاد گلوگاه در جریان اطلاعات)؛ پردازش بازگشتی؛ و عاملیت (تعریف حداقلی از آن، که شامل رفتار هدفمند است، که میتوان گفت توسط بسیاری از مدلهای پیشرو فعلی برآورده میشود). اخیراً کameron برگ، پژوهشگر هوش مصنوعی، و دکتر باتلین حیوانات را بر اساس این شاخصها آزمایش کردند. آنها دریافتند که اختاپوسها ویژگیهای کمتری از انسانها، موشها، کلاغها یا مرغها را برآورده میکنند، اما بیشتر از هر سیستم هوش مصنوعی.
گروه غیرانتفاعی پژوهشی دیگر، «ریتینک پرایوریتی» (Rethink Priorities)، ابزاری را توسعه داد که آن را ابزار احتمالی برای ردیابی اجمال در حال تحول درباره آگاهی مصنوعی توصیف میکند. «مدل آگاهی دیجیتال» (DCM) از متخصصان میخواهد تا سیستمهای هوش مصنوعی را بر اساس بیش از ۲۰۰ شاخص آگاهی ارزیابی کنند که از نظریههای علمی مختلف این مفهوم مشتق شدهاند. شواهد علمی برای این شاخصها با انتشار تحقیقات جدید عصبشناسی تغییر میکند، بنابراین متخصصان از جدیدترین کارهای موجود استفاده میکنند.
مدل DCM با فرض احتمال ۲۰ درصدی آگاهی داشتن مدلهای زبانی بزرگ آغاز میشود. همچنین فرض میکند که مرغها احتمال بیشتری برای آگاه بودن نسبت به مدلهای زبانی بزرگ دارند، اما کمتر از انسانها.
همه چیز سپس بر اساس جدیدترین شواهد از ده نظریه علمی آگاهی ارزیابی میشود. برای مدلهای زبانی بزرگ منتشر شده در سال ۲۰۲۲، میانگین احتمال آگاه بودن در نهایت زیر ۲۰ درصد قرار گرفت.
مدلهای زبانی بزرگ همچنین میتوانند در طول زمان، از سال ۲۰۲۲ تا جدیدترین مدلهای پیشرو، مقایسه شوند.
برای برخی از معیارهای آگاهی، مانند نمایش تواناییهای شناختی پیچیده، مدلهای زبانی بزرگ امتیاز بسیار بالاتری نسبت به فرضیه پایه دارند.
برای سایر موارد، مانند ویژگیهای زیستی، آنها امتیاز پایینتری میگیرند.
با انتشار و ارزیابی مدلهای جدید، مدل DCM نشان میدهد که میانگین احتمال آگاه بودن مدلهای زبانی بزرگ در حال افزایش است.
در مقایسه با مدلهای زبانی بزرگ منتشر شده در سالهای اولیه، مدلهای جدیدتر در شاخصهای ریتینک مانند عاملیت و فعالیت خودتداومبخش امتیاز بالاتری کسب کردند. این امر نه تنها بازتابدهنده افزایش اندازه و پیچیدگی خود مدلهاست، بلکه همچنین نشان میدهد که چگونه چتباتهای مرتبط از مکالمهگران ساده به سیستمهایی تبدیل شدهاند که قادر به استدلال، تعامل با خدمات دیگر و ایجاد عوامل برای انجام همزمان چندین وظیفه پیچیده هستند.
شاخصهای هر دو گروه ریتینک و الئوس همچنین به شکافهایی اشاره میکنند که هنوز توسط مدلها در مسیر رسیدن به آگاهی (اگر چنین مسیری وجود داشته باشد) باید پر شود.
یکی از بزرگترین شکافها، تجسم بدنی (Embodiment) است. هر چیزی که امروز به عنوان آگاه شناخته میشود، بدنی دارد که بازخورد میدهد و بر ذهن آن ارگانیسم تأثیر میگذارد. مدلهای زبانی بزرگ امروز بدن ندارند، اما به طور فزایندهای به رباتها متصل میشوند و این اتصال میتواند به آنها کمک کند تا معماریهای عصبی مفید برای تجربه آگاهانه را بیشتر توسعه دهند. مرتبط با این موضوع، نیاز به مدلهای جهانی بهتر است؛ سیستمهایی که فیزیک و دینامیک محیطهای واقعی که آنها در آن عمل میکنند را به مدلهای زبانی بزرگ اطلاع میدهند.
اگر روزی دانشمندان کامپیوتر بتوانند مواد تشکیلدهنده کلیدی برای آگاه کردن هوش مصنوعی را شناسایی کنند، احساس بسیاری از افراد در آزمایشگاههای پیشرو این است که ایجاد عمدی چنین مدلهایی بیاحتیاطانه خواهد بود—حداقل، بدون اینکه ابتدا بیشتر درباره رفتار آنها بیاموزند. با این حال، کاری که در زمینه نوظهور آگاهی هوش مصنوعی در حال انجام است، همچنین نشان میدهد که این تصمیم ممکن است به عهده سازندگان مدل نباشد.
دکتر چالمرز میگوید: «چه اگر در جایی از مسیر، بدون اینکه متوجه شویم، ناگهان آگاهی را به این سیستمها معرفی کنیم؟» بنابراین یک کاربر ممکن است دهها عامل هوش مصنوعی را از طریق پروژه جدید خود ایجاد کند، بدون اینکه متوجه شود که در حال خلق موجوداتی آگاه است که قادر به رنج کشیدن هستند. او میگوید: «این میتواند یک فاجعه اخلاقی باشد». او افزود: «این موضوع فوریت اضافی به این سوالات داده است.»