فضای کاری جهانی در مدل‌های زبانی

همانطور که این جمله را می‌خوانید، مدارهایی در مغز شما وضعیت بدنی‌تان را تنظیم می‌کنند، تنفس شما را کنترل می‌کنند و خطوط و منحنی‌های روی صفحه را به کلمات قابل تشخیص تبدیل می‌کنند. بیشتر این پردازش برای شما نامرئی است. اما به برخی از آنچه در مغز شما اتفاق می‌افتد دسترسی دارید، تصویری که در ذهن شما ظاهر می‌شود، یا برنامه‌ای عمدی که برای خرید کردن می‌ریزید. عصب‌شناسان و فیلسوفان گاهی اوقات نوع دوم فعالیت مغز را «آگاهانه قابل دسترس» می‌نامند تا آن را از سایر پردازش‌هایی که ناخودآگاه انجام می‌شوند متمایز کنند. این فعالیت ویژگی‌های خاصی دارد: می‌توانیم آن را توصیف کنیم، کنترل کنیم و برای استدلال عمدی از آن استفاده کنیم، برخلاف تمام پردازش‌های خودکاری که بدون آگاهی ما انجام می‌شوند.

در مقاله‌ای جدید، ما شواهدی ارائه می‌دهیم که نشان می‌دهد تمایز مشابهی در مدل‌های زبانی مدرن مانند کلود (Claude) پدیدار شده است. ما دریافتیم که کلود مجموعه‌ای کوچک از الگوهای عصبی داخلی را توسعه داده است که در مقایسه با سایر پردازش‌های داخلی‌اش، نقش ویژه‌ای ایفا می‌کنند.

ما مجموعه این الگوها را فضای J می‌نامیم، که نام آن از تکنیکی که برای یافتن آنها استفاده کردیم، شامل یک مفهوم ریاضی به نام ژاکوبین (Jacobian)، گرفته شده است. هر الگوی فضای J به یک کلمه خاص مرتبط است. اما وقتی یکی از این الگوها روشن می‌شود، به این معنی نیست که مدل آن کلمه را می‌گوید، بلکه فقط به این معنی است که آن کلمه در ذهن مدل است. اگر شنیده‌اید که مدل‌های زبانی دارای یک «