اگر «ژولیوس سزار» امسال به روی صحنه میرفت، شاید ویلیام شکسپیر به نوشتن آن با هوش مصنوعی متهم میشد. یک ابزار بلاغی مشکوک بارها و بارها در این نمایشنامه ظاهر میشود. در پرده اول، صحنه دوم: «تقصیر، بروتوس عزیز، در ستارگان ما نیست، بلکه در خود ماست.» در پرده سوم، صحنه دوم: «نه اینکه سزار را کمتر دوست داشتم، بلکه رم را بیشتر دوست داشتم.» و بعدتر در همان صحنه: «من آمدهام تا سزار را دفن کنم، نه اینکه او را ستایش کنم.»
این جملات معروف شامل چیزی است که شاید به شناختهشدهترین عادت نوشتاری هوش مصنوعی تبدیل شده است – جملهای که به شما میگوید موضوع چه چیزی نیست و همچنین چه چیزی هست: این X نیست؛ بلکه Y است. به محض اینکه شروع به توجه به این ساختار کنید، آن را در همه جا خواهید دید. در یک نسخه، Y افزایشی است: بر X تمرکز میکند، آن را تشدید میکند یا گسترش میدهد. یک بررسی سالانه توسط «سیتیزن فایننشال گروپ» (Citizens Financial Group) گزارش داد که رشد در بخش بانکداری خصوصی آن «فقط یک پیروزی برای بانک خصوصی نیست – بلکه یک پیروزی برای کل شرکت است.» در یک نوع دیگر، Y جایگزین X به عنوان توصیفکننده ترجیحی میشود. مایکل فلین، مشاور سابق دونالد ترامپ، در پستی در ماه مارس در شبکه X نوشت: «هدف هرگز یک مرد نبود. هدف حقیقت بود.»
سپس ساختارهایی مانند نه A، نه B، فقط C وجود دارد که به نظر میرسد به ویژه در داستانهای تولید شده توسط هوش مصنوعی ظاهر میشوند. جملاتی مانند «نه کیف، نه وسایل، نه زره، فقط من» به دامن زدن به اتهامات نوشتار هوش مصنوعی در رمان ترسناک «دختر خجالتی» (Shy Girl) کمک کرد، که امسال توسط ناشر آن از بازار جمعآوری شد. (نویسنده کتاب استفاده از هوش مصنوعی را برای نوشتن آن انکار کرد. «سیتیزن فایننشال گروپ» قبلاً گفته بود که تیم ارتباطات آن «از فناوری در تعدادی از زمینهها استفاده میکند.» فلین به درخواست برای اظهار نظر پاسخ نداد.)
شیوع این ابزار فقط حکایتی نیست – قابل اندازهگیری است. (متاسفم.) بارونز (Barron’s) گزارش داد که ظهور آن در ارتباطات شرکتی از سال ۲۰۲۳ تا ۲۰۲۵ بیش از چهار برابر شده است. محققان در «پنگرام» (Pangram)، که ابزار تشخیص هوش مصنوعی میسازد، تخمین میزنند که جملات نه فقط X بلکه Y سه برابر بیشتر در نوشتههای هوش مصنوعی نسبت به نوشتههای انسانی ظاهر میشوند. الیاس مسرور، مهندس بنیانگذار در پنگرام، به من گفت که همه چتباتهای اصلی – از جمله چتجیپیتی (ChatGPT)، کلود (Claude)، جیمنای (Gemini) و مدلهای مختلف متنباز – به درجات مختلف به آن تکیه میکنند.
بسیاری دیگر از نشانههای شناخته شده چتباتها – مانند کاوش کردن (delve) – با اصلاح مدلها و رفع اشکالات توسط شرکتهای هوش مصنوعی، آمده و رفتهاند. پاییز گذشته، چتجیپیتی به اجنه و گرملینها (موجودات افسانهای) وسواس پیدا کرد، که منجر به مداخله دیگری شد: اوپنایآی (OpenAI) شخصیت «عجیب و غریب» چتجیپیتی را که علاقه آن به موجودات اسطورهای ظاهراً به مدلهای دیگرش سرایت کرده بود، بازنشسته کرد. با این حال، این X نیست؛ بلکه Y است هیچ نشانهای از کاهش نشان نداده است.
قبل از ظهور چتجیپیتی، این ساختار آنقدر مبهم بود که واقعاً نام مورد توافقی نداشت. اکنون برای نامگذاری آن عجله وجود دارد. اصطلاحات دانشگاهی، مانند آنتیتز (antithesis) و نفی فرازبانی (metalinguistic negation)، برخی از اشکال این ساختار را پوشش میدهند اما نه همه آنها را. در یک ایمیل، لورنتیا رومانیوک، مدیر محصول برای رفتار مدل در اوپنایآی، آن را «عبارتپردازی تقابلی» (contrastive phrasing) نامید. با وجود نارسایی آن، محبوبترین نامی که دیدهام «همترازی منفی» (negative parallelism) است.
رومانیوک اذعان کرد که همترازی منفی، زمانی که با دقت به کار گرفته شود، میتواند کوبنده باشد. اما چتجیپیتی بیش از حد به آن روی میآورد که میتواند فرمولبندی شده به نظر برسد. بنابراین این شرکت در حال کار بر روی راههایی برای گسترش رپرتوار چتبات است. در همین حال، او افزود، کاربران میتوانند دستورالعملهای سفارشی به چتجیپیتی بدهند. در یک انجمن ردیت (Reddit) درباره نوشتار هوش مصنوعی، کاربران نکاتی را برای حذف همترازی منفی از نوشتههای چتباتها مبادله میکنند. یکی پیشنهاد کرد که خروجی کلود (Claude) را در یک چتبات هوش مصنوعی دیگر کپی کرده و به آن بگوید که به عنوان یک ویراستار عمل کند که ممنوعیت شدیدی بر «جفتهای منفی» مانند «این X نبود، بلکه Y بود» دارد.
یکی از موانع برای یک راهحل جامعتر این است که به نظر میرسد هیچ کس به طور قطع نمیداند چرا مدلهای هوش مصنوعی در وهله اول اینقدر شیفته همترازی منفی هستند – شاید حتی شرکتهایی که آنها را ایجاد کردهاند نیز ندانند. (آنتروپیک (Anthropic) و گوگل (Google) به درخواستهای من برای مصاحبه پاسخ ندادند.)
سادهترین نظریه این است که انسانها آنها را اینگونه آموزش دادهاند. مدلهای زبانی بزرگ با شناسایی الگوها در مقادیر غیرقابل تصور از متنهای نوشته شده توسط انسان ساخته میشوند: کتابها، مقالات دانشگاهی، پروندههای ثبت اختراع، و به ویژه اینترنت. همترازی منفی، البته، در دادههای آموزشی اولیه وجود داشت. جدای از شکسپیر، نمونههای معروف زیادی وجود دارد: در دهه ۱۹۶۰، وینس لومباردی، مربی افسانهای فوتبال، این گفته را رایج کرد که «بردن همه چیز نیست؛ تنها چیز است.» در دهه ۱۹۹۰، تبلیغات یک برند پیتزای منجمد اصرار داشت: «این دلیوری نیست. این دیجورنو (DiGiorno) است.»
توهین چاکرابارتی، استاد علوم کامپیوتر در دانشگاه استونی بروک (Stony Brook University) که نوشتار هوش مصنوعی را مطالعه میکند، به من گفت که دادههای آموزشی شامل بسیاری از نوشتههای بد نیز میشد که شرکتهای هوش مصنوعی نمیخواهند چتباتهایشان از آنها تقلید کنند. بنابراین آنها همچنین تحت «یادگیری تقویتی» (reinforcement learning) قرار میگیرند، فرآیندی که در آن بازبینان انسانی مدلها را بر اساس پاسخهایشان درجهبندی میکنند. از طریق آزمون و خطا، چتباتها از پاسخهای نامناسب (ساختن چیزهای دروغ، ارائه مشاوره غیرقانونی، توهین به کاربر) دور شده و به سمت پاسخهایی که مفید ارزیابی میشوند، هدایت میشوند. چاکرابارتی گفت که این احتمال وجود دارد که بازبینان انسانی تمایل داشتهاند به پاسخهایی که شامل این X نیست؛ بلکه Y است، نمرات بالایی بدهند. این میتواند به این دلیل باشد که همترازی منفی حس ظرافت و بینش را القا میکند: به نظر میرسد هوش مصنوعی راه خود را از یک توصیفکننده نامناسب به یک توصیفکننده مناسبتر پیدا میکند.
این هنوز ممکن است برای توضیح اینکه این ساختار چقدر در مدلهای اصلی هوش مصنوعی رایج به نظر میرسد، کافی نباشد. چندین کارشناس که با آنها صحبت کردم، مرا به توضیح دیگری، حتی عجیبتر، ارجاع دادند.
اگرچه چتباتها در ظرفیتهای تحقیقاتی و استدلالی خود به طرز چشمگیری پیشرفت کردهاند، اما هنوز اساساً ماشینهای پیشبینی متن هستند. آنها پاسخها را یک «توکن» – یا قطعهای از متن – در هر زمان، بر اساس آنچه قبلاً آمده است، تولید میکنند. هر انتخاب کلمه متوالی، هم احتمال آماری آن کلمه را که در یک دنباله بعدی میآید، بر اساس الگوهای موجود در دادههای آموزشی اصلی، و هم احتمال اینکه منجر به یک پاسخ با رتبه بالا به طور کلی شود، در نظر میگیرد. به عبارت دیگر، مدلها همیشه به دنبال تعادل بین انتخاب کلمه هوشمندانه و انتخاب کلمه آشکار هستند.
بر اساس این نظریه، هنگامی که یک چتبات از همترازی منفی استفاده میکند، اساساً بین این دو محافظهکاری میکند. هنگامی که جملهای را شروع کرده است که وظیفهاش توصیف چیزی است، مسیر کمترین مقاومت این است که ابتدا بگوید آن چیز چه چیزی نیست (X)، و تنها پس از آن بگوید آن چیز چه چیزی هست (Y). به عبارت دیگر: برای جملهای که با «این است» شروع میشود، دنبال کردن آن با «نه فقط» هم محتملتر و هم ایمنتر از گزینههای متعدد برای توصیف مستقیم موضوع آن است. و پس از «این نه فقط»، بقیه جمله نیز آسانتر میشود. کلمه بعدی میتواند X باشد – توصیفکننده خستهکننده و آشکاری که نفی میشود – که به نوبه خود انتخاب نهایی Y، توصیفکننده تا حدودی کوبندهتر را تنظیم میکند.
حتی اگر محققان بتوانند دقیقاً بفهمند که چرا چتباتها همترازی منفی را پذیرفتهاند، عامل دیگری وجود دارد که میتواند رفع آن را بسیار دشوار کند: مسرور، مهندس پنگرام، گفت: «وقتی چیزی وارد این مدلها میشود، بیرون کشیدن آن بسیار دشوار است.» این به این دلیل است که یکی از راههای اصلی تکامل مدلهای هوش مصنوعی، آموزش بر روی متنهای تولید شده توسط رباتهای دیگر است. این متن هوش مصنوعی احتمالاً مملو از همترازی منفی است که آن را بیشتر در مدل جدیدتر تثبیت میکند. اکنون در نظر بگیرید که سهم فزایندهای از نوشتههای اینترنت نیز توسط هوش مصنوعی تولید میشود. این نیز به دادههای آموزشی برای نسلهای آینده هوش مصنوعی تبدیل میشود.
چاکرابارتی گفت، علاوه بر این، برخی از آزمایشگاههای هوش مصنوعی نیز به جای بازبینان انسانی یا علاوه بر آنها، از هوش مصنوعی در فرآیند پس از آموزش استفاده میکنند. بدون مداخله، خطر «فروپاشی مدل» (model collapse) وجود دارد، که در آن هوش مصنوعی تعصبات خود را تا حدی تقویت میکند که ارتباط خود را با دادههای انسانی که قرار بود آن را پایه و اساس قرار دهند، از دست میدهد. چاکرابارتی گفت: «این یک حلقه بسیار معیوب است. همترازی منفی از قبل در متن وجود دارد، و سپس هوش مصنوعی همترازی منفی را ترجیح میدهد – به جایی میرسد که دیگر نمیتواند بدون آن بنویسد.» زبان هوش مصنوعی در حال خوردن دم خود است.
کلیشههای چتبات ممکن است آزاردهنده باشند، اما یک مزیت نیز دارند: آنها تشخیص نوشتار هوش مصنوعی را از نوع انسانی آسانتر میکنند. مسرور گفت که اگرچه نشانگرهای خاص نوشتار هوش مصنوعی مدام در حال تغییر هستند، اما در واقع تشخیص آن برای نرمافزار پنگرام دشوارتر نمیشود. پایداری سرسختانه ساختارهایی مانند همترازی منفی ممکن است یکی از دلایل آن باشد.
معامله برای نویسندگان انسانی این است که یک ابزار بلاغی که زمانی قدرتمند بود، اکنون یک کلیشه است که باعث میشود شما شبیه یک ربات به نظر برسید. این برخی افراد را در موقعیت ناخوشایندی قرار داده است که اصرار دارند از هوش مصنوعی استفاده نمیکنند – این فقط نحوه نوشتن آنهاست. قبل از اینکه آنها را به خاطر آن مسخره کنید، در نظر بگیرید که شما نیز ممکن است به زودی خود را در حال صحبت و نوشتن بیشتر شبیه یک ماشین بیابید: یک مطالعه اخیر توسط محققان در آلمان نشان داد که عادتهای نوشتاری هوش مصنوعی اکنون بیشتر در مکالمات خودجوش انسانی ظاهر میشوند. اگر این روند ادامه یابد، شاید همترازی منفی در نهایت وضعیت خود را به عنوان یک نشانه نوشتاری هوش مصنوعی از دست بدهد. تقصیر، خوانندگان عزیز، در چتباتهای ما نخواهد بود، بلکه در خود ما خواهد بود.