جهان بی‌مزه: آیا هوش مصنوعی همه را وادار به یکسان‌اندیشی می‌کند؟

ژویار سوراتی اغلب هنگام مرور پژوهش‌های اخیر در حوزه رایانش خود دچار حس دژا وو می‌شود. او می‌گوید: «مقالات را می‌خوانم و فکر می‌کنم قبلاً این مقاله را دیده‌ام.» همه چیز شبیه به هم به نظر می‌رسد و از ویژگی‌های فردی تهی شده است، طبق گفته سوراتی که دانشجوی دکتری در دانشگاه کالیفرنیای جنوبی در لس‌آنجلس است.

سوراتی حدس می‌زند که هوش مصنوعی مقصر این وضعیت باشد. او پیشنهاد می‌کند زیرا مردم به طور فزاینده‌ای به مدل‌های زبانی بزرگ (LLMs) متکی هستند، نگارش آن‌ها نیز رو به یکنواختی می‌رود.

اکنون، سوراتی و دیگر پژوهشگران مشاهدات تجربی خود را با بررسی چگونگی همگن‌سازی هوش مصنوعی مولد (genAI) — سیستم‌هایی که متن، تصویر و سایر خروجی‌ها را ایجاد می‌کنند — روی فرهنگ و شناخت آزمایش می‌کنند. در مقاله‌ای ماه مارس، او و همکارانش اشاره کردند که این پدیده مشابه مفهوم «مک‌دونالدی‌شدن» است که ویژگی‌های صنعت فست‌فود، مانند کارایی و پیش‌بینی‌پذیری، را به جامعه تحمیل کرده و منجر به یکنواختی بیشتر شده است¹.

پژوهشگران می‌گویند هوش مصنوعی مولد با فناوری‌های پیشینی که صرفاً اطلاعات را منتشر می‌کردند متفاوت است، زیرا به طور فعال آن‌ها را شکل می‌دهد. مطالعات نشان می‌دهند که ابزارهای هوش مصنوعی می‌توانند استفاده از زبان، خلاقیت و ارزش‌های فرهنگی را مسطح کنند و شواهدی وجود دارد که نشان می‌دهد این فناوری حتی می‌تواند بر تصمیماتی که می‌گیریم، نحوه عمل و نظراتی که داریم تأثیر بگذارد.

پس مشکل چقدر بزرگ است؟ و چه کاری می‌توان برای مبارزه با آن انجام داد؟ اگرچه همگنی هوش مصنوعی هنوز جامعه را دگرگون نکرده و شاید هرگز به آن نقطه نرسد، سوراتی بدترین نتیجه را در بلندمدت تصور می‌کند، جایی که انسان‌ها به طور جمعی سازگاری کمتری پیدا کنند. او می‌گوید: «این واقعاً برای من ترسناک است.»

امیلی ونگر، دانشمند رایانه در دانشگاه دوک در دورهام، کارولینای شمالی، می‌گوید خطر همگنی یک تهدید وجودی است. او می‌پرسد: «اگر همه از هوش مصنوعی برای نوشتن ایمیل‌هایمان یا هر چیز دیگری استفاده کنیم، به عنوان یک گونه چه خواهیم شد؟»

او هشدار می‌دهد که ممکن است قربانی «تفکر گروهی» شویم. او اضافه می‌کند: «ما به عنوان یک جامعه زمانی آسیب دیده‌ایم که صداهای حاشیه‌ای را ساکت یا نادیده گرفته‌ایم.»

ونگر همگنی خلاقیت مدل‌های هوش مصنوعی را بررسی کرده است. او و همکارش ۲۲ مدل زبانی بزرگ (LLM) و ۱۰۲ نفر را در سه وظیفه خلاقانه آزمایش کردند، از جمله یکی درباره تفکر واگرا که از مدل‌ها و شرکت‌کنندگان خواسته شد کاربردهای جایگزین برای اشیاء رایج نام ببرند. آن‌ها دریافتند² که LLMها ایده‌هایی تولید کردند که کمی اصیل‌تر بودند — یعنی تفاوت معنایی بیشتری با سوال داشتند — نسبت به آنچه انسان‌ها ارائه دادند. اما پاسخ‌های LLMها به یکدیگر شبیه‌تر از پاسخ‌های انسانی بود.

پژوهشگران دیگر ویژگی‌های روایی داستان‌های کوتاه نوشته‌شده توسط انسان‌ها و پنج مدل زبانی بزرگ را با تحلیل طرح‌ها، شخصیت‌ها، مکان‌ها و عناصر دیگر نقشه‌برداری کردند³. آن‌ها دریافتند که داستان‌های تولیدشده توسط هوش مصنوعی بر اساس ویژگی‌های روایی خود خوشه‌بندی شدند، اما موارد موجود در داستان‌های نوشته‌شده توسط انسان پراکنده‌تر بودند.

کار با ابزارهای هوش مصنوعی همچنین می‌تواند خلاقیت انسانی را کاهش دهد. در یک مطالعه سال ۲۰۲۴، افراد داستان‌های کوتاه هشت جمله‌ای در موضوعات مشخص‌شده نوشتند. برخی می‌توانستند ابتدا از یک مدل زبانی بزرگ برای ایده‌پردازی کمک بگیرند. استفاده از هوش مصنوعی منجر به داستان‌هایی شد که ارزیابان آن‌ها را نوتر و لذت‌بخش‌تر ارزیابی کردند (به جز موارد نویسندگان بسیار مستعد). اما این کار همچنین باعث شد داستان‌ها به یکدیگر شبیه‌تر شوند⁴. در یک مطالعه سال ۲۰۲۵ که شامل وظایف طوفان فکری بود، ایده‌هایی که افراد ارائه دادند خلاقانه‌تر بودند (طبق ارزیابی انسانی) وقتی از ChatGPT استفاده می‌کردند، اما بار دیگر استفاده از هوش مصنوعی تنوع ایده‌ها را کاهش داد⁵. فراتحلیل‌های اخیر که چندین مطالعه را ترکیب کرده‌اند، از این مشاهدات حمایت کرده‌اند. یکی که در آوریل منتشر شد⁶ نشان داد که همگنی هوش مصنوعی برای تولید ایده قوی‌ترین بود، به ویژه در وظایف پیچیده یا محدودشده.

اثرات مشابهی خارج از آزمایشگاه‌ها نیز مشاهده می‌شود. یک مطالعه بیش از ۴۰۰ هزار مقاله علمی را در پایگاه داده Web of Science بررسی کرد و یافت که پس از انتشار ChatGPT در اواخر سال ۲۰۲۲، تعداد مقالات به ازای هر نویسنده افزایش یافت، اما شباهت آن‌ها از نظر محتوا و سبک زبانی نیز بیشتر شد⁷.

پژوهش‌های دیگر بر استفاده از زبان متمرکز بوده‌اند. سوراتی و همکارانش مقالات خبری محلی، پیش‌چاپ‌های arXiv و پست‌های پلتفرم شبکه اجتماعی Reddit را مطالعه کردند و دریافتند که پس از انتشار اولیه ChatGPT، اندازه‌گیری‌های زبانی سبک نگارش نشان‌دهنده کاهش تنوع بود. پژوهشگران این اثر را با استفاده از مدل‌های زبانی بزرگ برای اصلاح دستور زبان در متون نوشته‌شده توسط انسان بازتولید کردند که بسیاری از نشانه‌های شخصیت، ارزش‌های اخلاقی و جمعیت‌شناسی را پاک کرد⁸.

هوش مصنوعی مولد همچنین می‌تواند تفاوت‌های فرهنگی را کمرنگ کند. در یک مطالعه⁹، افراد در هند و ایالات متحده خواسته شدند تا مراسم مورد علاقه، قهرمانان و نمادهای خود را توصیف کنند و ایمیلی بنویسند که ارزش‌هایشان را نشان دهد. نیمی از آن‌ها با استفاده از یک ابزار تکمیل خودکار که هر بار که مکث می‌کردند تا نه کلمه پیشنهاد می‌داد، نوشتند. این استفاده از هوش مصنوعی شباهت نگارش بین هندی‌ها، بین آمریکایی‌ها و بین دو گروه را افزایش داد، که منجر شد هندی‌ها در عبارت‌بندی خود شبیه آمریکایی‌ها به نظر برسند. این امر همچنین منجر به جزئیات غنی‌تر کمتر درباره جشن دیوالی هند شد؛ در عوض، توصیفات در نمونه‌های نوشتاری عمومی‌تر بودند.

خروجی مدل‌های هوش مصنوعی می‌تواند بر ایده‌های کسانی که آن را مشاهده می‌کنند تأثیر بگذارد. یک مطالعه قبل از انتخابات ریاست جمهوری ۲۰۲۴ ایالات متحده نشان داد که مدل‌های زبانی بزرگ سوگیری به نفع نامزد اولیه دموکرات، جو بایدن، نسبت به نامزد جمهوری‌خواه، دونالد ترامپ داشتند و گفت‌وگو با مدل‌ها درباره سیاست، طرفداران ترامپ را نسبت به او منفی‌تر کرد¹⁰.

محتوای مدل‌های زبانی بزرگ می‌تواند شناخت مصرف‌کنندگان و تولیدکنندگان را فاسد کند. مور نعمان، دانشمند اطلاعات در مرکز تحقیقاتی کرنل تکن در نیویورک، که هم‌نویسنده مطالعه درباره استفاده از ابزارهای تکمیل خودکار بود، معتقد است که هوش مصنوعی مولد هم امپریالیسم فرهنگی و هم شناختی ایجاد می‌کند⁹. او می‌گوید ویژگی تکمیل خودکار منجر به «ربایش ذهن» می‌شود و افکار کاربران را تغییر می‌دهد. در یک مطالعه که او روی آن کار کرد¹¹، شرکت‌کنندگان با کمک یک مدل زبانی بزرگ درباره شبکه‌های اجتماعی نوشتند که به صورت مخفیانه دستوری داده شده بود تا استدلال کند که شبکه‌های اجتماعی خوب یا بد هستند. مدل زبانی بزرگ نه تنها چیزی که کاربران می‌نوشتند، بلکه نگرش‌های آن‌ها را در یک نظرسنجی پس از نوشتن تحت تأثیر قرار داد. در یک مطالعه پیگیری، باورهای افراد درباره مسائلی مانند مجازات اعدام به سمت دستوری که به مدل داده شده بود منحرف شد، حتی وقتی هفته‌ها بعد از آن نظرسنجی شدند و حتی وقتی از سوگیری مدل زبانی بزرگ آگاه بودند¹².

در کاری توسط پژوهشگران دیگر، نیمی از شرکت‌کنندگان به مدت پنج روز به ChatGPT برای کمک به وظایفی که خلاقیت آن‌ها را آزمایش می‌کردند دسترسی داشتند و نیمی دیگر نه. وقتی تمام شرکت‌کنندگان دو ماه بعد وظایف را تکمیل کردند، هیچ‌کدام دسترسی به هوش مصنوعی نداشتند، اما کسانی که قبلاً به هوش مصنوعی دسترسی داشتند همچنان پاسخ‌هایی می‌دادند که به یکدیگر شبیه‌تر بود. پژوهشگران این را یک «اسکار خلاقیت» نامیدند⁷.

سوراتی تأثیر هوش مصنوعی بر شناخت را با ارجاع به رمان پسا‌آینده جورج اورول در سال ۱۹۴۹، سیزدهم ژوئن توصیف می‌کند. او می‌گوید: «نحوه صحبت کردن شما بر نحوه استدلال کردن شما تأثیر می‌گذارد.» به عبارت دیگر، اگر استفاده از هوش مصنوعی منجر شود که همه یکسان صحبت کنند، آن‌ها ممکن است یکسان نیز استدلال کنند، طبق گفته او.

همگن شدن خروجی هوش مصنوعی و در نتیجه افکار کاربران، دلایلی دارد که به ترتیب فنی و روانشناختی هستند، طبق گفته متخصصان. وقتی یک مدل مولد قادر به ارائه تنوعی از خروجی‌ها نباشد، به آن فروپاشی حالت (mode collapse) گفته می‌شود. این می‌تواند به چند دلیل رخ دهد: یکی این است که تنوع محدودی در داده‌های استفاده‌شده برای آموزش مدل‌ها وجود دارد. دوم این است که آن‌ها برای پیش‌بینی الگوهای محتمل پاداش می‌گیرند، نه ایده‌های واگرا. سوم این است که آن‌ها برای خوشحال کردن رتبه‌بندهای انسانی تنظیم دقیق می‌شوند که معمولاً نوآوری در پاسخ‌ها را در اولویت قرار نمی‌دهند.

پدیده دیگری به نام فروپاشی مدل وجود دارد. تعاریف متفاوت است، اما به طور کلی به این معناست که اگر مدلی بر خروجی خودش یا مدل دیگر آموزش ببیند — همان‌طور که اکنون که ابزارهای هوش مصنوعی اینترنت را پر از محتوای بی‌کیفیت می‌کنند، بیشتر اتفاق خواهد افتاد — پس از چند نسل، خروجی تجزیه می‌شود یا تنوع خود را از دست می‌دهد.

حتی بدون فروپاشی مدل، سیستم‌های هوش مصنوعی می‌توانند به طور فعال فرهنگ انسان را به سمت شبیه‌تر شدن به هوش مصنوعی و همگن‌تر شدن سوگیری دهند. مطالعات نشان داده‌اند که مدل‌های زبانی بزرگ به رزومه‌ها و آثار تولیدشده توسط خودشان امتیاز بالاتری نسبت به آن‌هایی که توسط مدل‌های دیگر یا انسان‌ها نوشته شده‌اند می‌دهند¹³. این می‌تواند انگیزه‌ای برای ما باشد تا آن‌ها را راضی نگه داریم.

از نظر روانشناختی، نعمان می‌گوید، مردم تمایل دارند از راهنمایی یک مدل زبانی بزرگ پیروی کنند زیرا برخی آن را نماینده‌ای از دیدگاه‌های دیگران یا حکیمی می‌دانند که بهترین راه را می‌داند. و وقتی از یک مدل زبانی بزرگ در کار خود استفاده می‌کنند، همان‌طور که در مطالعات تکمیل خودکار دیدیم، ممکن است احساس مالکیتی بر خروجی آن داشته باشند. مردم معمولاً نگرش‌های خود را با رفتار خودپنداره‌شان هماهنگ می‌کنند که می‌تواند منجر به پذیرش دیدگاه‌های مدل‌های هوش مصنوعی شود.

آلین ده روی، پژوهشگر خلاقیت در دانشگاه تیلبورگ در هلند، می‌گوید ایده‌های تولیدشده توسط هوش مصنوعی همچنین اثر لنگری دارند که تفکر ما را تثبیت می‌کند.