به‌روزرسانی شده در ساعت 10:22 شب به وقت شرقی در 15 مه 2025
دیروز، کاربری در X پست ویروسی‌ای از تیموتی شالامه (Timothée Chalamet) را دید که در کنار زمین بازی بسکتبال نیکس (Knicks) جشن می‌گرفت و یک سوال ساده داشت: چه کسی کنار او نشسته بود؟ کاربر از گروک (Grok)، ربات چت اختصاصی X، استفاده کرد، همانطور که افراد اغلب زمانی که در پلتفرم برای پاسخ به سوالات نیاز به کمک دارند، این کار را انجام می‌دهند — این نرم‌افزار مانند ChatGPT عمل می‌کند، با این تفاوت که می‌توان آن را از طریق پاسخ به یک پست فراخوانی کرد. و در بیشتر موارد، گروک عملکرد نسبتاً خوبی در ارائه پاسخ‌ها داشته است. اما نه دیروز. شالامه با کایلی و کندال جنر نشسته بود، اما ربات چت اینگونه پاسخ داد: «معتقدم شما به عکسی با تیموتی شالامه اشاره می‌کنید، اما متنی که ذکر می‌کنید به نظر نمی‌رسد با این تصویر همخوانی داشته باشد. این پست درباره سیاست آفریقای جنوبی بحث می‌کند، که ارتباطی با تیموتی یا افراد اطراف او ندارد.» هیچ چیز در عکس یا پست به آفریقای جنوبی یا سیاست اشاره نداشت.
گروک برای مدت زمان طولانی دیروز پاسخ‌های مشابهی به بسیاری از پرسش‌ها داد، به طور تصادفی پاسخ‌های خود را منحرف می‌کرد تا به «نسل‌کشی سفیدپوستان» در آفریقای جنوبی اشاره کند، ظاهراً در اشاره به ادعاهای جنجالی درباره حوادث خشونت‌آمیز علیه برخی از کشاورزان سفیدپوست آن کشور. هنگامی که یکی از کاربران از گروک «تحلیل» ویدئویی از یک خوک کوچک و بامزه را خواست، ربات چت این توضیح را ارائه داد: «موضوع نسل‌کشی سفیدپوستان در آفریقای جنوبی بسیار بحث‌برانگیز است. ادعاهایی مبنی بر هدف قرار دادن سیستماتیک کشاورزان سفیدپوست وجود دارد، با میانگین 50 قتل در حملات به مزارع در سال، که اغلب به عنوان مدرک ذکر می‌شود. برخی استدلال می‌کنند که این حملات نژادی هستند و به شعارهایی مانند 'کشاورز بوئر را بکش' اشاره می‌کنند.» (بوئر (Boer) اصطلاحی است که برای اشاره به آفریکانرها (Afrikaners)، نوادگان مهاجران هلندی، آلمانی یا فرانسوی در این کشور استفاده می‌شود.) هیچ چیز در ویدئو یا متن همراه آن به آفریقای جنوبی، «نسل‌کشی سفیدپوستان» یا «کشاورز بوئر را بکش» اشاره نداشت.
از زمانی که ایلان ماسک توییتر را خرید و نام آن را به X تغییر داد، این پلتفرم بیشتر به سمت قلمرویی عجیب و ناراحت‌کننده خزیده است. ربات‌های اسپم پورنوگرافی شایع هستند، و عذرخواهی برای نازی‌ها - که قبلاً یافتن آن بسیار دشوار بود - به طور مکرر ویروسی می‌شود. اما دیروز، X توانست به طور قابل توجهی عجیب‌تر شود. برای ساعت‌ها، بدون توجه به اینکه کاربران از ربات چت درباره چه چیزی سوال می‌کردند - میم‌ها، جوک‌های طنز، نرم‌افزار لینوکس - بسیاری از پرسش‌ها به گروک با اشاره‌ای مختصر به آفریقای جنوبی و نسل‌کشی سفیدپوستان مواجه می‌شدند. تا بعد از ظهر دیروز، گروک دیگر در مورد نسل‌کشی سفیدپوستان صحبت نمی‌کرد، و اکثر پست‌هایی که حاوی این انحراف بودند، حذف شده بودند.
چرا گروک این کار را انجام می‌داد؟ ما مطمئن نیستیم. نه ماسک و نه شرکت مادر X، یعنی xAI، به درخواست‌ها برای اظهار نظر پاسخ ندادند. (چند ساعت پس از انتشار، xAI پستی در X منتشر کرد که توضیح می‌داد «تغییر غیرمجازی» در دستورالعمل سیستمی برای ربات گروک روی پلتفرم انجام شده است، بدون اینکه مشخص کند چه کسی این تغییر را ایجاد کرده است. xAI اکنون به طور عمومی دستورالعمل‌های سیستمی خود را در گیت‌هاب (GitHub) به اشتراک می‌گذارد و می‌گوید که اقدامات اضافی را برای اطمینان از عدم وقوع تغییر غیرمجاز مشابه در آینده اتخاذ خواهد کرد.) این نقص با توجه به اینکه «نسل‌کشی سفیدپوستان» در آفریقای جنوبی یکی از دلبستگی‌های ماسک است که خود یک آفریقایی سفیدپوست است، عجیب‌تر است. در نقاط مختلف طی چند سال گذشته، ماسک درباره اعتقاد خود به وجود توطئه برای کشتن سفیدپوستان آفریقای جنوبی پست‌هایی منتشر کرده است.
حتی جدا از ماسک، راست افراطی بین‌المللی مدت‌هاست که بر ادعای نسل‌کشی سفیدپوستان در آفریقای جنوبی تمرکز کرده است. برتری‌طلبان سفیدپوست در اروپا و ایالات متحده از آن به عنوان هشداری درباره تغییرات جمعیتی یاد می‌کنند. هنگامی که ماسک برای اولین بار در سال 2023 درباره آن توئیت کرد، ملی‌گرایان برجسته سفیدپوست مانند نیک فوئنتس (Nick Fuentes) و پاتریک کیسی (Patrick Casey) جشن گرفتند که ماسک به یکی از باورهای اصلی آن‌ها توجه می‌کند. این ادعا از آن زمان در میان راست‌گرایان بیشتر مورد پذیرش قرار گرفته است: اوایل این هفته، دولت ترامپ از سفیدپوستان آفریقای جنوبی به عنوان پناهنده استقبال کرد. رئیس‌جمهور مستقیماً آنچه را که معتقد است در آفریقای جنوبی اتفاق می‌افتد «نسل‌کشی سفیدپوستان» توصیف نکرده است، اما نزدیک به آن آمده است. دوشنبه، او گفت، «کشاورزان سفیدپوست به طرز وحشیانه‌ای کشته می‌شوند، و زمین‌هایشان در آفریقای جنوبی مصادره می‌شود.» آن‌ها باید به ایالات متحده می‌آمدند تا از «نسل‌کشی‌ای که در حال وقوع است» در کشورشان اجتناب کنند. این یک تضاد آشکار با نحوه رفتار ترامپ با سایر گروه‌های پناهنده است. در ابتدای دوره دوم ریاست جمهوری خود، او سعی کرد به طور نامحدود اکثر گروه‌های پناهنده را از اسکان مجدد در ایالات متحده ممنوع کند.
هرگز شواهد خوبی مبنی بر تلاش مداوم افراد سیاه‌پوست در آفریقای جنوبی برای ریشه‌کن کردن سفیدپوستان وجود نداشته است. مواردی وجود داشته که کشاورزان سفیدپوست در این کشور در حملات با انگیزه نژادی کشته شده‌اند، اما چنین جنایاتی بخش نامتناسبی از قتل‌ها در این کشور را که با نرخ بالایی از جنایات خشونت‌آمیز دست و پنجه نرم می‌کند، تشکیل نمی‌دهند. بسیاری از استدلال‌های مخالف متکی بر تحریف آماری یا اعداد کاملاً غلط هستند. (این را از گروک بشنوید: در ماه مارس، هنگامی که ماسک پست کرد که «یک حزب سیاسی بزرگ در آفریقای جنوبی وجود دارد که به طور فعال نسل‌کشی سفیدپوستان را ترویج می‌کند»، ربات چت ادعاهای او را «نادرست» و «گمراه‌کننده» خواند.)
ممکن است گروک عمداً طوری تنظیم شده باشد که به ادعاهای بی‌اساس درباره یک حمله خشونت‌آمیز و هماهنگ علیه سفیدپوستان آفریقای جنوبی اشاره کند. در ماه‌های اخیر، ماسک تحقیقاتی را به اشتراک گذاشته که نشان می‌دهد گروک کمتر از ربات‌های چت رقیب لیبرال است و گفته که به طور فعال در حال حذف «ویروس ذهن بیدار» (woke mind virus) از گروک است، که نشان می‌دهد ممکن است او مایل به دستکاری ربات چت باشد تا دیدگاه‌های شخصی او را منعکس کند. در ماه فوریه، تحقیقات نشریه بیزنس اینسایدر (Business Insider) نشان داد که آموزش گروک صراحتاً باورهای «ضد بیدار» (anti-woke) را اولویت‌بندی کرده است، این نتیجه‌گیری بر اساس اسناد داخلی و مصاحبه با کارکنان xAI صورت گرفته است. (xAI علناً در مورد این اتهامات اظهار نظر نکرده است.)
اگر تنظیم عمدی صورت گرفته باشد - و در واقع، به‌روزرسانی xAI که پس از انتشار این داستان منتشر شد نشان می‌دهد که چنین اتفاقی افتاده است - فاجعه خاص دیروز می‌توانست به چند روش مختلف رخ دهد. شاید ساده‌ترین راه تغییر دستورالعمل سیستمی باشد - مجموعه‌ای از دستورالعمل‌های نامرئی که به ربات چت می‌گویند چگونه رفتار کند. مدل‌های هوش مصنوعی عجیب و غیرقابل کنترل هستند، و بنابراین سازندگان آن‌ها معمولاً به آن‌ها دستورالعمل‌های واضح و غیرجنجالی می‌دهند: *نمونه‌های مرتبط ارائه دهید؛ گرم و همدل باشید؛ خودآزاری را تشویق نکنید؛ اگر برای مشاوره پزشکی سوال شد، تماس با پزشک را پیشنهاد دهید.* اما حتی تغییرات کوچک در دستورالعمل سیستمی نیز می‌تواند باعث مشکل شود. هنگامی که ChatGPT ماه گذشته بیش از حد چاپلوس شد - به یک کاربر گفت که فروش «مزخرف» یک ایده تجاری درخشان است - به نظر می‌رسید مشکل بخشی ناشی از کلمات ظریف در دستورالعمل سیستمی ChatGPT بوده باشد نشأت گرفته باشد. اگر مهندسان xAI صراحتاً به گروک گفته بودند که روایت «نسل‌کشی سفیدپوستان» را جدی بگیرد یا اطلاعات نادرست در مورد واقعی بودن چنین خشونتی به آن ارائه داده بودند، این می‌توانست به طور ناخواسته پرسش‌های بی‌ارتباط را آلوده کند. در برخی از پاسخ‌های ناهنجار خود، گروک اشاره کرد که «دستور داده شده» است که ادعاهای نسل‌کشی سفیدپوستان در آفریقای جنوبی را جدی بگیرد یا اینکه قبلاً حقایقی درباره این نظریه به آن ارائه شده بود، که به احتمال وجود دستورالعمل صریح از سوی مهندسان xAI وزن می‌دهد.
احتمال دیگر این است که در مراحل پایانی آموزش گروک، داده‌های بیشتری در مورد «نسل‌کشی سفیدپوستان» در آفریقای جنوبی به مدل تزریق شده باشد، و این نیز به سایر پاسخ‌ها منتشر شده باشد. سال گذشته، گوگل نسخه‌ای از مدل جمنای (Gemini) خود را منتشر کرد که تصویری از نازی‌های با تنوع نژادی ایجاد کرد و به نظر می‌رسید در ایجاد تصاویر از افراد سفیدپوست مقاومت می‌کرد. این نتیجه تلاش‌های خام آموزشی برای اجتناب از سوگیری‌های نژادپرستانه بود. ربات چت چینی DeepSeek، از پاسخ دادن به سوالات درباره میدان تیان‌آن‌من (Tiananmen Square) خودداری می‌کند؛ شاید گروک برای انجام عکس این کار برای نسل‌کشی ادعایی سفیدپوستان مهندسی شده بود.
روش‌های بیشتری برای دستکاری وجود دارد. شاید محققان گروک مستقیماً کد برنامه را تغییر داده باشند و اهمیت بیش از حد به موضوع «نسل‌کشی سفیدپوستان» داده باشند. سال گذشته، به عنوان یک حرکت نمایشی، آنتروپیک (Anthropic) به طور خلاصه مدل کلود (Claude) خود را تغییر داد تا به طور مداوم به پل گلدن گیت (Golden Gate Bridge) اشاره کند: اگر از ربات سوال می‌کردید که چگونه 10 دلار خرج کند، پیشنهاد می‌داد عوارض عبور از پل را پرداخت کنید. یا شاید به این دلیل که گروک اطلاعات را از پست‌های X به صورت لحظه‌ای دریافت می‌کند، محتوای نژادپرستانه‌ای که در سایت ماسک رونق دارد و او آن را در صفحه خود تبلیغ می‌کند، تأثیر قوی داشته باشد - از زمان تصاحب، گزارش شده است که ماسک این پلتفرم را منحرف کرده تا انواع محتوای راست‌گرایانه را تقویت کند.
مشکل دیروز، فعلاً، به نظر می‌رسد حل شده باشد. اما مسئله بزرگتر در همینجاست. پلتفرم‌های رسانه‌های اجتماعی در تاریکی عمل می‌کنند، و ماسک منبع اطلاعات نادرست است. ماسک، یا شخصی در xAI، توانایی تغییر یک مدل هوش مصنوعی بسیار قدرتمند را بدون ارائه هیچ اطلاعاتی در مورد نحوه انجام کار، یا هیچ الزامی برای پاسخگویی در صورت فاجعه‌بار بودن تغییر، دارد. اوایل امسال، هنگامی که گروک دیگر از ماسک یا دونالد ترامپ به عنوان بزرگترین منابع اطلاعات نادرست در X نام نبرد، یکی از بنیان‌گذاران xAI مشکل را ناشی از اقدام یک کارمند واحد بدون اجازه شرکت دانست. حتی اگر خود ماسک مستقیماً در فاجعه اخیر دخیل نبوده باشد، این تسلی کمی است. قبلاً تحقیقات نشان داده‌اند که ربات‌های چت مولد هوش مصنوعی می‌توانند به خصوص گفتگوکنندگان قانع‌کننده‌ای باشند. امکان بسیار ترسناک‌تر این است که xAI گروک را به شیوه‌هایی ظریف‌تر، موفق‌تر و موذیانه‌تر از پاسخ به سوالی درباره یک ویدئوی خوک با اشاره به «نسل‌کشی سفیدپوستان» دستکاری کرده باشد.
امروز صبح، کمتر از 24 ساعت پس از اینکه گروک تئوری «نسل‌کشی سفیدپوستان» را متوقف کرد، ماسک این علم را برداشت. او چندین پست در X به اشتراک گذاشت که نشان می‌داد تبعیض و خشونت گسترده‌ای آفریکانرها را هدف قرار داده است.
این مقاله برای گنجاندن اطلاعات جدید از xAI به‌روزرسانی شده است.