شرکت هوش مصنوعی ایلان ماسک، xAI، متن صدها هزار مکالمه بین چت‌بات گروک و کاربرانش را منتشر کرده است؛ در بسیاری از موارد بدون اطلاع یا اجازه آن کاربران.
هر بار که یک کاربر گروک روی دکمه «اشتراک‌گذاری» (share) یکی از چت‌های خود با ربات کلیک می‌کند، یک آدرس URL منحصربه‌فرد ایجاد می‌شود که به آن‌ها امکان می‌دهد مکالمه را از طریق ایمیل، پیامک یا سایر روش‌ها به اشتراک بگذارند. اما بدون اطلاع کاربران، این آدرس URL منحصربه‌فرد برای موتورهای جستجو مانند گوگل، بینگ و داک‌داک‌گو نیز در دسترس قرار می‌گیرد و آن‌ها را برای هر کسی در وب قابل جستجو می‌کند. به عبارت دیگر، در گروک ماسک، زدن دکمه اشتراک‌گذاری به این معنی است که یک مکالمه بدون هشدار یا سلب مسئولیت به کاربر، در وب‌سایت گروک منتشر خواهد شد.
امروز، جستجوی گوگل برای چت‌های گروک نشان می‌دهد که موتور جستجو بیش از ۳۷۰,۰۰۰ مکالمه کاربر با این ربات را فهرست‌بندی کرده است. صفحات به اشتراک گذاشته شده مکالمات بین کاربران گروک و مدل زبانی بزرگ (LLM) را فاش کردند که از وظایف ساده تجاری مانند نوشتن توییت گرفته تا تولید تصاویر یک حمله تروریستی ساختگی در کشمیر و تلاش برای هک یک کیف پول رمزنگاری را شامل می‌شود. فوربز مکالماتی را بررسی کرده است که در آن‌ها کاربران سؤالات صمیمی درباره پزشکی و روانشناسی پرسیده‌اند؛ برخی حتی نام، جزئیات شخصی و حداقل یک رمز عبور را که توسط یک کاربر گروک با ربات به اشتراک گذاشته شده بود، فاش کردند. فایل‌های تصویری، صفحات گسترده و برخی اسناد متنی آپلود شده توسط کاربران نیز از طریق صفحه اشتراکی گروک قابل دسترسی بودند.
در میان مکالمات فهرست‌بندی شده، برخی از آن‌ها توسط اندرو کلیفورد، روزنامه‌نگار بریتانیایی، آغاز شده بود که از گروک برای خلاصه‌کردن صفحات اول روزنامه‌ها و نوشتن توییت برای وب‌سایت خود Sentinel Current استفاده می‌کرد. کلیفورد به فوربز گفت که از این موضوع بی‌اطلاع بوده که کلیک بر روی دکمه اشتراک‌گذاری به معنای قابل کشف بودن درخواست او در گوگل خواهد بود. کلیفورد که اکنون به استفاده از هوش مصنوعی جمینای گوگل روی آورده است، گفت: «کمی ناراحت می‌شدم، اما هیچ چیز غیرمجازی در آنجا وجود نداشت.»
با این حال، همه مکالمات به سادگی مکالمات کلیفورد نبودند. برخی از آن‌ها صریح، متعصبانه و نقض‌کننده قوانین xAI بودند. این شرکت استفاده از ربات خود را برای «ترویج آسیب جدی به زندگی انسان» یا «توسعه تسلیحات بیولوژیکی، شیمیایی یا سلاح‌های کشتار جمعی» ممنوع کرده است، اما در مکالمات منتشر شده و به اشتراک گذاشته شده که به راحتی از طریق جستجوی گوگل یافت می‌شوند، گروک به کاربران دستورالعمل‌هایی در مورد نحوه ساخت مواد مخدر غیرقانونی مانند فنتانیل و مت‌آمفتامین، کدنویسی یک بدافزار خوداجرا و ساخت بمب و روش‌های خودکشی ارائه کرده است. گروک همچنین یک برنامه مفصل برای ترور ایلان ماسک ارائه داد. از طریق عملکرد «اشتراک‌گذاری»، دستورالعمل‌های غیرقانونی سپس در وب‌سایت گروک منتشر و توسط گوگل فهرست‌بندی شدند.
xAI تنها شرکت نوپای هوش مصنوعی نیست که مکالمات کاربران با چت‌بات‌های خود را منتشر کرده است. اوایل این ماه، کاربران چت‌جی‌پی‌تی (ChatGPT) اوپن‌ای‌آی (OpenAI) با نگرانی دریافتند که مکالماتشان در نتایج جستجوی گوگل ظاهر می‌شوند، هرچند کاربران انتخاب کرده بودند که آن مکالمات را «قابل کشف» برای دیگران کنند. اما پس از اعتراضات، این شرکت به سرعت سیاست خود را تغییر داد. دین استاکی، مدیر ارشد امنیت اطلاعات اوپن‌ای‌آی، در پستی در X این فهرست‌بندی را «یک آزمایش کوتاه‌مدت» خواند و گفت که به دلیل «ایجاد فرصت‌های زیاد برای کاربران جهت به اشتراک گذاشتن ناخواسته مطالبی که قصدش را نداشتند» متوقف خواهد شد.
پس از اینکه اوپن‌ای‌آی قابلیت اشتراک‌گذاری خود را متوقف کرد، ماسک پیروزی خود را جشن گرفت. حساب X گروک در آن زمان ادعا کرد که چنین قابلیت اشتراک‌گذاری ندارد، و ماسک در پاسخ توئیت کرد، «گروک برای پیروزی.» مشخص نیست که گروک چه زمانی قابلیت اشتراک‌گذاری را اضافه کرده است، اما کاربران X از ژانویه هشدار داده‌اند که مکالمات گروک توسط گوگل فهرست‌بندی می‌شوند.
برخی از مکالماتی که از گروک دستورالعمل‌هایی در مورد نحوه ساخت مواد مخدر و بمب می‌خواستند، احتمالاً توسط مهندسان امنیتی، تیم‌های قرمز (redteamers)، یا متخصصان اعتماد و ایمنی آغاز شده بودند. اما در حداقل چند مورد، تنظیمات اشتراک‌گذاری گروک حتی محققان حرفه‌ای هوش مصنوعی را نیز گمراه کرد.
ناتان لمبرت، دانشمند محاسباتی در موسسه هوش مصنوعی آلن، از گروک برای ایجاد خلاصه‌ای از پست‌های وبلاگ خود جهت اشتراک‌گذاری با تیمش استفاده کرد. او از اینکه از طریق فوربز مطلع شد که درخواست او به گروک و پاسخ هوش مصنوعی در گوگل فهرست‌بندی شده است، شوکه شد. این محقق ساکن سیاتل گفت: «من از اینکه چت‌های گروک که با تیمم به اشتراک گذاشته می‌شدند، به‌طور خودکار در گوگل فهرست‌بندی می‌شوند، با وجود عدم هشدار، به خصوص پس از جنجال اخیر با چت‌جی‌پی‌تی، متعجب شدم.»
گوگل به صاحبان وب‌سایت‌ها اجازه می‌دهد تا انتخاب کنند چه زمانی و چگونه محتوای آن‌ها برای جستجو فهرست‌بندی شود. ند آدریانس، سخنگوی گوگل در بیانیه‌ای گفت: «ناشران این صفحات کنترل کاملی بر روی اینکه آیا آن‌ها فهرست‌بندی شوند یا خیر، دارند.» خود گوگل قبلاً اجازه می‌داد که چت‌ها با چت‌بات هوش مصنوعی خود، بارد، فهرست‌بندی شوند، اما آن‌ها را در سال ۲۰۲۳ از نتایج جستجو حذف کرد. بیزینس اینسایدر گزارش داد که متا همچنان به اشتراک‌گذاری‌های خود اجازه می‌دهد تا توسط موتورهای جستجو قابل کشف باشند.
فرصت‌طلبان در حال مشاهده و استفاده از چت‌های منتشر شده گروک هستند. در لینکدین و انجمن BlackHatWorld، بازاریابان درباره ایجاد و اشتراک‌گذاری عمدی مکالمات با گروک برای افزایش برجستگی و شناخت برند کسب‌وکارها و محصولات خود در نتایج جستجوی گوگل بحث کرده‌اند. (مشخص نیست که این تلاش‌ها چقدر مؤثر خواهند بود.) ستیش کومار، مدیرعامل آژانس SEO Pyrite Technologies، به فوربز نشان داد که چگونه یک کسب‌وکار از گروک برای دستکاری نتایج جستجو برای شرکت‌هایی که پایان‌نامه دکترا می‌نویسند، استفاده کرده است.
او گفت: «هر چت به اشتراک گذاشته شده در گروک به طور کامل در گوگل قابل فهرست‌بندی و جستجو است. مردم فعالانه از تاکتیک‌هایی برای وارد کردن این صفحات به فهرست گوگل استفاده می‌کنند.»