با بهبود مستمر توانایی عوامل هوش مصنوعی برای انجام خودکار کارهای علمی، دانشمندان با سؤالی روبه‌رو شده‌اند که زمانی غیرقابل تصور بود: آیا من توسط یک ربات از پیش‌گامی خواهم افتاد؟
حداقل دو بار در پنج هفته گذشته، پژوهشگران گفته‌اند که مدت طولانی روی یک پرسش تحقیقاتی خاص کار کرده‌اند، اما متوجه شده‌اند که شرکت‌های هوش مصنوعی یا قبل از آنها پاسخ داده‌اند یا نتایج را پیش از آمادگی آنها برای انتشار اعلام کرده‌اند. در واکنش، پژوهشگرانی که نگرانند ابزارهای هوش مصنوعی ممکن است کارهای منتشر نشده آنها را استخراج کرده و از پیش‌گامی بیندازند، استفاده از چنین ابزارهایی را محدود کرده‌اند.
با این حال، برخی پژوهشگران هوش مصنوعی، اگرچه همه نه، می‌گویند که عوامل هوش مصنوعی احتمالاً بیشتر از قبل خواهند توانست پیش از دانشمندان به نتیجه برسند. جفری ایروینگ، دانشمند ارشد در سازمان پژوهشی ایمنی هوش مصنوعی Resolution در برکلی، کالیفرنیا، اظهار داشت: «پژوهشگران "از پیش‌گامی خواهند افتاد، اما نه به این دلیل که دست‌نوشته‌ای را آپلود کرده‌اند". "آنها از پیش‌گامی خواهند افتاد زیرا هوش‌های مصنوعی در حل مسائل بسیار خوب عمل می‌کنند و هر روز بهتر از دیروز خواهند شد."»
یافته‌های بحث‌برانگیز
در ۷ سپتامبر، تریستان باکمستر، ریاضیدان دانشگاه نیویورک در شهر نیویورک، آنلاین پستی گذاشت و اعلام کرد که او و همکارش در مسئله ناویه-استوکس، یک پرسش باز و قدیمی در دینامیک سیالات پیشرفت داشته‌اند. طبق بیانیه باکمستر، او و لوونت آلپوگه، ریاضیدان شرکت آنتروپیک مستقر در سان‌فرانسیسکو، کالیفرنیا، که همکاری‌شان پروژه‌ای شخصی بود، یک سال روی این مسئله کار کرده بودند. پست ۷ سپتامبر باکمستر همچنین شامل مقاله‌ای با راه‌حل نسخه ساده‌تر مسئله بود. روز بعد، ۸ سپتامبر، اوپن‌ای‌آی، که آن هم در سان‌فرانسیسکو مستقر است، اعلام کرد که عوامل آن معما را حل کرده‌اند؛ زمان‌بندی‌ای که باکمستر علناً آن را زیر سؤال برده است.
باکمستر این احتمال را مطرح کرد که اطلاعاتی که او و آلپوگه به ابزاری از اوپن‌ای‌آی آپلود کرده بودند، ممکن است برای آموزش مدل‌های شرکت استفاده شده باشد. اوپن‌ای‌آی این سناریو را رد کرد. شرکت در بیانیه‌ای گفت که تحقیقات تأیید کرده‌اند «درخواست‌های کاربردی» (prompts) باکمستر در دو ماه قبل از اعلام ۸ سپتامبر «هیچ تأثیری بر سیستم نداشته‌اند، از جمله از طریق فرآیند آموزش». بیانیه همچنین افزود که محققان و عوامل اوپن‌ای‌آی «تا پیش از انتشار عمومی کار [باکمستر و آلپوگه]، هیچ‌گونه دسترسی به آن از هیچ طریقی نداشته‌اند».
دو هفته بعد، آنتروپیک اعلام کرد که عوامل در حال اجرا روی مدل زبانی بزرگ (LLM) کلود آن کشف کرده‌اند که برخی ویروس‌ها دارای الگویی از قطعات تکراری DNA مشابه الگوی دیده شده در سیستم‌های ویرایش ژن کریسپر هستند. پس از این اعلام، ماریو رودریگز مستره، دانشجوی دکتری زیست‌شناسی محاسباتی در دانشگاه کپنهاگ، به نیویورک تایمز گفت که او سال‌هاست همان الگوهای DNA را مطالعه می‌کند، اغلب با استفاده از کلود، اما هنوز کارش را منتشر نکرده است. مستره همچنین این احتمال را مطرح کرد که اطلاعاتی که تیمش به ابزارهای آنتروپیک آپلود کرده، ممکن است در داده‌های آموزشی کلود گنجانده شده باشد. آنتروپیک به تایمز گفت که مدل آن «روی هیچ متن کاربری آموزش ندیده است».
فقدان اعتماد
علی‌رغم این اطمینان‌بخشی‌ها، برخی دانشمندان اکنون نحوه استفاده خود از هوش مصنوعی را بازنگری می‌کنند. ساندرلا لاورنتینو، متخصص اپی‌ژنتیک تولیدمثل در دانشگاه مونستر آلمان، می‌گوید دیگر به سیستم‌های هوش مصنوعی اعتماد ندارد. او اکنون فقط از هوش مصنوعی برای بررسی علت خطاهای کدش استفاده می‌کند و پیش از آن، تمام نام پارامترها و متغیرها را به برچسب‌های کلی مانند «گروه A ویژگی X دارد» تغییر می‌دهد تا از ارائه اطلاعات درباره آزمایش‌هایش به سیستم جلوگیری کند. او گفت: «من در مورد هوش مصنوعی بسیار محتاط هستم»، اما جنجال اخیر «مرا حتی بدبین‌تر کرده است».
کشفیات هوش مصنوعی همچنین باعث شده ساموئل مهر، دانشمند علوم شناختی شنوایی در دانشگاه اوکلند نیوزیلند، نسبت به استفاده از مدل‌های تجاری هوش مصنوعی بیش از پیش مردد شود. او سیاستی برای استفاده از هوش مصنوعی در آزمایشگاهش تدوین کرده که به دانشجویان اجازه آپلود اطلاعات محرمانه به مدل‌های زبانی بزرگ تجاری را نمی‌دهد و هشدار می‌دهد که از این مدل‌ها برای هیچ بخشی از فرآیند پژوهش استفاده نکنند. او اظهار داشت: «فکر می‌کنم بسیار پرخطر است که مالکیت فکری خود را به اشخاص ثالث بسپارید وقتی نمی‌دانید قرار است با آن چه کنند.»