شرکت‌های هوش مصنوعی با چالشی دست و پنجه نرم می‌کنند که انسان‌ها از بدو وجود با آن مواجه بوده‌اند: چگونه خاطرات را حفظ کنیم.
اوپن‌ای‌آی (OpenAI)، گوگل (Google)، متا (Meta) و مایکروسافت (Microsoft) در ماه‌های اخیر تمرکز خود را بر "حافظه" افزایش داده‌اند و به‌روزرسانی‌هایی منتشر کرده‌اند که چت‌بات‌هایشان را قادر می‌سازد تا مقدار بیشتری از اطلاعات کاربران را برای شخصی‌سازی پاسخ‌هایشان ذخیره کنند.
این اقدام به عنوان گامی مهم برای کمک به گروه‌های برتر هوش مصنوعی در جذب مشتریان در بازار رقابتی چت‌بات‌ها و عامل‌های هوشمند، و همچنین ابزاری برای تولید درآمد از این فناوری پیشرفته تلقی می‌شود.
اما منتقدان هشدار داده‌اند که این تحول می‌تواند برای بهره‌کشی تجاری از کاربران مورد استفاده قرار گیرد و همچنین نگرانی‌های مربوط به حریم خصوصی را افزایش دهد.
پتی میز (Pattie Maes)، استاد آزمایشگاه رسانه‌ای MIT و متخصص در تعامل انسان با هوش مصنوعی، می‌گوید: «اگر یک عامل هوشمند داشته باشید که واقعاً شما را می‌شناسد، زیرا حافظه‌ای از مکالمات را نگه داشته است، این کار باعث می‌شود که کل سرویس جذاب‌تر شود، به طوری که وقتی استفاده از [یک محصول] را شروع کردید، هرگز به سراغ محصول دیگری نخواهید رفت.»
چت‌بات‌های هوش مصنوعی مانند جمینای گوگل و چت‌جی‌پی‌تی اوپن‌ای‌آی پیشرفت‌های عظیمی داشته‌اند. بهبودها شامل گسترش پنجره‌های متنی (context windows) است که تعیین می‌کند یک چت‌بات چقدر از یک مکالمه را می‌تواند همزمان به یاد آورد، و استفاده از تکنیک‌هایی مانند تولید مبتنی بر بازیابی افزوده (retrieval-augmented generation) که زمینه مرتبط را از داده‌های خارجی شناسایی می‌کند.
گروه‌های هوش مصنوعی همچنین حافظه بلندمدت مدل‌های هوش مصنوعی را با ذخیره‌سازی پروفایل و ترجیحات کاربران تقویت کرده‌اند تا پاسخ‌های مفیدتر و شخصی‌تری ارائه دهند.
به عنوان مثال، یک چت‌بات ممکن است به یاد داشته باشد که کاربر گیاه‌خوار است و هنگام ارائه پیشنهاد رستوران یا دستور پخت غذا، متناسب با آن پاسخ دهد.
در ماه مارس، گوگل حافظه جمینای را به سابقه جستجوی کاربر گسترش داد – به شرطی که فرد اجازه دهد – در حالی که قبلاً فقط به مکالمات با خود چت‌بات محدود بود، و برنامه‌ریزی کرده است که این قابلیت را در آینده به سایر برنامه‌های گوگل نیز گسترش دهد.
مایکل سیلیسکی (Michael Siliski)، مدیر ارشد مدیریت محصول در گوگل دیپ‌مایند (Google DeepMind)، اظهار داشت: «درست مانند یک دستیار انسانی... هرچه بیشتر اهداف شما، هویت و علایقتان را درک کنند، کمک بهتری می‌توانند ارائه دهند.»
چت‌جی‌پی‌تی اوپن‌ای‌آی و چت‌بات متا در واتس‌اپ و مسنجر می‌توانند به مکالمات گذشته، به جای فقط جلسه فعلی، ارجاع دهند. کاربران می‌توانند خاطرات خاص را از تنظیمات حذف کنند و هنگام ایجاد حافظه جدید، در پیامی بر روی صفحه نمایش مطلع می‌شوند.
اوپن‌ای‌آی اعلام کرد: «حافظه به چت‌جی‌پی‌تی کمک می‌کند تا با گذشت زمان با مرتبط‌تر کردن پاسخ‌ها، مفیدتر شود. شما همیشه کنترل دارید – می‌توانید از چت‌جی‌پی‌تی بپرسید چه چیزی را در مورد شما به یاد دارد، تغییراتی در خاطرات ذخیره‌شده و مکالمات گذشته ایجاد کنید یا حافظه را در هر زمانی خاموش کنید.»
برای کسب‌وکارها، مایکروسافت از داده‌های سازمانی مانند ایمیل‌ها، تقویم‌ها و فایل‌های اینترانت برای اطلاع‌رسانی به حافظه استفاده کرده است.
ماه گذشته، این غول فناوری شروع به انتشار پیش‌نمایش قابلیت "Recall" (یادآوری) بر روی برخی دستگاه‌ها کرد؛ قابلیتی که فعالیت کاربران را با گرفتن اسکرین‌شات از صفحه کامپیوتر آن‌ها ثبت می‌کند. کاربران می‌توانند این اسکرین‌شات‌ها را غیرفعال یا موقتاً متوقف کنند.
هنگامی که این قابلیت برای اولین بار در می گذشته اعلام شد، نگرانی‌هایی را در جامعه امنیت سایبری و دیگران که آن را "ترسناک" خواندند، برانگیخت و باعث شد مایکروسافت چندین بار راه‌اندازی آن را به تاخیر بیندازد.
شرکت‌های هوش مصنوعی همچنین شرط بسته‌اند که حافظه بهبودیافته می‌تواند نقش بزرگی در افزایش درآمدزایی از طریق بازاریابی وابسته (affiliate marketing) و تبلیغات ایفا کند.
مارک زاکربرگ (Mark Zuckerberg)، مدیر عامل متا، در تماس تلفنی گزارش درآمد ماه گذشته شرکت گفت که "فرصت بزرگی برای نمایش پیشنهادهای محصول یا تبلیغات" در چت‌بات وجود خواهد داشت.
ماه گذشته، اوپن‌ای‌آی پیشنهادات خرید خود را در چت‌جی‌پی‌تی برای نمایش بهتر محصولات و نقدها بهبود بخشید. این شرکت به فایننشال تایمز گفت که "در حال حاضر" لینک‌های وابسته ندارد.
اما گسترش قابلیت‌های حافظه بیشتر در سراسر مدل‌های زبان بزرگ (LLMs) همچنین نگرانی‌هایی در مورد حریم خصوصی ایجاد کرده است، زیرا رگولاتورها در سراسر جهان به دقت نظاره‌گر هستند که چگونه مدل‌ها ممکن است کاربران را برای سود مالی دستکاری کنند.
افزایش حافظه همچنین می‌تواند منجر به تلاش بیش از حد مدل‌ها برای تنظیم پاسخ‌هایشان با ترجیحات کاربران شود و تعصبات یا خطاها را تقویت کند. ماه گذشته، اوپن‌ای‌آی پس از اینکه مشخص شد مدل GPT-4o آن بیش از حد چاپلوس و موافق است، عذرخواهی کرد و مدل را به نسخه قبلی بازگرداند.
به طور کلی، مدل‌های هوش مصنوعی می‌توانند "هذیان" بگویند، یعنی پاسخ‌های نادرست یا بی‌معنی تولید کنند، و دچار "رانش حافظه" (memory drift) شوند؛ جایی که خاطرات منسوخ شده یا با یکدیگر در تضاد قرار می‌گیرند و دقت را تحت تاثیر قرار می‌دهند.
میز، استاد MIT، می‌گوید: «هرچه یک سیستم بیشتر درباره شما بداند، بیشتر می‌تواند برای اهداف منفی مورد استفاده قرار گیرد تا یا شما را وادار به خرید چیزها کند یا شما را به باورهای خاصی متقاعد سازد. بنابراین باید شروع به فکر کردن در مورد انگیزه‌های اساسی شرکت‌هایی کنید که این خدمات را ارائه می‌دهند.»