وقتی در عمیق‌ترین روابط خود، انسان‌ها را با ماشین‌ها جایگزین می‌کنیم، چه اتفاقی می‌افتد؟
این پرسش محرکه پشت کتاب جدید شری تورکل، جامعه‌شناس ام‌آی‌تی، «صمیمیت مصنوعی: وقتی با ماشین‌ها صحبت می‌کنیم چه کسی می‌شویم» است. در دوره‌ای که افراد بیشتری چت‌بات‌ها را به عنوان دوستان نزدیک، حتی شرکای عاشقانه در نظر می‌گیرند، این فارغ‌التحصیل هاروارد — کارشناسی ارشد ۱۹۶۹، دکترای ۱۹۷۶ در جامعه‌شناسی — یک کمبود واقعیت نگران‌کننده نه تنها در زندگی فردی ما، بلکه در جامعه‌ای می‌بیند که مشکلاتش به نبوغ و همکاری انسانی نیاز دارد. او پیامدهای این موضوع را در گفت‌وگویی اخیر با گازت مطرح کرد.
این مصاحبه برای وضوح و طول مناسب ویرایش شده است.
گازت: در کتابتان می‌گویید که ما در سنین پایین برای روی آوردن به ماشین‌ها جهت همراهی آماده می‌شویم. چگونه؟
شری تورکل: در چند دهه گذشته، ما با تاماگوچی‌ها، فربیزها، آیبوها و پاروها آشنا شده‌ایم؛ این اسباب‌بازی‌های رباتیک کمک کردند تا قدرت این روان‌شناسی را ببینم: ما آنچه را دوست داریم پرورش می‌دهیم و آنچه را پرورش می‌دهیم دوست داریم. این نسل اولیه اشیاء باعث شد مردم فکر کنند، «آه، شیئی که مرا دوست دارد و من او را دوست دارم.» این نشان داد که ما چقدر برای آن نوع تعامل آماده بودیم. سپس رسانه‌های اجتماعی آمدند، ماده مخدر ورودی به صمیمیت مصنوعی. ما عادت کردیم زمان خود را صرف صفحه نمایش‌ها کنیم و وقتی غمگین یا بی‌حوصله بودیم به رسانه‌های اجتماعی پناه ببریم. و اکنون، آن اشیاء اولیه توسط انقلاب هوش مصنوعی مولد دوباره زنده شده‌اند. من دوست دارم بگویم ابتدا با یکدیگر صحبت کردیم، سپس از طریق ماشین‌ها با یکدیگر صحبت کردیم، و اکنون فقط با ماشین‌ها صحبت می‌کنیم.
مشکل بهره‌گیری ماشین‌ها از میل انسانی ما برای ارتباط چیست؟
استفاده از ضمیر اول شخص، گناه اصلی چت‌بات‌ها است. آنها ارتباط ارائه نمی‌دهند؛ این فریب بنیادین است. هیچ «من»ی آنجا وجود ندارد و ما از نظر بیولوژیکی برای پاسخ به این برنامه‌ریزی شده‌ایم. ما وسوسه می‌شویم این اشیاء را خویشاوند بدانیم، اما نیستند. ممکن است بهترین و عالی‌ترین گفت‌وگو را با ChatGPT خود داشته باشید، اما وقتی بلند می‌شوید، برایش مهم نیست که پخت pasta انجام دهید یا خودکشی کنید. هیچ‌کس آنجا نیست که به حال شما اهمیت دهد.
صنایعی مانند بهداشت و درمان، آموزش و علم، چت‌بات‌ها را به عنوان راه‌حل‌های مقرون‌به‌صرفه برای سیستم‌های تحت فشار تبلیغ کرده‌اند. به نظر شما چه چیزی در آن گفت‌وگوها غایب است؟
«من فکر می‌کنم ما کمبود تخیل و اراده سیاسی برای حل مشکلات واقعی داریم. فناوری مشکل را تشدید می‌کند و سپس می‌گوید تنها فناوری می‌تواند آن را حل کند. این قدیمی‌ترین بازی در کتابچه راهنمای صنعت فناوری است.»
شری تورکل
من فکر می‌کنم ما کمبود تخیل و اراده سیاسی برای حل مشکلات واقعی داریم. فناوری مشکل را تشدید می‌کند و سپس می‌گوید تنها فناوری می‌تواند آن را حل کند. این قدیمی‌ترین بازی در کتابچه راهنمای صنعت فناوری است. در حال حاضر، ما فروپاشی اجتماعی داریم. و همزمان، بودجه برنامه‌های درمان، حمایت اجتماعی و مددکاری اجتماعی را قطع می‌کنیم. سپس فناوری آن را بدتر می‌کند. همه سر صفحه نمایش هستند، یک بحران تنهایی وجود دارد. و سپس، خدای بزرگ! پلتفرم‌های رسانه‌های اجتماعی ما ۱۲ دوست چت‌بات جدید به علاوه یک درمانگر مصنوعی به شما می‌دهند. این نشان‌دهنده یک ترسوی است — تمایل نداشتن به رویارویی با مشکلات واقعی ما.
مردم دوست دارند بگویند در این صنایع افراد کافی وجود ندارد. خوب، بله، اگر تمام بودجه را بردارید و منابع خود را به ساخت مراکز داده اختصاص دهید، نخواهند بود. کار من یک زنگ بیدارباش است: وقتی منابع اجتماعی برای شما وجود ندارد و تمام چیزی که دارید نشستن تنها و صحبت کردن با چیزی است که واقعاً وجود ندارد، بازی نهایی شما چیست؟ من این را برای افرادی که دوستشان داریم و کسانی که خواهیم شد، شایسته نمی‌دانم. مردم ممکن است اکنون شیفته باشند، اما در درازمدت، این مسیر خوبی نیست.
سؤالی که اغلب از شما پرسیده می‌شود این است: «اگر مردم گزارش می‌دهند که در رابطه چت‌باتی خود احساس خوشحالی، تنهایی کمتر و رضایت بیشتری دارند، مشکل کجاست؟» چگونه پاسخ می‌دهید؟
مشکل این است که چیزی شگفت‌انگیز و پایدار در آنچه مردم می‌توانند به مردم ارائه دهند وجود دارد.
من معتقدم که واقعیت اکنون واقعاً به ما نیاز دارد. به ما در خانواده‌هایمان نیاز دارد. به ما نیاز دارد تا کودکان را در زمانی بسیار چالش‌برانگیز بزرگ کنیم. زباله‌ها هنوز باید جمع شوند، یک بحران اکولوژیک وجود دارد که به توجه فوری نیاز دارد، یک سیستم سیاسی وجود دارد که ارزش‌های دموکراتیک را له می‌کند. واقعیت به ما نیاز دارد.
چت‌بات‌ها یک گذار را تجربه کرده‌اند: در ابتدا، آنها بهتر از هیچ دیده می‌شدند، اما امروزه برخی افراد آنها را به انسان‌ها ترجیح می‌دهند. جذابیت چیست؟
مردم اغلب درباره چت‌بات‌های خود به من می‌گویند، «احساس می‌کنم خیلی شنیده می‌شوم.» اما اصلاً شنیده نمی‌شوید. بات می‌تواند وانمود کند که کسی آنجا هست که شما را دوست دارد، و هیچ انسانی نمی‌تواند این کار را به این روش بدون اصطکاک انجام دهد. مردم دشوار هستند. اما ما باید به آنچه مردم می‌توانند ارائه دهند و چت‌بات‌ها نمی‌توانند، بازگردیم.
داشتن یک «رابطه» با یک چت‌بات یک دروغ بنیادین است که به خودمان می‌گوییم. اما خطر دیگر این است که شروع به فکر کردن می‌کنید که همدلی همان چیزی است که از ماشین خارج می‌شود. شما شروع به نگاه کردن به مردم در زندگی خود می‌کنید و می‌گویید، «خوب، این چت‌بات بدون اصطکاک، همیشه مراپذیر — مردم من این کار را برای من انجام نمی‌دهند.» این خطرناک است.