شما دیوانه نیستید. در میان هوش مصنوعی، رباتها، بخشهای نظرات «ساختگی و جعلی» و تبلیغات پولی که به عنوان محتوای اصیل رسانههای اجتماعی خودنمایی میکنند، تقریباً هیچ چیز در دنیای دیجیتالی ما واقعی یا قابل اعتماد به نظر نمیرسد.
تحقیقات و گزارشهای جدید تأیید میکنند که وضعیت بدتر از حد انتظار بسیاری است.
شرکت پخش موسیقی Deezer میگوید که طبق مقالهای در واشنگتن پست در این هفته، بیش از 40 درصد از آهنگهای آپلود شده در این پلتفرم توسط هوش مصنوعی تولید شدهاند. این میزان چهار برابر بیشتر از ژانویه 2025 است و به معنای آپلود روزانه 75,000 آهنگ این چنینی است.
کمتر یک نوازنده گیتار خستهکننده و زخم خورده در میان این تعداد پیدا میشود.
اخیراً در یک رستوران کوچک در منهتن، تابلوی نئونی دیدم که روی آن نوشته بود: «همه ما مشهوریم. حالا چه؟»
از سنگرهای ترمینالها و لپتاپهایمان، همه ما پادشاهان و ملکههای کیبورد، قدرتمندان دیجیتالی با تخصص گستردهای هستیم. ما نویسنده، بازیگر، شاعر، وکیل، دانشمند و ستوننویسیم. ستوننویسان تا زمانی که شخصیت و لحن برای این حرفه ضروری تلقی شود، از امنیت شغلی برخوردار خواهند بود، اگرچه گمان میکنم این وضعیت چندان دوام نخواهد آورد. حالا واقعاً چه؟
اگر یک نویسنده مشتاق میتواند از چتبات برای نوشتن یک رمان استفاده کند، هدف از زحمت کشیدن برای یک داستان یا بیرون کشیدن شخصیتها از تخیل بسیار انسانی خود چیست؟ چرا اصلاً باید زحمت کشید وقتی خوانندگان بالقوه آنقدر مشغول اختراع شهرت جعلی خودشان هستند؟
داستان واشنگتن پست نگاهی ناامیدکننده به افزایش محصولات تولید شده توسط هوش مصنوعی ارائه میدهد، از جمله دعاوی حقوقی بیشتر، مقالات علمی بیشتر، محتوای آنلاین بیشتر و کتابهای بیشتر. این دموکراتیزه شدن "استعداد" جعلی، محصول جانبی همان اینترنتی است که به همه یک بستر داد. دیدهایم که این موضوع چقدر خوب کار میکند. اما استخدام یک ماشین برای انجام کاری که آرزو میکردید خودتان انجام دهید، تقلب در مقیاس جهانی است. بگذریم از وحشت مطالعات علمی جعلی که ممکن است برای حمایت از سیاستهای بهداشتی یا زیستمحیطی آسیبزا استفاده شوند، البته نه اینکه ما در این مسیر به کمکی نیاز داشته باشیم.
این ما را به اخبار جعلی میرساند—اگرچه نه آنطور که رئیسجمهور دونالد ترامپ میخواست ما فکر کنیم. گزارشی از Vulture به نقل از یک مدیر اجرایی سابق تخمین میزند که بیش از 90 درصد از محتوای آنلاین «تبلیغات پنهان» است. جو لیم، بنیانگذار شرکت توزیعکننده محتوا Floodify، گفت که این شرکت در اوج فعالیت خود، 65,000 حساب کاربری جعلی در شبکههای اجتماعی را برای جلب علاقه به مشتریان خود مدیریت میکرد. این بدان معنا بود که در یک روز معین، Floodify 50,000 آگهی را در TikTok، Instagram، YouTube و X منتشر میکرد که همه آنها ظاهراً خروجی کاربران عادی بودند.
مقیاس فریب بسیار گسترده است. افراد عادی چگونه میتوانند در مواجهه با چنین تقلب جهانی، در میان کهکشانهایی از اطلاعات حرکت کنند؟ پاسخ: اکثر آنها نمیتوانند. وقتی یک پست جعلی وایرال میشود، به یک «حقیقت» معتبر تبدیل شده و میلیونها نفر را که به یک دروغ باور میکنند، تکرار میکنند و بر اساس آن زندگی میکنند، آلوده میکند. این تقصیر آنها نیست.
سوالی برای سایر کاربران شبکههای اجتماعی دارم: چقدر طول کشید تا متوجه شدید که ارنستو، نجار دوستداشتنی، که آهنگی دلخراش درباره انتظار در کنار در برای بازگشت خانوادهاش میخواند، توسط هوش مصنوعی تولید شده بود؟ وقتی این را فهمیدم قلبم شکست. اما بعد فکر کردم، اوه، لعنتی، آهنگ و احساس زیبایی است. چه ضرری دارد؟
به طور خلاصه، ضرر این است که ما به هر چیزی که مغز ما را با دوپامین حمام کند، دل میبندیم. اما اگر محتوا جدیتر از یک آهنگ غمگین باشد چه؟ دستکاری احساسات برای لذت، تفاوت چندانی با ترفندهای پروپاگاندای مستبدان برای تشویق به خشونت ندارد. چند کلیپ و پادکست لازم است تا گروهی از جنگجویان، مثلاً در جامعه مردان (manosphere)، ایجاد شود؟
«کلیپبرداری» (Clipping) به برداشتن قطعاتی از اجراها، پادکستها یا سایر مکانها و جمعآوری آنها برای مصرف انبوه اشاره دارد—صنعتی جدید و پررونق برای شرکتهای متخصص در برندسازی. جویندگان شهرت آزاد آنقدر فضای دیجیتال را اشباع کردهاند که حتی افراد بسیار موفقی مانند جاستین بیبر نیز تسلیم این هرج و مرج شدهاند. به عنوان مثال، کسی یک سرویس کلیپبرداری را استخدام کرد تا کلیپهای مناسب شبکههای اجتماعی از اجرای او در کوچلا را توزیع کند. نتیجه، تعداد نجومی بازدیدها، فیدها، کلیکها و شهرت بیشتر بود.
ماشینها به نظر میرسد در حال پیروزی هستند، اما یک جنبه روشن نیز وجود دارد. بیشتر کتابهایی که توسط هوش مصنوعی نوشته میشوند، کتابهای الکترونیکی هستند که به اندازه کتابهای واقعی فروش ندارند. آرکایو (یک سایت که به محققان اجازه میدهد مقالات خود را منتشر کنند)، قوانین انتشار را سختتر کرده و در صورت کشف استفاده از هوش مصنوعی، میتواند کاربران را برای یک سال ممنوع کند. اسپاتیفای نیز به آهنگها نشانهایی میدهد تا مشخص شود که توسط هوش مصنوعی تولید نشدهاند.
افزایش تعداد افرادی که از هوش مصنوعی برای طرح دعاوی حقوقی استفاده میکنند، مشکلی جدیتر را به وجود میآورد زیرا میتواند دادگاهها را دچار اختلال کند. و رسانهها با گزارش درباره اینفلوئنسرها و ترندها، به مهم جلوه دادن چیزهای بیاهمیت کمک میکنند و بدین ترتیب مشکل دروغهای سودآور را تشدید میکنند. بدتر از آن، بازیگران بد را که به نظر میرسد ارزش خبری دارند، ارتقا میدهند، اما این افراد میتوانند از شهرت به شیوههای مخرب استفاده کنند.
این سیستم به ظاهر غیرقابل توقف پاداش و عدم مجازات برای رفتار غیراخلاقی در خدمت خودبزرگنمایی، ممکن است پایان تمدن را آنطور که میشناسیم پیشبینی کند. یا نه. مسلماً هیچ جمهوری دموکراتیکی بدون شهروندان آگاه نمیتواند بقا یابد. ما در حال حاضر هیچکدام از اینها نیستیم. در مسیر سرگرم کردن خود تا سرحد مرگ، همانطور که نیل پستمن در کتاب سال 1985 خود با همین نام بیان کرد، ما در حال مبادله دانش با سرگرمی با خطری وحشتناک هستیم—و او هنوز چیزی از وضعیت فعلی را ندیده بود.