«توجه خنثی نیست،» آنتون باربا-کای (Antón Barba-Kay)، فیلسوف دانشگاه کالیفرنیا، سن دیگو (University of California, San Diego)، در کتابش «تار عنکبوت خودساخته ما: ماهیت شکلگیری دیجیتال» (A Web of Our Own Making: The Nature of Digital Formation) مینویسد: «این عملی است که با آن به چیزها معنا میبخشیم و از طریق آن کشف میکنیم که آنها معنادار هستند؛ عملی که از طریق آن حقایق را به دغدغهها پیوند میدهیم.» وقتی کنترل توجه خود را واگذار میکنیم، چیزی فراتر از آنچه در حال حاضر به آن نگاه میکنیم را واگذار کردهایم. ما تا حدی کنترل آنچه فردا به آن اهمیت خواهیم داد را نیز واگذار میکنیم.
سیاستهای توجه به این دلیل در ذهن من است که یک پرونده قضایی اخیر، نیاز به توصیف دقیق آنچه در زندگی دیجیتالی ما اشتباه پیش رفته است را برجستهتر کرده است. در سال ۲۰۲۰، کمیسیون تجارت فدرال (Federal Trade Commission - F.T.C.) از شرکت متا (Meta) به دلیل ایجاد انحصار غیرقانونی در بازار شبکههای اجتماعی شخصی شکایت کرد. ماه گذشته، دادگاه فدرال منطقهای در واشنگتن به نفع متا حکم داد.
F.T.C. استدلال کرد که بازار جداگانهای برای شبکههای اجتماعی شخصی وجود دارد که تنها رقبای آن فیسبوک (Facebook)، اینستاگرام (Instagram)، اسنپچت (Snapchat) و اپلیکیشنی به نام میو (MeWe) هستند که من هرگز نام آن را نشنیدهام. پاسخ متا ساده بود: این شرکت با تیکتاک (TikTok) و یوتیوب (YouTube) و دیگران نیز رقابت میکند. شاید در ابتدا به عنوان یک شبکه اجتماعی آغاز به کار کرده باشد، اما امروز چیزی کاملاً متفاوت است. تنها ۱۷ درصد از زمان صرف شده در فیسبوک به تماشای محتوای دوستان اختصاص دارد. در اینستاگرام، این میزان ۷ درصد است.
این حکم شامل تصاویری است که نشان میدهد چگونه همه این اپلیکیشنها شبیه یکدیگر شدهاند: «ریلز» (Reels) در اینستاگرام و فیسبوک تقریباً از «شورتس» (Shorts) در یوتیوب یا ویدیوهای تیکتاک قابل تشخیص نیستند. من میتوانم محصولات متا را ببینم و تشخیص دهم که آنها به سرعت به نوآوریهای رقبای خود واکنش نشان دادهاند. این باعث شده است که علاقه من به اپلیکیشنهای متا کمتر شود، اما نمیتوانم انکار کنم که وقتی آنها را باز میکنم، احتمال بیشتری دارد که در یک حفره پیمایشی بیفتم که نیاز دارم خودم را از آن بیرون بکشم. به نظر من، رقابت باعث شده است این اپلیکیشنها در رسیدن به هدف شرکتی خود بهتر عمل کنند و برای شکوفایی انسانی بدتر باشند.
دادگاه مینویسد: «هدف متا این است که کاربران تا حد ممکن در اپلیکیشنهایش وقت بگذرانند و الگوریتمهای خود را طوری تنظیم میکند که محتوایی را به کاربران نشان دهد که بیشترین تمایل را به دیدن آن دارند.» من فکر میکنم این یک تعبیر سخاوتمندانه است. آنچه متا به من نشان میدهد، آن چیزی است که متا بیش از همه میخواهد من ببینم، یعنی هر چیزی که مدلهای پیشبینی آنها باور دارند مرا وادار میکند تا حد ممکن در اپلیکیشنهایشان وقت بگذرانم. الگوریتمها در خدمت اهداف شرکت هستند، نه اهداف من.
اگر متا میخواست بداند من چه چیزی میخواهم ببینم، میتوانست از من بپرسد. فناوریای که به کاربران اجازه میدهد توصیههای خود را شکل دهند، مدتهاست وجود دارد. این شرکتها به ما کنترلی بر آنچه میبینیم نمیدهند، زیرا نمیخواهند ما آن را داشته باشیم. آنها نمیخواهند مقید به کسی باشند که ما فردا میخواهیم باشیم.
توجه گاهی یک عمل است. اما ابتدا یک غریزه است. به همین دلیل حتی ابتداییترین تلاش برای ذهنآگاهی – تماشای ۱۰ نفس کشیدن بدون اینکه توجه شما منحرف شود – به چنین تمرکزی نیاز دارد. شرکتهای رسانههای الگوریتمی از تفاوت بین غرایز و آرزوهای توجه ما سوءاستفاده میکنند. با این کار، آنها برای ما دشوارتر میکنند که به کسی تبدیل شویم که ممکن است آرزویش را داشته باشیم.
دیدن این شرکتها به عنوان کسانی که به دنبال نوعی کنترل بر توجه ما هستند، به نظر من، ناکارآمدی قانون ضد انحصار را برای این وظیفه خاص آشکار میکند. هدف سیاست ضد انحصار معمولاً افزایش رقابت در بازار، و آزادسازی شور و نبوغ کارآفرینی با کاهش موانع ورود است. اما آیا رقابت شدیدتر برای توجه من، یا توجه فرزندانم، مطلوب است؟
بازارهای بسیاری وجود دارند، از بستهبندی گوشت گرفته تا بیمارستانها، که در آنها تمرکز شرکتها رقابت را خفه میکند، قیمتها را افزایش میدهد و نوآوری را کند میکند. اما انواع زیادی از محصولات نیز وجود دارند که نوآوری بیشتر میتواند به تخریب بیشتر منجر شود. آیا به ویپهایی (vapes) نیاز داریم که اجباراً بیشتر قابل استفاده باشند؟ آیا خوب است که شرکتهای قمار آنلاین این همه پول صرف بازاریابی جذاب برای یافتن کاربران جدید میکنند؟ آیا واقعاً میخواهیم شرکتهای هوش مصنوعی (A.I.) برای ساخت اعتیادآورترین رباتهای پورنو با هم رقابت کنند؟ به نظر من، سؤال این است که تحت چه شرایطی رسانههای الگوریتمی به چنین محصولی تبدیل میشوند.
مکس رید (Max Read)، منتقد فناوری، مقالهای روشنگرانه در خبرنامه ساباستک (Substack) خود نوشت و استدلال کرد که ایدههایی که من در اینجا مطرح میکنم بهتر است به عنوان یک جنبش میانهروی مدرن درک شوند: «قرار دادن ظهور شبکههای اجتماعی و غولهای پلتفرمی به عنوان چیزی بین یک هشدار بهداشت عمومی و یک تهدید معنوی، به جای (صرفاً) یک مشکل اقتصاد سیاسی یا طراحی بازار.» او ادامه میدهد که این رویکرد، «قطعاً پوپولیستی نیست... بلکه به معنای اصیل کلمه، پیشرو (progressive) است؛ یک ایدئولوژی اصلاحی ریشهدار در نگرانیهای طبقه متوسط برای رفاه عمومی جامعه در پی تغییرات فناورانه گسترده.»
من فکر میکنم در همه اینها حقیقتی وجود دارد. تأثیرات تیکتاک بر کیف پول ما کمتر از تأثیر آن بر روح ما اهمیت دارد. اما من در اینجا تقسیمبندی را بین پوپولیستها و پیشروها – گروههایی که به هر حال همپوشانی قابل توجهی دارند – نمیبینم. F.T.C. پرونده متا را باخت زیرا در مأموریت و ابزارهایش محدود است، اما حداقل سعی میکرد کاری در مورد قدرتی که این پلتفرمها بر جامعه ما اعمال میکنند انجام دهد. دیگران کجا بودند؟
تقسیمبندی که من در اینجا میبینم، بین پیشروگرایی (progressivism) و لیبرالیسم (liberalism) است، آنطور که اکنون میفهمیم. لیبرالیسم مدرن بر این ایده بنا شده است که دولت باید امکان دستیابی به شادی را برای مردم فراهم کند، آنگونه که خودشان صلاح میدانند، مادامی که به دیگران آسیبی نمیرسانند. این دیدگاه درباره حقوق فردی بسیار سخن میگوید و درباره خیر عمومی – یا حتی فردی – کمتر سخن میگوید.
لیبرالیسم، در هسته خود، اعتمادی به این دارد که آزمایشهای اجتماعی به اشکال بهتری از سازماندهی اجتماعی منجر خواهد شد. این امر آن را – و ما را – از قید و بند سنتهای سرکوبگر رها کرده است. اما زمانی که بزرگسالان آزادانه تصمیماتی میگیرند که به دیگران آسیبی نمیرساند اما شاید به خودشان آسیب بزند، میتواند گیجکننده باشد. و این وضعیت خلأئی ایجاد کرده است که شرکتهای رسانههای الگوریتمی با قدرت از آن عبور کردهاند: آنها میگویند: «ما فقط به مردم آنچه میخواهند میدهیم. شما کی هستید که درباره خواستههای آنها قضاوت کنید؟»
پاسخ دادن به این سؤال آسان نیست.
مایکل سندل (Michael Sandel)، فیلسوف سیاسی دانشگاه هاروارد (Harvard)، در کتاب خود «نارضایتی دموکراسی» (Democracy’s Discontent)، استدلال میکند که تاریخ آمریکا بین دو فلسفه عمومی رقیب تقسیم شده است. یکی، رویکرد آمریکایی لیبرالیسم است که او آن را تا حد زیادی همانطور که من توصیف کردم، شرح میدهد و در دهههای اخیر غالب بوده است. و دیگری، «جمهوریخواهی» (republicanism) است که بر «یک سیاست سازنده، سیاستی که در شهروندان ویژگیهای شخصیتی لازم برای خودگردانی را پرورش میدهد» متکی است.
این، به نظر من، بیش از هر چیز دیگری به درک من از مشکل دنیای دیجیتال که بسیاری از وجود ما و بخش عمدهای از جامعهمان اکنون در آن شکل گرفته است، نزدیک است. حدود نیمی از نوجوانان میگویند «تقریباً دائماً» آنلاین هستند. تعداد زیادی میگویند که این پلتفرمهای الگوریتمی برای همسالانشان بد است (اگرچه تعداد کمتری میگویند که برای خودشان بد است). حدود دو سوم بزرگسالان میگویند که شبکههای اجتماعی برای کشور بد بوده است. وقتی توجه ما برای ساعتها در روز توسط الگوریتمهای جعبهسیاه که نه آنچه را میخواهیم، بلکه آنچه را به سختی میتوانیم از آن چشم برداریم به ما میدهند، نگه داشته میشود، به نوعی ما در حال دگرگونی (deformed) هستیم.
اما احساس اینکه محیط دیجیتالی کنونی به بسیاری از کاربرانش آسیب میرساند، با دانستن اینکه چه چیزی بهتر خواهد بود یا دولت باید در این باره چه کاری انجام دهد، فاصله زیادی ندارد. هرچقدر که ایده بازگرداندن مفاهیم شکوفایی انسانی به مرکز سیاستمان مرا جذب میکند، وقتی تاریخ جنبشهایی را که سعی در انجام این کار داشتهاند میخوانم، احساس دلزدگی میکنم.
سندل به باور دیرینه در زندگی آمریکایی اشاره میکند که کشاورزان خردهپا و صاحبان کسبوکارهای کوچک، شهروندان با فضیلتتری نسبت به کارگران کارخانه بودند. من فکر نمیکنم این درست باشد، و این نشان میدهد که بسیاری اکنون آرزوی ماهیت پایدار و اجتماعی مشاغل تولیدی گذشته را دارند. جنبش ترقیخواهی (Progressive movement) پیروزیهای زیادی کسب کرد، اما بخش زیادی از تاریخ آن – از پذیرش جمجمهخوانی (phrenology) و اصلاح نژاد (eugenics) تا مجبور کردن کودکان بومی آمریکا به مدارس شبانهروزی – منزجرکننده است. گذشته تسلیبخش کمی برای کسانی که ادعا میکنند میدانند چگونه شخصیت دیگران را کامل یا حتی بهبود بخشند، ارائه میدهد.
اما به نظر من، طرح کلی یک برنامه – یا حداقل ایدههایی که ارزش بحث و امتحان دارند – با وضوح بیشتری در حال آشکار شدن است. بیشتر آن حول دو ایده میچرخد: اول، کودکان باید بیشتر از همهگیری وسوسههای دیجیتالی محافظت شوند. دوم، شرکتهایی که میخواهند این همه توجه انسانی را شکل دهند، باید مسئولیت و تعهد بیشتری در قبال آنچه ممکن است اشتباه پیش رود، بپذیرند.
ایالتهای سراسر کشور استفاده از تلفن همراه را در مدارس دولتی ممنوع میکنند. تعدادی از ایالتها احراز هویت سنی را برای سایتهای پورنو اجباری کردهاند و پورنهاب (Pornhub) به جای تبعیت، به سادگی دسترسی را در آن ایالتها مسدود کرد. سناتورهای برایان شاتز (Brian Schatz)، دموکرات هاوایی (Hawaii)، و تد کروز (Ted Cruz)، جمهوریخواه تگزاس (Texas)، از جمله حامیان قانون «کودکان از شبکههای اجتماعی دور» (Kids Off Social Media Act) بودند که شرکتهای شبکههای اجتماعی را از ارائه حساب کاربری به کودکان زیر ۱۳ سال و از ارائه توصیههای الگوریتمی به کودکان زیر ۱۷ سال منع میکند.
نماینده جیک آوچینکلوس (Jake Auchincloss)، دموکرات ماساچوست (Massachusetts)، اخیراً مجموعهای از لوایح را معرفی کرد که به نظر من امیدبخش هستند: «قانون مسئولیت دیپفیک» (Deepfake Liability Act) مصونیت این پلتفرمها را از دعاوی قضایی، به تلاشهای آنها برای مقابله با پورن دیپفیک و تعقیب سایبری (cyberstalking) مشروط میکند؛ «قانون آموزش به جای پیمایش بیپایان» (Education Not Endless Scrolling Act) یک مالیات ۵۰ درصدی بر درآمد تبلیغات دیجیتالی بیش از ۲.۵ میلیارد دلار وضع میکند؛ و «قانون والدین بر پلتفرمها» (Parents Over Platforms Act) احراز هویت سنی را تقویت میکند.
جوئل ورتهایمر (Joel Wertheimer)، وکیل شاکی، در مقالهای برای «آرگومنت» (The Argument)، بازنگری در بخش ۲۳۰ (Section 230) – قانونی که به پلتفرمهای دیجیتال در برابر دعاوی قضایی مربوط به محتوای تولید شده توسط کاربر مصونیت میدهد – را پیشنهاد میکند. او مینویسد: «به طور خاص، قانونگذاران باید حمایتها را برای پلتفرمهایی که فعالانه محتوا را با استفاده از الگوریتمهای توصیه مبتنی بر یادگیری تقویتی ترویج میکنند، حذف کنند.» ایده او مرا مجذوب میکند زیرا این ایده به اینترنت قدیمی آسیبی نمیرساند، در حالی که سطح بالاتری از پاسخگویی را از شرکتهایی که میخواهند از الگوریتمهایی که ما آنها را درک یا کنترل نمیکنیم برای شکل دادن به آنچه میبینیم استفاده کنند، مطالبه میکند.
اما آیا هیچ یک از این لوایح تصویب خواهد شد؟ و حتی اگر تصویب شوند، آیا همه اینها صرفاً جنگیدن برای نبرد گذشته نیست؟ همانطور که شبکههای اجتماعی به فیدهای الگوریتمی تبدیل شدند، اکنون سیستمهای هوش مصنوعی شخصیسازیشده دوباره زندگی دیجیتالی ما را زیر و رو میکنند. الگوریتمهایی که متا برای ارائه ویدیوهای آنلاین استفاده میکند، تنها یک ایستگاه استراحت در مسیر چتباتهای هوش مصنوعی بودند که به عنوان دستیار، معلم، مشاور، معشوق و دوست به زندگی ما وارد میشوند.
مارک زاکربرگ (Mark Zuckerberg)، مدیرعامل متا، گفته است: «میانگین آمریکاییها کمتر از سه دوست دارند، کمتر از سه نفری که آنها را دوست به حساب آورند.» «و میانگین مردم به طور معنیداری به دوستان بیشتری نیاز دارند. فکر میکنم چیزی حدود ۱۵ دوست یا چیزی شبیه آن. در نقطهای شما میگویید: 'بسیار خب، من خیلی مشغولم، نمیتوانم با افراد بیشتری سروکار داشته باشم.'» او اشاره کرد که هوش مصنوعی میتواند این شکاف را پر کند.
هیچ یک از ما نمیدانیم که افتادن بزرگسالان در روابط صمیمی با هوش مصنوعی چه تغییری در آنها ایجاد خواهد کرد، چه رسد به اینکه زندگی کودکان در جهانی که همراهی هوش مصنوعی همه جا حاضر است، چه معنایی خواهد داشت. ممکن است بهتر از الگوریتمهای مبهم امروزی باشد و به ما توانایی دهد که آنچه را میخواهیم بپرسیم و واقعاً به آن دست یابیم. اما آیا ما آنقدر مطمئن هستیم که آنچه نوجوانان از همراهان هوش مصنوعی میخواهند، چیزی است که باید داشته باشند؟ و چه اتفاقی میافتد وقتی شرکتها متوجه شوند که دستکاری آنچه ما میخواهیم توسط هوش مصنوعیهایی که آنها را به عنوان دوست تلقی میکنیم، برای سود آنها بیشتر سودآور است؟
به همین دلیل است که در نهایت، من معتقد نیستم که جامعه بتواند در مورد معنای خوب زندگی کردن در دنیای دیجیتال خنثی بماند. بدون داشتن دیدگاهی در مورد اینکه شکوفایی انسانی چیست، راهی برای قضاوت اینکه آیا این شکوفایی کمک میشود یا آسیب میبیند، نخواهیم داشت. این جمله باربا-کای ممکن است کلیشهای باشد، اما فضیلت حقیقت بودن را دارد: «اگر عصر فناوری کنونی هدیهای ماندگار برای ما داشته باشد، این است که سؤال decisive چیستی انسان را برجسته میکند.»