فناوری بهتر: اولویت دادن به انسان در فضای سایبری فرانسین برمن انتشارات MIT Press (۲۰۲۶)
فرانسین برمن، دانشمند علوم رایانه، دههها در شکلدادن به جهان دیجیتال سهیم بوده است. او در فناوری بهتر، بهعنوان پژوهشگر دانشگاه ماساچوست آمهرست، استدلال میکند که فناوری باید در خدمت منافع عمومی باشد. این کتاب بیانیهای بههنگام درباره چگونگی قرار دادن رفاه مردم در مرکز بحثهای مربوط به پیشرفت فناوری است.
شما استدلال میکنید که فناوریهای دیجیتال زیرساختی ضروریاند، اما اغلب از تدابیر حفاظتی بیبهرهاند. میتوانید بیشتر توضیح دهید؟
وقتی به زیرساختهای حیاتی مانند جادهها، شبکه برق و نظام مالی فکر میکنیم، انتظار داریم تدابیر حفاظتی از عموم مردم محافظت کند. این حفاظتها هنوز بسیار دور از کاملبودن هستند. پلها فرو میریزند، شبکههای برق از کار میافتند و بحرانهای مالی رخ میدهند. اما ما همچنان سرمایهگذاری سنگینی در نظارت، اقدامات ایمنی و تنظیمگری میکنیم، زیرا این نظامها زیربنای زندگی روزمرهاند.
فناوریهای دیجیتال اکنون نقشی به همان اندازه محوری دارند، اما ما اغلب با آنها متفاوت برخورد میکنیم. بهجای آنکه فرض کنیم باید قابلاعتماد و بهخوبی اداره شوند، زمان زیادی را صرف محافظت از خود در برابر آنها و پرسش درباره قابلیت اعتمادشان میکنیم. اگر فناوریهای دیجیتال را بهعنوان زیرساخت حیاتی تلقی کنیم، احتمال بیشتری دارد که از همان ابتدا با در نظر گرفتن ایمنی، قابلیت اطمینان و سود عمومی آنها را بسازیم. این کار به معنای استانداردهای قویتر و قواعد روشنتر درباره چگونگی توسعه و استفاده از این فناوریها خواهد بود. هدف حذف خطر نیست، بلکه جدیگرفتن این فناوریهای ضروری بهاندازهای است که بتوان آن خطر را بهخوبی مدیریت کرد.
آیا موتورهای جستوجو و پلتفرمهای شبکههای اجتماعی در زمره زیرساخت حیاتی قرار میگیرند؟
فکر میکنم موتورهای جستوجو مدتها پیش از این آستانه گذشتهاند. زمانی که بیشتر اطلاعات به فضای آنلاین منتقل شد، چنین جستوجوهایی به شیوه اصلی یافتن دانش و تصمیمگیری مردم تبدیل شد. از این نظر، موتورهای جستوجو زیرساخت هستند. ما برای حفظ بدن خود به غذا نیاز داریم و برای حفظ یک جامعه آگاه به اطلاعات قابلاعتماد نیاز داریم. مشکل این است که نظامهای اطلاعاتی امروز عمدتاً بر پایه انگیزههای تجاری اداره میشوند. موتورهای جستوجو از الگوریتمهایی استفاده میکنند که کاربران را به تبلیغدهندگان متصل میکنند و اغلب محتوا را بر اساس منافع تجاری و نه سود عمومی در اولویت قرار میدهند. این به معنای آن نیست که ذاتاً زیانبارند، اما به این معناست که تأثیرشان آنقدر مهم است که نمیتوان بدون شفافیت و پاسخگویی بیشتر آن را اداره کرد.
درباره شبکههای اجتماعی نیز همینطور است. بسیاری از مهمترین اعلامیههای عمومی، بحثهای سیاسی و گفتوگوهای فرهنگی اکنون در آنجا رخ میدهد. آنچه زمانی از طریق بیانیههای مطبوعاتی یا نهادهای رسمی منتقل میشد، امروز بیش از پیش از طریق پلتفرمهای اجتماعی منتقل میشود. این پلتفرمها به کانالهایی ضروری برای زندگی عمومی تبدیل شدهاند. با این حال، این پلتفرمها اغلب از تدابیر حفاظتیای که از زیرساختی با این اهمیت انتظار داریم، بیبهرهاند. کاربران با قلدری سایبری و رفتارهای شکارگرانه روبهرو میشوند. نظامهای توصیهگر میتوانند افراد را به پیمایش بیپایان و محیطهای اطلاعاتی محدود بکشانند. هیچیک از اینها اجتنابناپذیر نیست. این پلتفرمها برای بیشینهکردن رشد و تعامل طراحی شدهاند و در این کار بهشکل چشمگیری موفق بودهاند. اما انتخابهای طراحی، انتخاب هستند. ما میتوانیم نظامهایی بسازیم که هم سودآور و هم محافظ باشند.
آیا شرکتهای شبکههای اجتماعی مسئولیت آسیبهای ادعایی به کاربران را میپذیرند یا از آن طفره میروند؟
شاید کمی از هر دو. برای نمونه، شرکت متا با برخی ایالتهای آمریکا به توافق مالی رسیده است؛ ایالتهایی که ادعا میکردند محصولات این شرکت به ایمنی کودکان آسیب زده است. اما شایسته یادآوری است که این شرکت با چالشهای حقوقی و تنظیمگری متعددی روبهروست، بنابراین اهمیت هر توافق مشخص بستگی به جایگاه آن در این چشمانداز گستردهتر دارد. با این حال، یک تحول مثبت این است که مردم بیش از پیش از شرکتهای فناوری پاسخگویی میخواهند. آنچه بیش از همه در این پروندههای دادگاهی برایم جالب است، جریمههای مالی نیست، بلکه تغییرات محصولی است که ممکن است متا ملزم به انجام آن شود. پرسش معنادار این است که آیا توافقهای دادگاهی به بازطراحی محصولی میانجامد که ویژگیهای اعتیادآور را کاهش دهد یا کنترل بیشتری به کاربران بدهد.
تغییراتی که بهطور عمومی اعلام شده، بهاندازه کافی پیش نمیرود. هرچند اینها گامهای کوچکی هستند، فکر میکنم همین که ما شروع به پاسخگو کردن این شرکتها کردهایم، به این معناست که احتمال بیشتری دارد در آینده محصولات بهتری بسازند و این دقیقاً همان چیزی است که میخواهیم.
آیا فکر میکنید شرکتهای هوش مصنوعی، مانند شرکتهای شبکههای اجتماعی، اکنون نظامهایی طراحی میکنند که میتوانند اعتیادآور باشند؟
فکر میکنم مهم است که میان هوش مصنوعی و محصولاتی که از آن استفاده میکنند تمایز قائل شویم. هوش مصنوعی حوزهای گسترده است. استوارت راسل و پیتر نورویگ، دانشمندان علوم رایانه، در کتاب درسی خود با عنوان هوش مصنوعی (۲۰۲۱) هوش مصنوعی را در دو بُعد توصیف میکنند: اینکه یک نظام برای اندیشیدن طراحی شده است یا برای عملکردن، و اینکه هدفش رفتار مانند یک انسان است یا مانند یک عامل خردمند. این چهار دسته گسترده از پژوهش هوش مصنوعی پدید میآورد. اینها پرسشهای پژوهشی متمایزی به وجود میآورند و همچنان حوزههای فعال توسعه هوش مصنوعی به شمار میروند. متأسفانه، در گفتمان عمومی، هوش مصنوعی به اصطلاحی چترگونه و گسترده تبدیل شده است و همین تمایز قائلشدن میان کاربردهای واقعاً مفید و کاربردهای غیرمفید را دشوارتر میکند.
به نظر شما به کدام خطرهای هوش مصنوعی بیش از حد و برعکس، به کدامها کمتر از حد توجه میکنیم؟
خطرهای واقعی وجود دارد زمانی که مردم شروع به برخورد با نظامهای هوش مصنوعی بهگونهای میکنند که گویی ویژگیهای انسانی دارند. ما موارد نگرانکنندهای دیدهایم، بهویژه در میان جوانان، که در آنها افراد برای همنشینی به رباتهای گفتوگو روی آوردهاند و توصیههای ضعیف یا حتی زیانبار دریافت کردهاند. در برخی موارد، پیامدها غمانگیز بوده است. این خطرها شایسته توجه هستند.
نیچر ۶۵۸، ۲۸-۳۰ (۲۰۲۶)
doi: https://doi.org/10.1038/d41586-026-02960-0
این گفتوگو برای رعایت اختصار و شفافیت ویرایش شده است.