اواخر ماه گذشته، شرکت اوپنایآی رسالتی بس سترگ را کلید زد: دفاع از آزادی سیاسی فردی در عصر ماشینهای همهتوان. تیم «آیندههای راهبردی» این شرکت رسالت خود را بهنوعی ادامه راه بنیانگذاران ایالات متحده قلمداد کرده است. دین بال، مدیر این تیم، در یادداشتی در وبلاگ اوپنایآی نوشت: «ما در خدمت آرمانهای آزادی بیان و آزادیهای فردی تلاش میکنیم که در متن قانون اساسی ایالات متحده نگاشته شدهاند.» (این یادداشت با نقلقولی از جیمز مدیسون در مقالات فدرالیست آغاز میشود.)
نگرانی بال از این است که هوش مصنوعی پیشرفته بتواند قدرت را بهشکلی بنیادین در دستان متولیان آن متمرکز سازد و با دگرگون کردن بازار کار، عاملیت انسانها را تضعیف کند. در سناریویی افراطی، اگر رباتها توان اداره جنگها را داشته باشند و نرمافزارهای دانای کل دیوانسالاری را بچرخانند، دولتها دیگر نیازی به شنیدن صدای شهروندان نخواهند داشت. از این رو، بال در پی مطالعه این موضوع است که چه نهادهای سیاسی نوینی برای پیشگیری از چنین سرنوشتی مورد نیاز خواهند بود.
بسیاری از شهروندان آمریکایی—که اکثریت آنها نسبت به صنعت هوش مصنوعی بیاعتمادند، از گسترش مراکز داده خشمگین بوده و نگران امنیت شغلی خود هستند—هماکنون این فقدان عاملیت را با تمام وجود حس میکنند. از سویی دیگر، جهش هوش مصنوعی تا کنون ثروت هنگفتی را تنها در انحصار شمار اندکی از غولهای فناوری، از جمله خود اوپنایآی، قرار داده است. اینکه یکی از متنفذترین شرکتها در قدرتمندترین صنعت جهان به انتقاد از تمرکز قدرت ناشی از هوش مصنوعی بپردازد، دستکم تناقضآمیز به نظر میرسد. از این رو با بال گفتوگو کردم تا دلایل دغدغههای او را درباره صنعتی که خود در آن فعالیت میکند جویا شوم و دیدگاه وی را درباره نحوه تطبیق ایالات متحده با هوش مصنوعی بدانم.
بال که در حوزه سیاستگذاری هوش مصنوعی به پژوهش میپردازد، چهرهای شناختهشده در این صنعت به شمار میرود. وی سال گذشته بهعنوان مشاور هوش مصنوعی به کاخ سفید پیوست و در تدوین «برنامه اقدام هوش مصنوعی» دولت ترامپ، که نقشهراهی سیاستی برای این فناوری بود، همکاری کرد. او سرانجام با روابطی ظاهراً حسنه دولت را ترک کرد، هرچند چندی بعد و در جریان مناقشه دولت با شرکت آنتروپیک در اوایل سال جاری، به انتقاد علنی از آن پرداخت. سپس در ماه ژوئیه، به اوپنایآی پیوست. بال در این باره به من گفت: «دیدگاه من این است که ما هماکنون اساساً شاهد حضور هوش مصنوعی تحولآفرین در جهان هستیم. شما در جهانی زندگی میکنید که در حال دگرگونی است؛ این رخداد هماینک در جریان است.»
این گفتوگو بهمنظور وضوح و رعایت ایجاز ویرایش شده است.
ماتئو وانگ: شما نوشتهاید که تمرکز قدرت حاصل از هوش مصنوعی میتواند آزادیهای بنیادین انسانی تثبیتشده در قانون اساسی ایالات متحده را متزلزل کند. ممکن است توضیح دهید چگونه چنین چیزی رخ میدهد؟
دین بال: اساساً قدرت سیاسی، توانایی انحصار در اعمال مشروع زور و خشونت در یک محدوده جغرافیایی مشخص است. اعمال این قدرت تا کنون نیازمند همکاری شمار بسیار زیادی از انسانها بوده است. به نیروهای نظامی، حضور افراد در آن نیروها و انسانهایی برای تأمین آذوقه و پشتیبانی لجستیکی نیاز بود. علاوه بر این، به مردمی نیاز بود که هزینه تمام این سازوکار را از طریق پرداخت مالیات تأمین کنند. بنابراین، مردم صاحب جایگاه و نفوذ تصمیمگیری بودند، چرا که در عمل همه چیز از سوی آنان تأمین میشد.
اکنون باید در نظر گرفت که علم رباتیک نیز بهزودی همپای هوش دیجیتال عمومی پیشرفت خواهد کرد؛ شاید اندکی بیشتر از حد انتظار من زمان ببرد، اما در آن نقطه، اِعمال قدرت و خشونت دیگر متکی به نیروی انسانی نخواهد بود. همچنین تصور این امر ممکن است که هوش مصنوعی چنان درآمدی ایجاد کند که دولت دیگر نیازی به مالیاتستانی از مردم نداشته باشد.
اگر به مناسبات سیاسی هوش مصنوعی نگاه کنید، درمییابید که مردم آمریکا هوشمندند و حس میکنند که سهم و جایگاه آنان در تصمیمگیریها رو به افول است. نگرانی آنها کاملاً بجاست.
وانگ: شما از تمرکز قدرت در سطح دولت سخن میگویید، اما هوش مصنوعی زاینده فناوریای است که در بخش خصوصی توسعه یافته است. پتانسیل کمنظیر و حتی بیسابقهای برای تمرکز قدرت در دستان صنایع وجود دارد. این موضوع چه خطراتی در پی دارد؟
بال: هدف ما اجتناب کامل از هرگونه تمرکز قدرت نیست، بلکه ایجاد تعادل در آن است. اگر این عصر به پیدایش شرکتهایی با قدرت فوقالعاده در جهان منجر شود، از نظر من تا زمانی که این سازمانها مهارپذیر باشند، پدیدهای مثبت است؛ به بیان دیگر، به شرطی که نهاد حاکمیتی ناظر بر آنها نیز پا به پای آنها رشد کند.
دیدگاه عمومی بر این فرض است که استقرار هوش مصنوعی در دست بخش خصوصی ذاتاً خطر تمرکز قدرت به همراه دارد. اما به عقیده من، وجود یک آزمایشگاه ابرهوش دولتی و بسیار کارآمد، خطری بهمراتب بزرگتر از جهانی چندمرکزی است که در آن چندین ابرهوش توسط شرکتهای مختلف و رقیب تحت نظارت دولت توسعه مییابند. نگرانی اصلی انحصار است.
وانگ: از حیث تمرکز قدرت در بخش خصوصی، در حال حاضر عملاً تنها دو آزمایشگاه پیشرو وجود دارند: شرکت متبوع شما و آنتروپیک. به نظر نمیرسد بازار نظارت و مهار چندانی بر آنها اعمال کند.
بال: من بر این باورم که در حال حاضر بازار بسیار رقابتی است. از طرفی چین نیز مدلهای متنباز با کارایی بسیار بالایی ارائه میدهد. ممکن است این وضعیت باعث تبدیل محصولات اوپنایآی و آنتروپیک به کالاهایی عمومی و روزمره شود. من لزوماً با این چشمانداز موافق نیستم، اما نمیتوان آن را احتمالی دور از ذهن دانست. رسالت اوپنایآی عرضه ایمن هوش جامع مصنوعی به جهانیان است. اگر این امر ایجاب کند که ما بیش از آنکه شبیه یک ابرشرکت بزرگ فناوری باشیم، به یک نهاد خدماترسان عمومی شباهت پیدا کنیم، به آن پایبند خواهیم بود.
وانگ: این موضوع ما را به بطن مقاله شما میرساند. اگر نهادهای سیاسی و پویاییهای بازار کنونی توان صیانت از آزادی انسان در عصر هوش مصنوعی را ندارند، چه تحولی باید رخ دهد؟
بال: مقررات معقولی در حوزه هوش مصنوعی وجود دارند که تصویب آنها شایسته است. ایالتها صدها قانون در این حوزه تصویب کردهاند، اما این اقدامات مطالبات جامعه را برآورده نکرده است. آنچه بدان نیازمندیم نهادهای سیاسی نوینی است که ابزار لازم برای مدیریت شتاب تحولات در جامعه را در اختیار ما بگذارند.
من نهادی فدرال را متصور هستم که بتواند نسبت توان پردازشی مجاز یک آزمایشگاه هوش مصنوعی را برای تحقیقات خودکار و توسعه مدلهای داخلی تعیین کند. برای نمونه، این نهاد میتواند مقرر کند که در ماه جاری مجاز به استفاده از ۴۵ درصد توان محاسباتی خود برای این منظور هستید و در ماه بعد این رقم به ۴۷ یا ۵۲ درصد تغییر یابد. این اقدام ممکن است شتاب توسعه را تعدیل کند، اما شرکت میتواند از توان پردازشی مازاد برای کاهش هزینههای مصرفکنندگان بهره بگیرد. در نتیجه، این اهرم توسعه هوش مصنوعی به سازوکاری با کارکرد دوگانه برای کاهش یا افزایش شتاب اشاعه فناوری بدل خواهد شد.
نزدیکترین مصداق ساختاری که در اختیار داریم احتمالاً نرخ بهره است؛ نوعی فراپارامتر در اقتصاد که سیاستگذاران قادر به تنظیم آن هستند. فدرال رزرو فینفسه یک نهاد مستقل است و بر فراز آن سازوکار عظیمی از جمله بازار اوراق قرضه، معاملهگران نرخ بهره، تحلیلگران، جریان رسانهای و نظارت سیاسی کنگره قرار دارد. از دیدگاه من، برآیند تمامی این مؤلفهها یک مجتمع نهادی را تشکیل میدهد. این یک نوع نهاد سیاسی است. مقصود من ایجاد شاخه جدیدی در ارکان حکومت نیست.
وانگ: این مسأله در خصوص سرعت توسعه و اشاعه فناوری منطقی است. با این حال، ارتباط میان چنین سازوکاری و دغدغههای شما پیرامون آزادیهای بشری هنوز کاملاً روشن نیست.
بال: این تنها نمونهای از نهادی است که حس کنترل سیاسی مؤثر بر فناوری را به مردم بازمیگرداند. با این وجود، به باور من رأیگیری عمومی درباره جزئیترین جنبههای دگرگونیهای فنی رویکرد بهینهای نیست. من از توقف موقت ساخت مراکز داده حمایت نمیکنم، اما درک میکنم که افکار عمومی در آمریکا در پی استفاده از اهرمی است که آن را تنها ابزار دردسترس خود میپندارد.
وانگ: اوپنایآی، آنتروپیک و سایر بازیگران این صنعت چه نقشی میتوانند در بازتعریف این نهادها و تحقق آنها ایفا کنند؟
بال: معتقدم با در نظر گرفتن جمیع شرایط، صنعت هوش مصنوعی تا کنون متولی نسبتاً شایستهای بوده است. البته طبیعی است که من بهعنوان عضوی از این صنعت چنین دیدگاهی داشته باشم، اما حضور من در این عرصه دلیل مشخصی دارد. ادعا نمیکنم همه شرکتهای پیشرو همواره عملکردی بینقص داشتهاند، ابداً چنین نیست. اما در آینده ممکن است به مراحلی برسیم که اتخاذ تصمیمات پرهزینهتری ضرورت یابد؛ شرایطی که صنعت هوش مصنوعی ناگزیر به اقداماتی برخلاف منافع مستقیم خود باشد.
وانگ: آیا برنامه پژوهشی شما آزادیهای اقتصادی—یعنی تأثیر هوش مصنوعی بر اقتصاد و توزیع ثروت—را نیز شامل میشود؟
بال: رویکرد اصلی ما در این زمینه، سرمایهگذاری بر نوآوری فناورانه و تلاش برای توسعه اقتصادی از طریق ایجاد امکانات و ظرفیتهای نوین است.
وانگ: گمان میکنم بسیاری از مردم با نگاه به محصولات و فناوریهای پیشین سیلیکونولی بر این باورند که دستاورد آنها تمرکز چشمگیر ثروت و نفوذ در شمار اندکی از شرکتها بوده است—
بال: من چنین توصیفی را درباره سیلیکونولی نمیپذیرم. آیا همهچیز بینقص بوده است؟ مسلماً خیر. اما امروزه بشر به گنجینهای بیپایان از اطلاعات دسترسی دارد؛ شما میتوانید با فشردن چند دکمه غذا را در آستانه در تحویل بگیرید، پدیدهای که برای اکثریت مطلق نسلهای پیشین بشر همانند جادو جلوه میکرد.
وانگ: من نیز میتوانم به اقتصاد گیگ (Gig Economy) و ساختار اقتصادی آمازون اشاره کنم و استدلال نمایم که این روندها برای بسیاری از اقشار، بهویژه کارگرانی که بار تحقق این «معجزه» را به دوش میکشند، چندان سودمند نبوده است. این جادو نیست.
بال: هیچکس آن را جادو نمیخواند؛ سخن از کار و تلاش سخت است. چندی پیش در پمپ بنزینی در مناطق روستایی ویرجینیا بودم؛ زنی با جلیقه آمازون وارد شد و همگان دستیابی به این موقعیت شغلی جدید را به او تبریک گفتند. او سرشار از افتخار بود و گمان نمیکنم ما مجاز باشیم ارزش چنین دستاوردهایی را برای مردم تقلیل دهیم.
ضمناً افرادی مانند شما، ماتئو—بدون آنکه قصد تخریب داشته باشم—در این باره موضعی دوگانه اتخاذ میکنند. از یک سو از شرایط غیرانسانی اقتصاد اشتراکی و غیره سخن میگویید، اما به محض آنکه تلاشی برای ورود خودکارسازی به این حوزه صورت میگیرد—مثلاً استفاده از پهپادها بهجای دوچرخهسوارانی که در شهر غذا توزیع میکنند—فریاد برمیآورید که: شما در حال نابودی مشاغل این نیروی کار هستید.
من نیز همانند هر فرد دیگری از تمامی ابعاد جهان کنونی خشنود نیستم، اما ایجاد ثروت فینفسه امری مثبت است. نوآوران تنها بخش ناچیزی از ارزش اقتصادی خلقشده در جامعه را برای خود ذخیره میکنند. چنانچه اوپنایآی ده سال دیگر شرکتی خارقالعاده و دورانساز باشد، شرط میبندم که ما تنها کسری تکرقمی از ارزش خلقشده توسط هوش جامع مصنوعی را به خود اختصاص خواهیم داد. ثروت منبعی ایستا نیست که تنها آن را تقسیم کنیم، بلکه ارزشی است که خلق میکنیم؛ شگفتی واقعی در همین نهفته است.
وانگ: اما ثروت ماهیتی دارد که تقسیم نیز میشود. میتوان به هوش مصنوعی زاینده بهعنوان فناوریای نگریست که بهطور خاص موجب تمرکز ثروت میشود. مجدداً میپرسم، آیا مسأله بازتوزیع ثروت در کانون توجه تیم شما قرار دارد؟
بال: معتقدم نباید پیش از شکلگیری یک معضل، به دنبال ابداع راهحلهای تصنعی بود. بنابراین مادامی که نظام مالیاتی فعلی کارآمد باشد، نیازی به طراحی سازوکارهای پیچیده بازتوزیع ثروت نیست؛ اما در عین حال باید برای جهانی که در آن این فرضیه دیگر معتبر نباشد نیز آماده شویم.