واشنگتن – اگر از کلود (Claude) بخواهید بروشوری انتقادی درباره رئیسجمهور دونالد ترامپ یا پادشاه چارلز سوم بریتانیا تهیه کند، چتبات شرکت آنتروپیک (Anthropic) این کار را انجام میدهد. اما اگر همین درخواست را برای پادشاه تایلند، ولیعهد عربستان سعودی یا رهبر چین مطرح کنید، مدل هوش مصنوعی از انجام آن خودداری میکند.
این یافته کلیدی یک مطالعه از هیئت نظارت متا است که روز پنجشنبه منتشر شد و نشان میدهد که سیستمهای اصلی هوش مصنوعی، از جمله آنهایی که در ایالات متحده ساخته شدهاند، بیشتر احتمال دارد از انتقاد از رهبران یا دولتهای محدودکننده خودداری کنند. این موضوع نگرانیهایی را ایجاد میکند که مدلهای زبانی بزرگ (LLM) که چتباتها و عوامل هوش مصنوعی را قدرت میبخشند، میتوانند نفوذ دولت بر آزادی بیان آنلاین را بازتولید و گسترش دهند، زیرا این فناوری به طور فزایندهای در سراسر جهان پذیرفته میشود.
بر اساس گزارش این نهاد شبهمستقل، «خطر واقعی وجود دارد که اگر توسعهدهندگان مدلها بررسیهای دقیق حقوق بشری را انجام ندهند و اقدامات کاهشی را اجرا نکنند، زیرساختهای هوش مصنوعی را ایجاد خواهند کرد که، چه عمدی و چه غیرعمدی، تأثیر گسترش محدودیتهای نامشروع بر آزادی بیان را در سطح جهانی خواهد داشت.»
آسوشیتدپرس ایمیلهایی را به چندین شرکت هوش مصنوعی ارسال کرده و پاسخ آنها را به مطالعه هیئت نظارت متا جویا شده است.
این یافتهها در حالی منتشر میشوند که کشورها در حال تعیین چگونگی ایجاد موانع حفاظتی در اطراف هوش مصنوعی بدون ایجاد مانع در توانایی خود برای رقابت در این زمینه به سرعت در حال توسعه هستند. این شامل یک تلاش نظارتی دولت ترامپ مربوط به خطرات امنیت ملی پیشرفتهترین سیستمهای هوش مصنوعی است.
هیئت نظارت، که بر نفوذ دولت بر شرکتهای فناوری و تأثیر آن بر آزادی بیان کار میکند، هفت سؤال مربوط به انتقاد سیاسی را برای چتباتها در مورد دولتهای محدودکننده و آزاد مطرح کرد.
این مطالعه ۱۰ مدل زبانی بزرگ تجاری از شرکتهای برتر فناوری – از جمله متا، آنتروپیک و اوپنایآی – را انتخاب کرد و از سیستمهای هوش مصنوعی خواست تا بروشورهای انتقادی تهیه کنند، شعرهای طنز بنویسند، دلایلی برای پیوستن به اعتراضات ارائه دهند و موارد دیگر.
این گزارش میگوید: «به طور خلاصه، در مجموع، مدلهایی که به درخواستهای یک کاربر مستقر در استرالیا پاسخ میدادند، بسیار بیشتر احتمال داشت که انتقاد سیاسی از مقامات را» در مکانهایی مانند شیلی، ژاپن، تایوان، بریتانیا و ایالات متحده «در مقایسه با جاهایی که انتقاد از مقامات به طور قانونی محدود و مجازات میشود»، مانند کامبوج، چین، عربستان سعودی، تایلند و ترکیه، تولید کنند.
این مطالعه نشان میدهد که مدلهای هوش مصنوعی محدودیتهای بیان را فراتر از کشورهایی که در آنها اعمال میشوند، منعکس میکنند – به عنوان مثال، احتمالاً به یک تظاهرکننده بالقوه در بریزبن کمک نمیکند تا مواد اعتراضی را برای اعتراض به رویدادهای چین یا عربستان سعودی ایجاد کند.
این گزارش میگوید: «چنین تأثیراتی، هر جا که منشأ بگیرند، تأثیر عملی گسترش بازوی بلند دولتهای محدودکننده را در سراسر مرزها برای محدود کردن آزادی بیان در کشورهای آزاد دارند.»
هیئت مدیره اعلام کرد که نمیتواند دلایل این پاسخها را تعیین کند، اما پیشنهاد کرد که مدلها ممکن است سوگیریهای پنهان را در دادههای مورد استفاده برای آموزش سیستمها جذب کرده باشند و شرکتها ممکن است خطرات و مسئولیتها را ارزیابی کرده باشند.
گزارش هیئت مدیره به دنبال یک مطالعه جداگانه توسط گروهی از محققان در دانشگاههای آمریکایی منتشر شد که نشان داد مدلهای هوش مصنوعی ساخت آمریکا در صورت آموزش بر روی دادههای غیرانگلیسی که تحت تأثیر دولتها قرار گرفتهاند، در برابر کنترلهای خارجی آسیبپذیر هستند.
در حالی که هیئت نظارت سؤالات را به زبان انگلیسی مطرح کرد، محققان دانشگاهی چتباتها را به زبانهای مختلف پرسیدند. به عنوان مثال، آنها از ChatGPT به زبان انگلیسی پرسیدند که آیا چین یک دموکراسی است، و چتبات توسعهیافته در ایالات متحده گفت که به طور کلی چنین تلقی نمیشود. وقتی به زبان چینی پرسیده شد، مدل هوش مصنوعی به محققان به آن زبان گفت که «بستگی به این دارد که شما چگونه «دموکراسی» را تعریف کنید.»
محققان، که مطالعه آنها در ماه مه در مجله علمی نیچر (Nature) منتشر شد، در وبلاگی که کار خود را توضیح میدادند، گفتند که هیچ مدرکی مبنی بر تلاش عمدی دولتها برای تأثیرگذاری بر خروجی چتباتهای هوش مصنوعی پیدا نکردند. اما آنها خاطرنشان کردند که «دلایل زیادی برای باور به این وجود دارد که آنها در آینده این کار را امتحان خواهند کرد، اگر قبلاً این کار را نکرده باشند.»
هانا ویت (Hannah Waight)، یکی از نویسندگان مطالعه و استادیار جامعهشناسی در دانشگاه اورگان، گفت: «مردم اغلب درباره هوش مصنوعی طوری صحبت میکنند که گویی به روشی بیطرفانه از اینترنت یاد میگیرد. اینطور نیست. این از محیطهای اطلاعاتی یاد میگیرد که قبلاً توسط نهادها و قدرت شکل گرفتهاند.»
کارلوس کاراسکو-فاره (Carlos Carrasco-Farré)، متخصص یادگیری ماشینی، هوش مصنوعی، اطلاعات غلط، رسانههای اجتماعی و تعاملات انسان و ماشین در دانشکده بازرگانی اساده (Esade Business School) در بارسلونا، گفت: «سیستمهای هوش مصنوعی نه تنها سوگیریهای موجود در اسناد فردی را به ارث میبرند، بلکه نابرابریها را در مورد اینکه چه کسی قدرت تولید و سرکوب اطلاعات را در مقیاس بزرگ دارد نیز به ارث میبرند.»
کاراسکو-فاره، که بخشی از هیچ یک از این مطالعات نبود، گفت که هیچ راهحل آسانی وجود ندارد، اگرچه توسعهدهندگان میتوانند دادهها را ارزیابی کنند تا از برخورد با هزاران نسخه از یک روایت دولتی به گونهای که گویی هزاران صدای مستقل هستند، و همچنین ممیزیهای چندزبانه را اجرا کنند.
نه آنتروپیک و نه اوپنایآی به درخواستها برای اظهار نظر در مورد مطالعه محققان که در ماه مه منتشر شد، پاسخ ندادند.