کارن هائو در مورد اینکه چگونه رونق هوش مصنوعی به یک مرز امپریالیستی جدید تبدیل شد

زمانی که کارن هائو، روزنامه‌نگار، در سال ۲۰۲۰ برای اولین بار پروفایل شرکت OpenAI را تهیه کرد، این شرکت یک استارتاپ کمتر شناخته‌شده بود. پنج سال و یک چت‌بات بسیار محبوب بعد، این شرکت به نیرویی غالب در بخش هوش مصنوعی (AI) که به سرعت در حال گسترش است، تبدیل شده است؛ نیرویی که هائو در کتاب جدید خود با نام «امپراتوری هوش مصنوعی: رویاها و کابوس‌ها در OpenAI سام آلتمن» آن را به «نظم جهانی استعماری مدرن» تشبیه می‌کند.

هائو به رویترز می‌گوید که این مقایسه را به آسانی انجام نداده است. او با تکیه بر سال‌ها گزارشگری در سیلیکون ولی و فراتر از آن در کشورهایی که تأثیر هوش مصنوعی مولد (generative AI) شاید به شدت حس می‌شود – از کنیا، جایی که OpenAI طبق گزارش‌ها کارگران را برای حاشیه‌نویسی داده‌ها با حداقل ۲ دلار در ساعت برون‌سپاری کرده است، تا شیلی، جایی که مراکز داده هوش مصنوعی منابع آبی گرانبهای کشور را تهدید می‌کنند – استدلال می‌کند که شرکت‌های هوش مصنوعی نیز مانند امپراتوری‌های گذشته، ثروت خود را از طریق استخراج منابع و استثمار نیروی کار می‌سازند. این انتقاد در تضاد شدید با دیدگاهی است که رهبران صنعت مانند آلتمن (که از مشارکت در کتاب هائو خودداری کرد) ترویج می‌کنند و هوش مصنوعی را ابزاری برای پیشرفت بشری – از افزایش بهره‌وری تا بهبود مراقبت‌های بهداشتی – به تصویر می‌کشند. هائو معتقد است که امپراتوری‌ها نیز فتوحات خود را در لفافه زبان پیشرفت پنهان می‌کردند.

گفت‌وگوی زیر برای اختصار و وضوح ویرایش شده است.

رویترز: می‌توانید بگویید چگونه به حوزه هوش مصنوعی وارد شدید؟

کارن هائو: من مهندسی مکانیک را در MIT (مؤسسه فناوری ماساچوست) خواندم و در ابتدا فکر می‌کردم قرار است در صنعت فناوری کار کنم. اما به محض ورود به سیلیکون ولی (Silicon Valley) سریعاً متوجه شدم که این مکان لزوماً جایی نیست که بخواهم بمانم، زیرا ساختارهای انگیزشی به گونه‌ای بود که توسعه فناوری در راستای منافع عمومی بسیار دشوار بود. در نهایت، چیزهایی که به آن‌ها علاقه‌مند بودم – مانند ساخت فناوری‌هایی که پایداری را تسهیل کرده و آینده‌ای پایدارتر و عادلانه‌تر ایجاد می‌کنند – فعالیت‌های سودآوری نبودند. بنابراین به روزنامه‌نگاری روی آوردم تا مسائلی را که برایم اهمیت داشتند پوشش دهم و در نهایت شروع به پوشش اخبار فناوری و هوش مصنوعی کردم.

به محض اینکه شروع به پوشش اخبار هوش مصنوعی کردم، متوجه شدم که این حوزه یک میکروکوزم (جهان کوچک) از تمام چیزهایی است که می‌خواستم بررسی کنم: اینکه چگونه فناوری بر جامعه تأثیر می‌گذارد، چگونه مردم با آن تعامل دارند، انگیزه‌ها (و) انگیزه‌های نامتناسب درون سیلیکون ولی. من بسیار خوش‌شانس بودم که توانستم هوش مصنوعی و همچنین OpenAI را قبل از اینکه همه «لحظه چت‌جی‌پی‌تی» (ChatGPT moment) خود را تجربه کنند، مشاهده کنم و می‌خواستم زمینه‌های بیشتری را برای آن لحظه‌ای که همه تجربه کردند، فراهم کنم و به آن‌ها نشان دهم که این فناوری از مکان خاصی می‌آید. از گروه خاصی از مردم سرچشمه می‌گیرد و برای درک مسیر آن و اینکه چگونه در آینده بر ما تأثیر خواهد گذاشت. و در واقع، انتخاب‌های انسانی که امروزه چت‌جی‌پی‌تی و هوش مصنوعی مولد را شکل داده‌اند، چیزی است که باید نگران آن باشیم و ما به صورت جمعی در آغاز شکل‌دهی فناوری نقش داریم.

مراکز داده‌ای در حال ساخت هستند که ۱۰۰۰ تا ۲۰۰۰ مگاوات خواهند بود که حدود ۱.۵ تا ۲.۵ برابر تقاضای انرژی شهر سانفرانسیسکو است.

عنوان «امپراتوری هوش مصنوعی» به OpenAI و این استدلال اشاره دارد که هوش مصنوعی (AI) شکلی جدید از امپراتوری را نشان می‌دهد، و دلیل این استدلال من این است که بسیاری از ویژگی‌های امپراتوری‌های گذشته اکنون توسط امپراتوری‌های هوش مصنوعی نیز دیده می‌شود. آن‌ها ادعای منابعی را دارند که متعلق به خودشان نیست، از جمله داده‌های میلیون‌ها و میلیاردها نفر که داده‌های خود را آنلاین قرار داده‌اند، بدون اینکه واقعاً درک کنند که ممکن است برای آموزش مدل‌های هوش مصنوعی مورد استفاده قرار گیرند. آن‌ها نیروی کار زیادی را در سراسر جهان استثمار می‌کنند – به این معنی که کارگرانی را با دستمزد بسیار کم استخدام می‌کنند تا برای این مدل‌های هوش مصنوعی، حاشیه‌نویسی داده یا تعدیل محتوا انجام دهند. و آن‌ها این کار را تحت «مأموریت تمدن‌سازی» (civilizing mission) انجام می‌دهند، این ایده که آن‌ها برای تمام بشریت سود به ارمغان می‌آورند.

مدت زمان زیادی طول کشید تا بفهمم چگونه کتابی را ساختاربندی کنم که بین این همه جوامع و شخصیت‌ها و زمینه‌های مختلف در رفت و آمد است. در نهایت، زیاد به «تاج» فکر کردم، زیرا هر قسمت، فارغ از اینکه درباره چه کسی است، در نهایت این سیستم جهانی قدرت را به تصویر می‌کشد.

مردم (آلتمن) را یا دلیل موفقیت OpenAI می‌دانند یا تهدیدی بزرگ برای پارادایم کنونی توسعه هوش مصنوعی. اما همان‌طور که وقتی ملکه الیزابت دوم درگذشت، مردم ناگهان گفتند: «اوه، درست است، این هنوز فقط خانواده سلطنتی است و حالا ما پادشاه دیگری داریم»، در واقع این موضوع در مورد فرد نیست. بلکه در مورد این واقعیت است که یک سلسله مراتب جهانی وجود دارد که هنوز پابرجاست و این بقایای یک امپراتوری قدیمی هنوز وجود دارد.

سم آلتمن مانند ملکه الیزابت است (به این معنی که) خوب یا بد بودن او یا داشتن این شخصیت یا آن شخصیت به اندازه این واقعیت که او در رأس این سلسله مراتب قرار دارد، مهم نیست – حتی اگر او جایگزین شود، با کسی جایگزین خواهد شد که همچنان وارث این سلسله مراتب قدرت جهانی است.

من اولین روزنامه‌نگاری بودم که پروفایل OpenAI را تهیه کردم و در سال ۲۰۱۹ در این شرکت مستقر شدم، و دلیل اینکه در آن زمان می‌خواستم آن‌ها را به تصویر بکشم این بود که مجموعه‌ای از لحظات در سال‌های ۲۰۱۸ و ۲۰۱۹ نشان می‌دادند که تغییر چشمگیری در سازمان در حال وقوع است.

OpenAI در پایان سال ۲۰۱۵ به عنوان یک سازمان غیرانتفاعی توسط ایلان ماسک، سم آلتمن و گروهی از افراد دیگر تأسیس شد. اما در سال ۲۰۱۸، ماسک از این شرکت خارج شد؛ OpenAI شروع به عدم انتشار برخی تحقیقات خود کرد و به جهانیان اعلام کرد که این تحقیقات را به نفع بشریت منتشر نمی‌کند. این شرکت ساختار خود را تغییر داد و یک بخش انتفاعی را درون بخش غیرانتفاعی قرار داد و سم آلتمن مدیرعامل شد؛ این چهار مورد چیزهایی بودند که باعث شدند من تعجب کنم چه اتفاقی در این سازمان می‌افتد که از وضعیت غیرانتفاعی خود برای تمایز واقعی خود از سایر شرکت‌های فعال در زمینه تحقیقات هوش مصنوعی در سیلیکون ولی استفاده می‌کرد.

درست قبل از اینکه به دفاتر برسم، آن‌ها اطلاعیه دیگری داشتند که تأیید کرد یک تحول در حال وقوع است: مایکروسافت قرار بود با OpenAI شریک شود و یک میلیارد دلار به این شرکت بدهد. همه این‌ها باعث شد که من سپس متوجه شوم تمام آنچه آن‌ها علناً اظهار می‌کردند، در واقع اتفاق نمی‌افتاد.

یکی از چیزهایی که مردم واقعاً متوجه آن نیستند این است که هوش مصنوعی جادو نیست و در واقع برای ایجاد این فناوری‌ها به مقدار بسیار زیادی نیروی کار و قضاوت انسانی نیاز دارد. این شرکت‌های هوش مصنوعی به کشورهای جنوب جهانی می‌روند تا کارگران را با دستمزدهای بسیار پایین استخدام کنند تا یا داده‌های مورد نیاز برای آموزش این مدل‌ها را حاشیه‌نویسی کنند، یا تعدیل محتوا انجام دهند، یا با مدل‌ها گفت‌وگو کنند و سپس پاسخ‌های آن‌ها را تأیید یا رد کنند و به آرامی به آن‌ها آموزش دهند تا چیزهای مفیدتری بگویند.

من به کنیا رفتم تا با کارگرانی صحبت کنم که OpenAI برای ساخت فیلتر تعدیل محتوا برای مدل‌های خود استخدام کرده بود. این کارگران کاملاً آسیب‌دیده بودند و سال‌ها پس از این پروژه دچار PTSD (اختلال استرس پس از سانحه) شدند و این فقط بر خود آن‌ها به عنوان افراد تأثیر نگذاشت؛ بر جوامع آن‌ها و افرادی که به آن‌ها وابسته بودند نیز تأثیر گذاشت. (یادداشت سردبیر: OpenAI از اظهار نظر خودداری کرد و رویترز را به پست ۴ آوریل آلتمن در شبکه X ارجاع داد.)

این مراکز داده و ابررایانه‌ها، اندازه ای که در مورد آن صحبت می کنیم چیزی است که برای یک فرد عادی غیرقابل تصور شده است. مراکز داده ای در حال ساخت هستند که ۱۰۰۰ تا ۲۰۰۰ مگاوات خواهند بود که حدود ۱.۵ تا ۲.۵ برابر تقاضای انرژی شهر سانفرانسیسکو است. OpenAI حتی طرح‌هایی را پیش‌نویس کرده است که در آن در مورد ساخت ابررایانه‌هایی صحبت می‌کردند که ۵۰۰۰ مگاوات خواهند بود، که برابر با تقاضای متوسط انرژی کل شهر نیویورک است.

بر اساس سرعت کنونی گسترش زیرساخت‌های محاسباتی، مقدار انرژی که باید به شبکه جهانی اضافه کنیم، تا پایان این دهه، مانند اضافه کردن دو تا شش کالیفرنیای جدید به شبکه جهانی خواهد بود. همچنین آب نیز وجود دارد. این مراکز داده اغلب با منابع آب شیرین خنک می‌شوند.

نوشتن این کتاب مرا حتی نگران‌تر کرد، زیرا متوجه شدم که این شرکت‌ها تا چه حد بر همه چیز نفوذ کنترل‌کننده‌ای دارند. قبل از این، نگران استثمار نیروی کار، تأثیرات زیست‌محیطی و تأثیر بر بازار کار بودم. اما از طریق گزارش‌نویسی کتاب، متوجه شدم که نگرانی افقی که همه این‌ها را در بر می‌گیرد، این است که اگر به عصر امپراتوری بازگردیم، دیگر دموکراسی نخواهیم داشت. زیرا در دنیایی که مردم دیگر بر داده‌ها، زمین، انرژی و آب خود کنترل و مالکیت ندارند، دیگر احساس نمی‌کنند که می‌توانند آینده خود را تعیین کنند.