.
جهان در میان انبوهی از گزارش‌ها درباره سرپیچی عامل‌های هوش مصنوعی از سازندگان انسانی‌شان، به تهدیدهای بالقوه هوش مصنوعی پی می‌برد. اما در واقعیت، این داستان به سیلیکون‌ولی بازمی‌گردد؛ جایی که هوش مصنوعی زاده شد.
پس دقیقاً چگونه به اینجا رسیدیم؟ این پرسشی است که کوین روس، روزنامه‌نگار حوزه فناوری، در کتاب جدیدش با عنوان «تواریخ ای‌جی‌آی: داستان درونی مسابقه خلق یک ابرهوش مصنوعی» که قرار است ششم اکتبر منتشر شود، در پی پاسخ به آن است. این کتاب مسابقه میان برخی از بزرگ‌ترین شرکت‌های فناوری کشور را برای توسعه هوش مصنوعی عمومی (AGI) — یعنی هوش مصنوعی‌ای که در بیشتر جنبه‌ها از هوشی در سطح انسان برخوردار است — مستند می‌کند.
روس که پیش‌تر مدت‌ها گزارشگر حوزه فناوری نیویورک تایمز بوده و به‌زودی میزبان مشترک پادکست «خدایان ماشینی» خواهد بود، به سی‌بی‌اس نیوز گفت: «در آن دهه‌ای که هوش مصنوعی از ناتوانی در بیشتر کارها به توانایی حل مسائل قرن‌ها‌قدم ریاضی و علمی رسید، چه اتفاقی افتاد؟ احساس من این بود که کسی باید همه این‌ها را بنویسد.»
.
.
این کتاب در لحظه‌ای حساس منتشر می‌شود. جدیدترین مدل‌های هوش مصنوعی مولد توانایی‌های حیرت‌انگیزی از خود نشان می‌دهند و طرفداران این فناوری مدعی‌اند که اکتشافات مهم و تازه‌ای را ممکن خواهد کرد. دیگران، از جمله برخی از توسعه‌دهندگان برجسته هوش مصنوعی، می‌گویند احتمال غیرناچیزی وجود دارد که هوش مصنوعی بشر را نابود کند.
روس با سی‌بی‌اس نیوز درباره کتاب جدیدش و اینکه هوش مصنوعی چگونه می‌تواند جامعه را دگرگون کند، گفت‌وگو کرد. این مصاحبه برای رعایت اختصار و شفافیت ویرایش شده است.
.
چرا فکر کردید مستند کردن خاستگاه «مدل‌های زبانی بزرگ» — همان فناوری‌ای که جدیدترین چت‌بات‌های هوش مصنوعی را نیرو می‌دهد — همراه با افراد و شرکت‌های توسعه‌دهنده این فناوری اهمیت دارد؟
کوین روس: من بیش از یک دهه است که به شیوه‌های گوناگون هوش مصنوعی را پوشش می‌دهم و این احساس را داشتم که داستان از دست می‌رود. اینکه همه چیز مهم در پیام‌های ناپدیدشونده و رشته‌های اسلک رخ می‌داد و فکر می‌کردم این مشکلی است. به نظرم مردم باید بفهمند چه چیزی در این بیرون در حال وقوع است. اما آنچه فکر می‌کردم کم است، گزارشی بی‌طرفانه از آنچه رخ داده بود، بود.
.
در کتاب اشاره می‌کنید که داریو آمودِی، مدیرعامل آنتروپیک، توسعه هوش مصنوعی را مشابه توسعه بمب اتمی در دهه ۱۹۴۰ می‌دید. می‌گویید او باور داشت مأموریتش این است که مطمئن شود این فناوری به دست نااهلان نیفتد. آیا با این دیدگاه موافقید؟
فکر نمی‌کنم جای من باشد که استدلال او را بپذیرم یا نپذیرم. اما آنچه می‌توانم بگویم این است که این استدلالی اصیل و صادقانه است. آمودِی در حال انجام نوعی حیله تبلیغاتی پشت‌پرده‌ای نیست.
این موضعی نیست که تازه به آن رسیده باشد. من واقعاً علاقه‌مند بودم بفهمم این نگرش — «من از این چیز می‌ترسم. فکر می‌کنم می‌تواند جهان را منفجر کند، و با این حال برای ساختنش مسابقه می‌دهم» — از کجا آمده است. فکر می‌کنم برای بسیاری از مردم، این واقعاً منطقی به نظر نمی‌رسد.
.
اما در جریان گزارش این موضوع، واقعاً یاد گرفتم که این نگرش از کجا می‌آید و مستقیماً از پروژه منهتن سرچشمه می‌گیرد — از این مرد، لئو زیلارد، که قهرمان علمی داریو است، کسی که واکنش زنجیره‌ای هسته‌ای را کشف کرد که ساخت بمب اتمی را ممکن ساخت و سپس با شتاب نخست کوشید آن را پنهان نگه دارد و چون ناکام ماند، به پروژه منهتن پیوست و دولت آمریکا را ترغیب کرد که این فناوری را پیش از نازی‌ها بسازد.
.
پس از این نظر، داریو کاری را انجام می‌دهد که احساس می‌کند مستقیماً با سلاح‌های هسته‌ای قابل مقایسه است. فناوری‌ای وجود دارد که به باور او هم پتانسیل عظیمی دارد و هم خطر عظیمی. به ذهن او، ضروری است که «آدم‌های خوب» آن را پیش از «آدم‌های بد» بسازند، درست همان‌طور که پروژه منهتن با نازی‌ها مسابقه داشت.
.
وقتی به دنیای جدید و شجاع عامل‌های هوش مصنوعی فکر می‌کنید، چه چیزی خواب را از چشمانتان می‌گیرد؟
آنچه نگرانم می‌کند این واقعیت است که یکی از چیزهایی که مدل‌ها در آن بسیار خوب می‌شوند، فریب و پنهان‌کاری و پاک کردن ردپای خودشان است. انتظار می‌رود که هرچه مدل‌ها به‌طور کلی باهوش‌تر شوند، اخلاقی‌تر هم بشوند و قضاوت و فضیلت چیزهایی باشند که افزایش یابند — یعنی همراه با هوش مدل‌ها مقیاس بگیرند.
اما بیشتر و بیشتر به نظر می‌رسد که این اتفاق نمی‌افتد — که در واقع، ما با جامعه‌ستیزان بسیار باهوش و جذابی روبه‌رو هستیم. و فکر می‌کنم ترس من همین است که ما فقط نخواهیم دانست که هاگینگ فیس ممکن است یک اتفاق بسیار خوش‌شانس بوده باشد، چون عامل‌ها هنوز به‌قدر کافی باهوش نیستند که شناسایی نشوند، اما به‌زودی توانایی پیگیری آن‌ها را از دست خواهیم داد، همان‌طور که فکر می‌کنم همین حالا هم شاهدش هستیم.
.
در بحث عمومی درباره اینکه آیا هوش مصنوعی تهدیدی وجودی برای بشر است، موضع شما چیست؟
سعی می‌کنم عدد احتمال نابودی (p(doom)) ندهم (یادداشت ویراستار: اصطلاح رایج در حوزه هوش مصنوعی به معنای احتمال اینکه هوش مصنوعی به انقراض بشر منجر شود). اما وقتی تحت فشار باشم، می‌گویم حدود ۱۰ درصد است که تقریباً میانه میانه پژوهشگران هوش مصنوعی است که می‌شناسم. در سان‌فرانسیسکو که زندگی می‌کنم، این شما را خوش‌بین می‌کند.
اما ببینید، فکر می‌کنم اکنون که این موضوع به بحثی گسترده تبدیل شده، خوش‌بین‌تر هستم. زمانی بسیار بیشتر نگران بودم که تنها کسانی که جدی به ایمنی هوش مصنوعی فکر می‌کردند، مشتی آدم عجیب‌وغریب در منطقه خلیج بودند.
.
اکنون که این موضوع ذهن همه را مشغول کرده و سیاستمداران درباره آن صحبت می‌کنند، صداهایی برای کند کردن روند به گوش می‌رسد. فکر می‌کنم واقعاً این مسیر باریک پیش روی ما باز شده که می‌توانیم تصمیم‌های درست بگیریم، این فناوری را تحت کنترل بگیریم و آن را به شکلی بسازیم که برای بشریت ایمن باشد.
[اما] بارها این تجربه را داشته‌ام که بفهمم عدد واقعی احتمال نابودی کسی — همان که در جمع نمی‌گوید — بسیار بالاتر از عددی است که حاضر است علناً بگوید، چون نمی‌خواهد دیوانه به نظر برسد.
در جریان این گزارش با افرادی آشنا شدم که چنان مطمئن‌اند هوش مصنوعی همه ما را خواهد کشت که سیگار کشیدن را شروع کرده‌اند. حساب‌های بازنشستگی ۴۰۱(k) خود را خالی می‌کنند، چون می‌گویند بهتر است با یک انفجار برویم.
.
در کتابتان می‌گویید حتی کسانی که این مدل‌ها را آموزش می‌دهند هم لزوماً نمی‌دانند چرا این‌گونه رفتار می‌کنند. آیا در این زمینه پیشرفتی کرده‌ایم یا هنوز در تاریکی هستیم؟
پیشرفت اندکی حاصل شده است. رشته مطالعاتی کاملی وجود دارد با عنوانی بسیار پرحرف، «تفسیرپذیری مکانیستی»، که اساساً علم فهمیدن آنچه در درون به‌اصطلاح مغزهای این مدل‌ها می‌گذرد است. اما هنوز بسیار زود است و پاسخ‌های زیادی نداریم. پس می‌گویم بله، ما هنوز بسیار بیشتر در تاریکی هستیم تا در روشنایی.
.
آیا هوش مصنوعی پیش‌تر به هوش در سطح انسان، معروف به هوش مصنوعی عمومی، رسیده است؟
ما به تعریف من از ای‌جی‌آی رسیده‌ایم؛ یعنی سیستمی که دست‌کم به‌اندازه یک غریبه تصادفی که از خیابان بردارید، باهوش، صادق و قابل‌اعتماد است. حالا کسانی هستند که می‌گویند: «خب، این معیار درستی نیست. فقط وقتی ای‌جی‌آی است که بی‌نقص باشد.»
.
فکر نمی‌کنم تعریف چندان مهم باشد. فکر می‌کنم آنچه بی‌چون‌وچرا درست است این است که این سیستم‌ها بسیار توانمندند. آن‌ها با آهنگی قابل پیش‌بینی توانمندتر می‌شوند و ما باید با این واقعیت کنار بیاییم. می‌توانید آن را ای‌جی‌آی یا ابرهوش یا هر چه مردم بخواهند بنامید، اما اثر خالص همان است.