نکات کلیدی
- پیش‌بینی‌ها در مورد تأثیرات هوش مصنوعی عمومی (AGI) اغلب بر اختلالات اجتماعی، مانند از دست دادن مشاغل یا افزایش دستکاری‌های ناشی از هوش مصنوعی، تمرکز دارند.
- اما لوئیس روزنبرگ، دانشمند کامپیوتر، استدلال می‌کند که عمیق‌ترین اثر AGI ممکن است شخصی‌تر باشد: یک بحران هویت فلسفی.
- روزنبرگ می‌گوید اگر انتخاب کنیم که تفکر خود را بی‌محابا به AGI برون‌سپاری کنیم، اساساً آنچه را که انسان بودن معنی می‌دهد، تضعیف خواهیم کرد.
طی چند هفته گذشته، از افراد در حلقه متخصصان هوش مصنوعی خود پرسیده‌ام که آیا از نظر ذهنی برای فوق‌هوشمندی مصنوعی آماده‌اند؟ آنها معمولاً شانه بالا می‌اندازند و نگرانی‌های مختلفی را ابراز می‌کنند: تأثیرات احتمالی بر بازار کار یا تهدید اطلاعات نادرست مبتنی بر هوش مصنوعی. آنها همچنین به مزایای بالقوه، مانند توانایی فوق‌هوشمندی برای کمک به ما در درمان بیماری‌ها، انقلاب در انرژی پاک، حل رازهای جهان و حتی شاید آوردن صلح جهانی، اشاره می‌کنند.
به عبارت دیگر، آنها هرگز واقعاً در نظر نگرفته‌اند که زندگی «فردای روزی» که یک هوش مصنوعی عمومی (AGI) با قابلیت‌هایی فراتر از توانایی‌های شناختی خودمان به طور گسترده در دسترس قرار گیرد، چگونه خواهد بود. از دانش و تخصص گرفته تا برنامه‌ریزی، استدلال، خلاقیت و حل مسئله، ممکن است به زودی خود را به کلی مغلوب بیابیم. این یک احتمال واقعی در آینده بسیار نزدیک است، و هیچ کس از آشنایان من صادقانه با تأثیر عمیق (و احتمالاً تضعیف‌کننده روحیه) آن بر هویت ما به عنوان انسان روبرو نمی‌شود.
این انتقاد را به خودم نیز وارد می‌کنم. من بیش از یک دهه است که درباره خطرات فوق‌هوشمندی می‌نویسم، و من نیز بر خطرات تاکتیکی خاصی مانند مشکل دستکاری توسط هوش مصنوعی و پارادوکس ذهن تازه وارد تمرکز کرده‌ام. در عین حال، نتوانسته‌ام صادقانه با این واقعیت روبرو شوم که زندگی واقعاً چگونه خواهد بود وقتی ما انسان‌ها به طور جمعی متوجه شویم که برتری شناختی خود را در سیاره زمین از دست داده‌ایم و احتمالاً هرگز آن را دوباره به دست نخواهیم آورد.
نه، این جمله آخر به اندازه کافی شخصی نیست.
آنچه نتوانستم با آن روبرو شوم این است که «زندگی من» واقعاً چگونه خواهد بود وقتی تنها در یک آسانسور ایستاده‌ام — فقط من و تلفنم — و هوشمندترین موجودی که بین طبقات حرکت می‌کند، تلفن است. وقتی به خود اجازه می‌دهید به این موضوع فکر کنید، متوجه می‌شوید که بزرگترین تأثیر بر بشریت نه دگرگونی قریب‌الوقوع در بازار کار خواهد بود و نه فناوری‌های جدید و خطرناک هوش مصنوعی که بدون شک از آنها برای دستکاری یکدیگر استفاده خواهیم کرد.
نه، بزرگترین تأثیر بر بشریت، بحران هویتی خواهد بود که مانند یک ضربه رباتیک به صورتمان برخورد می‌کند و ما را به واقعیتی جدید خیره می‌کند که در آن هوش مصنوعی موجود در جیب‌هایمان (و به زودی، جاسازی شده در عینک‌ها، هدفون‌ها یا آویزهایمان) می‌تواند هر مشکلی را که در زندگی روزمره با آن روبرو می‌شویم، سریع‌تر، هوشمندانه‌تر و خلاقانه‌تر از خودمان حل کند.
در این واقعیت جدید، ما قبل از اینکه به خود زحمت دهیم از مغز خود استفاده کنیم، به طور خودکار از هوش مصنوعی درخواست مشاوره خواهیم کرد. و در بسیاری از موارد، حتی نیازی به پرسیدن نخواهیم داشت — راهنمایی فقط به چشمان و گوش‌هایمان سرازیر خواهد شد. این به این دلیل است که هوش مصنوعی در دستگاه‌های پوشیدنی شما به دوربین‌ها و میکروفون‌های داخلی دسترسی خواهد داشت و آنها را قادر می‌سازد تا هر آنچه را که شما می‌بینید و می‌شنوید، ببینند و بشنوند و بدین ترتیب کل بافت زندگی شما را در زمان واقعی ردیابی کنند. آنها همچنین یک سابقه تاریخی از اقدامات و واکنش‌های شما را جمع‌آوری می‌کنند و آنها را قادر می‌سازند تا رفتارها و احساسات شما را تقریباً در هر موقعیتی پیش‌بینی کنند و خواسته‌ها و نیازهای شما را قبل از اینکه حتی در ذهنتان ظاهر شوند، پیش‌بینی کنند.
به عبارت دیگر، این دستیارهای هوش مصنوعی آگاه به بافت به شما مشاوره می‌دهند بدون اینکه نیازی به گفتن کلمه‌ای داشته باشید. در حالی که در خیابان قدم می‌زنید، هوش مصنوعی ممکن است یک جواهرفروشی را در پیش رو ببیند و به شما یادآوری کند که بیستمین سالگرد ازدواجتان نزدیک است و به یک هدیه برای همسرتان نیاز دارید. سپس به شما کمک می‌کند تا چیزی را انتخاب کنید که همسرتان دوست خواهد داشت، زیرا هوش مصنوعی سلیقه او را بهتر از شما می‌داند. این کار ما، نحوه زندگی ما و نحوه ارتباط ما با دیگران را تغییر خواهد داد.
اولین باری که درباره تأثیر عمیق اجتماعی عوامل هوش مصنوعی آگاه به بافت نوشتم، در رمان گرافیکی سال 2012 من به نام «ارتقا» (UPGRADE) بود. من این عوامل را «اسپوک‌ژن» نامیدم زیرا آنها «سخنگویان تولید شده توسط هوش مصنوعی» بودند که به ما کمک و راهنمایی می‌کنند، در حالی که ما را به نمایندگی از حامیان مالی نیز دستکاری می‌کنند. آنچه نتوانستم متوجه شوم این است که بزرگترین خطر عوامل هوش مصنوعی آگاه به بافت، تأثیر دستکاری‌کننده نفوذ عمدی نیست.
واقعیت این است که حتی اگر این دستیارهای فوق‌هوشمند از دستکاری آشکار منع شوند، نفس این واقعیت که آنها می‌توانند بهتر از ما فکر کنند، می‌تواند حس عاملیت ما را تضعیف کرده و حس خودمان را برهم زند.
تصور کنید یک دستیار فوق‌هوشمند روی شانه شما نشسته است، زندگی شما را مشاهده می‌کند و نصایح را در گوش شما زمزمه می‌کند. این در ابتدا مانند یک ابرقدرت خواهد بود، اما با گذشت زمان که همه ما به تدریج متوجه می‌شویم صدای در گوشمان هوشمندتر از مونولوگ درونی خودمان است، یک محاسبه دیجیتالی بزرگ قطعاً به دنبال خواهد داشت. چه اتفاقی می‌افتد وقتی ما به صدای در هدفون‌هایمان بیشتر از صدای در سرمان اعتماد کنیم؟ من نگرانم که ما تبدیل به عروسک‌های مطیع دستیاران هوش مصنوعی خود شویم، نه به دلیل یک برنامه شیطانی برای کنترل ما، بلکه صرفاً به این دلیل که آنها جریانی از توصیه‌ها را به ما می‌دهند که فراتر از هر چیزی است که خودمان می‌توانیم به آن دست یابیم.
می‌دانم بسیاری از خوانندگان اعتراض خواهند کرد و اصرار خواهند داشت که هرگز صدای هوش مصنوعی در گوش خود را بر افکار درونی خود ترجیح نخواهند داد. من هم دوست دارم این را باور کنم، اما گمان می‌کنم من تنها احمقی نیستم که GPS خود را تا انتهای یک کوچه تاریک دنبال کرده‌ام، حتی با اینکه می‌دانستم اوضاع درست به نظر نمی‌رسد. و GPS بسیار دور از فوق‌هوشمندی است. این فقط یک ابزار ناوبری است که نیاز شما به نگاه کردن به نقشه را برطرف می‌کند. اما تکیه بر فوق‌هوشمندی که می‌تواند بهتر از شما استدلال کند، بهتر از شما برنامه‌ریزی کند، بهتر از شما مذاکره کند، و همه اینها را خلاقانه‌تر از آنچه شما تا به حال می‌توانستید انجام دهد — این قطعاً به جوهره انسان بودن ضربه می‌زند. چگونه ممکن است این کار روحیه‌بخش نباشد؟
ما به سرعت به سوی عصر جدیدی در حرکت هستیم که در آن قابلیت‌های شناختی خود را که برای هویت ما به عنوان موجوداتی متفکر حیاتی هستند، برون‌سپاری می‌کنیم. برخی از کارشناسان معتقدند این ما را باهوش‌تر و تواناتر می‌کند و آن را نوعی تقویت می‌دانند، اما این تنها راهی نیست که این مسیر می‌تواند پیش برود. این عصر «ذهنیت تقویت‌شده» به راحتی می‌تواند باعث شود ما احساس کوچکتر بودن، کم‌اعتمادبه‌نفسی، و کم‌اهمیت‌تر بودن کنیم. حتی می‌تواند روابط شخصی ما را نیز تضعیف کند. به عنوان مثال، وقتی همسرتان به شما هدیه‌ای می‌دهد، شما تعجب خواهید کرد که آیا هوش مصنوعی او آن را برای شما انتخاب کرده است. حتی تعجب خواهید کرد که آیا کلماتی که او هنگام دادن هدیه می‌گوید، احساسات خودش هستند یا اینکه هوش مصنوعی همیشه‌حاضرش او را آموزش داده است (برای مثال‌های جالب، فیلم کوتاه «حریم خصوصی از دست رفته» را ببینید).
من این نگرانی‌ها را به عنوان کسی مطرح می‌کنم که تمام دوران حرفه‌ای خود را صرف ایجاد فناوری‌هایی کرده‌ام که «توانایی‌های انسانی را افزایش می‌دهند»، از کارهای اولیه من در توسعه واقعیت افزوده برای نیروی هوایی ایالات متحده در دهه‌ها پیش، تا کارهای اخیر هوش مصنوعی من در زمینه فوق‌هوشمندی جمعی. من معتقدم فناوری می‌تواند به طور عمیقی آنچه ما هستیم را بهبود بخشد و توانایی‌های فیزیکی و ذهنی ما را به شدت گسترش دهد، در حالی که ما را انسان نگه می‌دارد.
متأسفانه، یک خط بسیار باریک بین «تقویت خودمان» و «تضعیف خودمان»، یا حتی «جایگزینی خودمان» وجود دارد. مگر اینکه در نحوه استقرار دستیاران AGI آگاه به بافت با فکری عمل کنیم، می‌ترسم از آن خط عبور کنیم. با توجه به اینکه این خطر اکنون به سرعت به سوی ما می‌آید، از محققان و کارآفرینان هوش مصنوعی می‌خواهم فراتر از آن روز سرنوشت‌ساز که به طور جمعی AGI را خلق می‌کنیم فکر کنند و بر روی این تمرکز کنند که «فردای آن روز» انسان بودن چه حسی خواهد داشت.