با ورود به آزمایشگاه رسانه مؤسسه فناوری ماساچوست (MIT) در کمبریج، ایالات متحده، آینده کمی نزدیک‌تر به نظر می‌رسد. ویترین‌های شیشه‌ای نمونه‌های اولیه از خلاقیت‌های عجیب و شگفت‌انگیز را به نمایش می‌گذارند، از ربات‌های کوچک رومیزی گرفته تا یک مجسمه سورئالیستی که توسط یک مدل هوش مصنوعی طراحی شده است تا یک سرویس چای از اعضای بدن انسان ایجاد کند. در لابی، دستیار مرتب‌سازی زباله هوش مصنوعی به نام اسکار می‌تواند به شما بگوید که فنجان قهوه استفاده شده خود را کجا قرار دهید. در طبقه پنجم، ناتالیا کاسمینا، دانشمند پژوهشی، روی رابط‌های مغز و کامپیوتر پوشیدنی کار می‌کند که امیدوار است روزی به افرادی که به دلیل بیماری‌های تحلیل‌برنده عصبی مانند اسکلروز جانبی آمیوتروفیک (ALS) قادر به صحبت نیستند، امکان دهد با ذهن خود ارتباط برقرار کنند.
کاسمینا بیشتر وقت خود را صرف خواندن و تجزیه و تحلیل حالات مغزی افراد می‌کند. پروژه دیگری که او روی آن کار می‌کند، یک دستگاه پوشیدنی است – یکی از نمونه‌های اولیه شبیه به عینک است – که می‌تواند تشخیص دهد چه زمانی فرد دچار سردرگمی یا از دست دادن تمرکز می‌شود. حدود دو سال پیش، او شروع به دریافت ایمیل‌های غیرمنتظره از غریبه‌هایی کرد که گزارش می‌دادند از مدل‌های زبان بزرگ مانند چت‌جی‌پی‌تی استفاده کرده‌اند و در نتیجه احساس کرده‌اند مغزشان تغییر کرده است. حافظه آن‌ها به نظر خوب نمی‌آمد – آیا اصلاً چنین چیزی ممکن بود؟ آن‌ها از او پرسیدند. خود کاسمینا نیز از سرعت بالای اتکای مردم به هوش مصنوعی مولد شوکه شده بود. او متوجه شد همکارانش در محل کار از چت‌جی‌پی‌تی استفاده می‌کنند و درخواست‌هایی که از محققان برای پیوستن به تیمش دریافت می‌کرد، متفاوت به نظر می‌رسید. ایمیل‌هایشان طولانی‌تر و رسمی‌تر بودند و گاهی اوقات، وقتی با داوطلبان در زوم مصاحبه می‌کرد، متوجه می‌شد که آن‌ها قبل از پاسخ دادن مکث می‌کنند و به اطراف نگاه می‌کنند – آیا آن‌ها از هوش مصنوعی کمک می‌گرفتند؟ او شوکه شده بود و از خود می‌پرسید. و اگر از هوش مصنوعی استفاده می‌کردند، چقدر از پاسخ‌هایی که می‌دادند را درک می‌کردند؟
کاسمینا با برخی از همکاران MIT خود، آزمایشی را راه‌اندازی کرد که از الکتروانسفالوگرام (نوار مغزی) برای نظارت بر فعالیت مغزی افراد در هنگام نوشتن مقالات استفاده می‌کرد؛ یا بدون کمک دیجیتال، یا با کمک موتور جستجو، یا چت‌جی‌پی‌تی. او دریافت که هرچه شرکت‌کنندگان کمک خارجی بیشتری داشتند، سطح اتصال مغزی آن‌ها پایین‌تر بود، بنابراین کسانی که از چت‌جی‌پی‌تی برای نوشتن استفاده می‌کردند، فعالیت بسیار کمتری در شبکه‌های مغزی مرتبط با پردازش شناختی، توجه و خلاقیت نشان دادند.
به عبارت دیگر، هرچه افرادی که از چت‌جی‌پی‌تی استفاده می‌کردند در داخل مغز خود احساس می‌کردند، اسکن‌ها نشان می‌دادند که فعالیت چندانی در آنجا وجود ندارد.
از شرکت‌کنندگان در این مطالعه، که همگی در MIT یا دانشگاه‌های اطراف ثبت‌نام کرده بودند، بلافاصله پس از تحویل کارشان پرسیده شد که آیا می‌توانند آنچه را نوشته‌اند به یاد آورند. کاسمینا می‌گوید: "تقریباً هیچ‌کس در گروه چت‌جی‌پی‌تی نتوانست نقل قولی ارائه دهد. این نگران‌کننده بود، زیرا شما تازه آن را نوشته‌اید و چیزی به یاد نمی‌آورید."
کاسمینا ۳۵ ساله است، با پیراهن آبی مد روز و گردنبند بزرگ و چندرنگ پوشیده است و سریع‌تر از آنچه اکثر مردم بتوانند فکر کنند، صحبت می‌کند. همانطور که او مشاهده می‌کند، نوشتن مقاله به مهارت‌هایی نیاز دارد که در زندگی گسترده‌تر ما مهم هستند: توانایی سنتز اطلاعات، در نظر گرفتن دیدگاه‌های متقابل و ساختن یک استدلال. شما از این مهارت‌ها در مکالمات روزمره استفاده می‌کنید. او می‌گوید: "چگونه می‌خواهید با این موضوع کنار بیایید؟ آیا می‌خواهید بگویید: 'اوه… می‌توانم فقط گوشی‌ام را چک کنم؟'"
این آزمایش کوچک (۵۴ شرکت‌کننده) بود و هنوز بازبینی همتا (peer reviewed) نشده است. با این حال، در ماه ژوئن، کاسمینا آن را به صورت آنلاین منتشر کرد، با این فکر که محققان دیگر ممکن است آن را جالب بیابند، و سپس به کارهای روزمره خود پرداخت، بی‌خبر از اینکه او تازه یک جنون رسانه‌ای بین‌المللی ایجاد کرده است.
در کنار درخواست‌های خبرنگاران، او بیش از ۴۰۰۰ ایمیل از سراسر جهان دریافت کرد، بسیاری از آن‌ها از سوی معلمان مضطربی بودند که احساس می‌کنند دانش‌آموزانشان به درستی یاد نمی‌گیرند زیرا از چت‌جی‌پی‌تی برای انجام تکالیف خود استفاده می‌کنند. آن‌ها نگرانند که هوش مصنوعی نسلی را ایجاد می‌کند که می‌تواند کارهای قابل قبولی تولید کند اما هیچ دانش قابل استفاده یا درکی از مطالب ندارد.
کاسمینا می‌گوید: "مسئله اساسی این است که به محض در دسترس قرار گرفتن فناوری‌ای که زندگی ما را آسان‌تر می‌کند، ما از نظر تکاملی برای استفاده از آن آماده‌ایم. مغز ما میان‌بر را دوست دارد، این در طبیعت ماست. اما مغز شما برای یادگیری نیاز به اصطکاک دارد. نیاز به چالش دارد."
اگر مغزها نیاز به اصطکاک دارند اما به طور غریزی از آن دوری می‌کنند، جالب است که وعده فناوری ایجاد یک تجربه کاربری "بدون اصطکاک" بوده است تا اطمینان حاصل شود که تا زمانی که ما از برنامه‌ای به برنامه دیگر یا از صفحه‌ای به صفحه دیگر می‌رویم، مقاومتی را تجربه نخواهیم کرد. تجربه کاربری بدون اصطکاک دلیلی است که ما ناخواسته اطلاعات و کار بیشتری را به دستگاه‌های دیجیتال خود منتقل می‌کنیم؛ دلیلی است که افتادن در چاله‌های اطلاعاتی اینترنت بسیار آسان و بیرون آمدن از آن‌ها بسیار دشوار است؛ دلیلی است که هوش مصنوعی مولد قبلاً به طور کامل در زندگی اکثر مردم ادغام شده است.
ما از تجربه جمعی خود می‌دانیم که وقتی به فضای مجازی فوق‌کارآمد عادت کنید، دنیای واقعی پر از اصطکاک سخت‌تر به نظر می‌رسد. بنابراین از تماس‌های تلفنی دوری می‌کنید، از صندوق‌های سلف‌سرویس استفاده می‌کنید، همه چیز را از طریق یک برنامه سفارش می‌دهید؛ برای انجام یک عمل ریاضی که می‌توانستید در ذهن خود انجام دهید، برای بررسی یک واقعیت قبل از اینکه مجبور شوید آن را از حافظه بیرون بکشید، یا برای وارد کردن مقصد خود در گوگل مپ و سفر از نقطه A به B به صورت خودکار، به گوشی خود رجوع می‌کنید. شاید کتاب خواندن را متوقف کنید، زیرا حفظ چنین تمرکزی مانند اصطکاک است؛ شاید رویای داشتن یک ماشین خودران را در سر می‌پرورانید. آیا این طلوع چیزی است که دِیزِی کریسدودولو، نویسنده و متخصص آموزش، آن را "جامعه حماقت‌زا" می‌نامد، شبیه به جامعه چاقی‌زا، که در آن احمق شدن آسان است زیرا ماشین‌ها می‌توانند برای شما فکر کنند؟
شرکت‌های هوش مصنوعی مصمم هستند محصولات خود را قبل از اینکه ما به طور کامل هزینه‌های روانشناختی و شناختی را درک کنیم، به مردم عرضه کنند.
هوش انسانی آنقدر گسترده و متنوع است که نمی‌توان آن را به کلماتی مانند "احمقانه" تقلیل داد، اما نشانه‌های نگران‌کننده‌ای وجود دارد که تمام این راحتی دیجیتالی برای ما گران تمام می‌شود. در کشورهای توسعه‌یافته اقتصادی عضو سازمان همکاری و توسعه اقتصادی (OECD)، نمرات PISA، که توانایی ۱۵ ساله‌ها در خواندن، ریاضیات و علوم را اندازه‌گیری می‌کند، تمایل داشتند حدود سال ۲۰۱۲ به اوج خود برسند. در حالی که در طول قرن بیستم، نمرات IQ در سطح جهانی افزایش یافت، شاید به دلیل بهبود دسترسی به آموزش و تغذیه بهتر، در بسیاری از کشورهای توسعه‌یافته به نظر می‌رسد که در حال کاهش بوده‌اند.
کاهش نمرات آزمون و IQ موضوع بحث‌های داغی است. آنچه دشوارتر است بحث کردن درباره آن این است که با هر پیشرفت تکنولوژیکی، وابستگی ما به دستگاه‌های دیجیتال عمیق‌تر می‌شود و کار کردن، به یاد آوردن، فکر کردن یا به صراحت، عملکرد بدون آن‌ها برای ما سخت‌تر می‌شود. کاسمینا در جایی با عصبانیت زمزمه می‌کند: "فقط توسعه‌دهندگان نرم‌افزار و فروشندگان مواد مخدر هستند که مردم را 'کاربر' می‌نامند"، و از عزم شرکت‌های هوش مصنوعی برای عرضه محصولاتشان به مردم قبل از اینکه ما به طور کامل هزینه‌های روانشناختی و شناختی را درک کنیم، ابراز ناامیدی می‌کند.
در دنیای آنلاین بی‌کران و بدون اصطکاک، شما در وهله اول یک کاربر هستید: منفعل، وابسته. در عصر در حال ظهور اطلاعات غلط تولید شده توسط هوش مصنوعی و دیپ‌فیک‌ها، چگونه می‌توانیم شکاکیت و استقلال فکری مورد نیاز را حفظ کنیم؟ تا زمانی که ما بپذیریم ذهن ما دیگر متعلق به خودمان نیست و بدون کمک فناوری نمی‌توانیم به وضوح فکر کنیم، چقدر از وجود ما برای مقاومت باقی خواهد ماند؟
وقتی شروع به گفتن به مردم می‌کنید که نگران تأثیر ماشین‌های هوشمند بر مغزهای ما هستید، این خطر وجود دارد که در آینده‌ای نه چندان دور، همه به شما به خاطر افکار قدیمی‌تان بخندند. سقراط نگران بود که نوشتن حافظه مردم را تضعیف کرده و تنها درک سطحی را تشویق می‌کند: نه خرد، بلکه "غرور خرد" – استدلالی که به طرز چشمگیری شبیه به بسیاری از انتقادات از هوش مصنوعی است. آنچه در عوض اتفاق افتاد این بود که نوشتن و پیشرفت‌های تکنولوژیکی پس از آن – چاپ، رسانه‌های جمعی، عصر اینترنت – به معنای دسترسی بیشتر مردم به اطلاعات بیشتر بود. افراد بیشتری می‌توانستند ایده‌های بزرگی را توسعه دهند و این ایده‌ها را راحت‌تر به اشتراک بگذارند، و این ما را به عنوان افراد و جوامع باهوش‌تر و نوآورتر کرد.
به هر حال، نوشتن فقط نحوه دسترسی و حفظ اطلاعات ما را تغییر نداد؛ بلکه نحوه تفکر ما را نیز تغییر داد. یک فرد می‌تواند با داشتن دفترچه یادداشت و کاغذ کارهای پیچیده‌تری را انجام دهد تا بدون آن‌ها: اکثر مردم نمی‌توانند ۵۳,۶۸۳ را تقسیم بر ۷ در ذهن خود حساب کنند، اما می‌توانند در کاغذ عملیات تقسیم طولانی را انجام دهند. من نمی‌توانستم این مقاله را دیکته کنم، اما نوشتن به من کمک کرد تا افکارم را سازماندهی و شفاف کنم. ما به عنوان انسان‌ها، در آنچه کارشناسان "کاهش بار شناختی" می‌نامند، یعنی استفاده از محیط فیزیکی خود برای کاهش بار ذهنی‌مان، بسیار خوب هستیم، و این به نوبه خود به ما کمک می‌کند کارهای شناختی پیچیده‌تری را انجام دهیم. تصور کنید که عملکرد روزانه بدون تقویم یا یادآوری‌های تلفنی، یا بدون گوگل برای به خاطر سپردن همه چیز برای شما، چقدر دشوارتر خواهد بود. در بهترین حالت، افراد باهوش که در همکاری با ماشین‌های هوشمند کار می‌کنند، به دستاوردهای فکری جدیدی دست خواهند یافت و مشکلات پیچیده را حل خواهند کرد: برای مثال، ما قبلاً می‌بینیم که چگونه هوش مصنوعی می‌تواند به دانشمندان کمک کند تا داروهای جدید را سریع‌تر کشف کنند و به پزشکان کمک کند تا سرطان را زودتر و کارآمدتر تشخیص دهند.
پیچیدگی اینجاست که اگر فناوری واقعاً ما را باهوش‌تر می‌کند – ما را به ماشین‌های کارآمد پردازش اطلاعات تبدیل می‌کند – چرا اینقدر وقتمان را با احساس حماقت می‌گذرانیم؟
سال گذشته، "زوال مغز" به عنوان واژه سال انتشارات دانشگاه آکسفورد نامگذاری شد، اصطلاحی که هم احساس بی‌فکری خاصی را که هنگام گذراندن زمان زیاد در پیمایش محتوای بی‌ارزش آنلاین ایجاد می‌شود، و هم محتوای مخرب و به شدت احمقانه خود را، یعنی میم‌های بی‌معنی و چرندیات هوش مصنوعی را، در بر می‌گیرد. وقتی گوشی‌هایمان را در دست داریم، در تئوری، بیشتر دانش انباشته جهان را در دسترس داریم، پس چرا اینقدر وقتمان را صرف کشاندن چشمانمان روی محتوای بی‌ارزش می‌کنیم؟
یکی از مسائل این است که دستگاه‌های دیجیتال ما برای کمک به ما در تفکر کارآمدتر و واضح‌تر طراحی نشده‌اند؛ تقریباً هر چیزی که به صورت آنلاین با آن روبرو می‌شویم برای جلب و کسب درآمد از توجه ما طراحی شده است. هر بار که گوشی خود را با هدف انجام یک کار ساده، مجزا و بالقوه بهبودبخش، مانند بررسی اخبار، برمی‌دارید، مغز شکارچی-گردآورنده بدوی شما با یک صنعت فناوری میلیاردها پوندی روبرو می‌شود که وقف‌شده است تا شما را از مسیر خارج کرده و توجه شما را حفظ کند، مهم نیست به چه قیمتی. برای گسترش استعاره کریسدودولو، همانطور که یکی از ویژگی‌های یک جامعه چاقی‌زا، بیابان‌های غذایی است – محله‌های کاملی که در آن‌ها نمی‌توانید یک غذای سالم بخرید – بخش‌های بزرگی از اینترنت، بیابان‌های اطلاعاتی هستند، که در آن‌ها تنها غذای مغز موجود، آشغال است.
چند وظیفگی دیجیتال به شما احساس کاذب تسلط بر امور را می‌دهد بدون اینکه هرگز به عمق چیزی برسید.
در اواخر دهه ۹۰، لیندا استون، مشاور فناوری که به عنوان استاد در دانشگاه نیویورک کار می‌کرد، متوجه شد که دانشجویانش از فناوری به طور بسیار متفاوتی نسبت به همکارانش در مایکروسافت، جایی که او نیز کار می‌کرد، استفاده می‌کنند. در حالی که همکارانش در مایکروسافت در مورد کار با دو صفحه نمایش – یکی برای ایمیل‌ها، شاید، و دیگری برای ورد یا صفحه گسترده – منظم بودند، به نظر می‌رسید دانشجویانش در حال تلاش برای انجام ۲۰ کار به طور همزمان بودند. او اصطلاح "توجه جزئی مداوم" را برای توصیف وضعیت استرس‌زا و ناخواسته‌ای که ما اغلب در آن قرار می‌گیریم، زمانی که سعی می‌کنیم بین چندین فعالیت شناختی چالش‌برانگیز، مانند پاسخ دادن به ایمیل‌ها در حین تماس زوم، جابجا شویم، ابداع کرد. وقتی برای اولین بار این اصطلاح را شنیدم، متوجه شدم که من، مانند اکثر افرادی که می‌شناسم، بیشتر زندگی‌ام را در حالت توجه جزئی مداوم زندگی می‌کنم، چه با احساس گناه گوشی‌ام را چک می‌کنم وقتی قرار است با فرزندانم بازی کنم، یا دائماً با پیامک‌ها و ایمیل‌ها حواسم پرت می‌شود وقتی سعی می‌کنم چیزی بنویسم، یا سعی می‌کنم در حین تماشای نتفلیکس آرامش پیدا کنم و همزمان خرید آنلاین مواد غذایی انجام می‌دهم، و هنوز تعجب می‌کنم که چرا مثل یک شام بیش از حد گرم شده در مایکروویو احساس آرامش می‌کنم. چند وظیفگی دیجیتال به ما احساس کارآمدی می‌دهد، اما این اغلب توهمی است. استون به من می‌گوید: "شما احساس کاذب تسلط بر امور را دارید بدون اینکه هرگز به عمق چیزی برسید." این همچنین باعث می‌شود که شما دائماً در حالت آماده‌باش باشید: یک مطالعه که او انجام داد نشان داد که ۸۰٪ از مردم هنگام بررسی ایمیل‌های خود دچار "آپنه صفحه نمایش" می‌شوند: آن‌ها آنقدر در اعلان‌های بی‌پایان گرفتار می‌شوند که نفس کشیدن صحیح را فراموش می‌کنند. او می‌گوید: "سیستم جنگ و گریز شما فعال می‌شود، زیرا دائماً در تلاش هستید تا بر امور مسلط بمانید"، و این بیش‌هوشیاری هزینه‌های شناختی دارد: باعث می‌شود ما بیشتر فراموش کنیم، در تصمیم‌گیری‌ها بدتر عمل کنیم و کمتر توجه کنیم.
توجه جزئی مداوم هم زوال مغز را به عنوان یک وضعیت ذهنی توضیح می‌دهد – زیرا این وضعیت چیزی نیست جز غلبه شناختی، نقطه‌ای که در آن شما دیگر در برابر هجوم حواس‌پرتی دیجیتال مقاومت نمی‌کنید و به مغزتان اجازه می‌دهید در آب‌های گرم و گل‌آلود اینترنت آرام بگیرد – و هم وجود خود محتوای بی‌ارزش آنلاین را. به هر حال، آنچه از نظر مالی برای شرکت‌های فناوری مهم است، این نیست که شما می‌خواهید آنچه را که می‌خوانید، بخوانید، یا اینکه آنچه را که گوش می‌دهید یا می‌بینید، دوست دارید، بلکه فقط این است که شما نمی‌توانید یا نمی‌خواهید خود را کنار بکشید. به همین دلیل است که خدمات پخش مانند نتفلیکس فیلم‌های ملایم و فرمول‌محور را تولید می‌کنند که با نام مستعار "تماشای معمولی" شناخته می‌شوند و به معنای واقعی کلمه برای بینندگانی طراحی شده‌اند که واقعاً تماشا نمی‌کنند، و لیست‌های پخش اسپاتیفای پر از موسیقی‌های عمومی و کلیشه‌ای از هنرمندان جعلی است تا موسیقی پس‌زمینه، حالات "آرامش‌بخش" یا "مهمانی" را برای شنوندگانی فراهم کنند که واقعاً گوش نمی‌دهند. به طور خلاصه، اینترنت مدرن لزوماً شما را احمق نمی‌کند، اما قطعاً شما را برای عمل کردن مانند یک احمق آماده می‌کند.
در چنین فضایی بود که هوش مصنوعی مولد با پیشنهادی کاملاً جدید از راه رسید. تا همین اواخر، شما تنها می‌توانستید به فناوری برای به خاطر سپردن و برخی پردازش‌های داده برون‌سپاری کنید؛ اکنون می‌توانید خود فکر کردن را برون‌سپاری کنید. با توجه به اینکه ما بیشتر زندگی‌مان را در حالت تحریک بیش از حد و خستگی می‌گذرانیم، جای تعجب نیست که بسیاری از فرصت سپردن کارهایی را که قبلاً خودمان انجام می‌دادیم – مانند نوشتن گزارش‌های کاری یا ایمیل‌ها، یا برنامه‌ریزی یک تعطیلات – به کامپیوتر مغتنم شمرده‌اند. همانطور که از عصر اینترنت به عصر هوش مصنوعی منتقل می‌شویم، آنچه مصرف می‌کنیم نه تنها اطلاعات کم‌ارزش و فوق‌پردازش‌شده بیشتری است، بلکه اطلاعاتی است که اساساً از پیش هضم شده و به گونه‌ای ارائه می‌شود که عملکردهای مهم انسانی، مانند ارزیابی، فیلتر کردن و خلاصه‌سازی اطلاعات، یا در واقع بررسی یک مشکل به جای تزیین اولین راه‌حل ارائه‌شده به ما را دور بزند.
مایکل گرلیش، رئیس مرکز پیش‌بینی استراتژیک شرکت‌ها و پایداری در مدرسه کسب و کار اس‌بی‌اس سوئیس، مطالعه تأثیر هوش مصنوعی مولد بر تفکر انتقادی را آغاز کرد زیرا متوجه کاهش کیفیت بحث‌های کلاسی شد. گاهی اوقات او به دانشجویان خود یک تمرین گروهی می‌داد، و آن‌ها به جای صحبت با یکدیگر، در سکوت می‌نشستند و لپ‌تاپ‌های خود را بررسی می‌کردند. او با اساتید دیگر صحبت کرد، که آن‌ها نیز چیزی مشابه را مشاهده کرده بودند. گرلیش اخیراً یک مطالعه با ۶۶۶ نفر در سنین مختلف انجام داد و دریافت که کسانی که بیشتر از هوش مصنوعی استفاده می‌کنند، در تفکر انتقادی نمرات پایین‌تری کسب کردند. (همانطور که او اشاره می‌کند، تا به امروز کار او تنها شواهدی برای همبستگی بین این دو ارائه می‌دهد: ممکن است افرادی با توانایی‌های تفکر انتقادی پایین‌تر بیشتر به هوش مصنوعی اعتماد کنند، برای مثال.)
آیا مدارس برای پرورش متفکران خلاق مجهز هستند – یا سیستم آموزشی قرار است ماشین‌های مقاله‌نویس بی‌فکر و ساده‌لوح تولید کند؟
مانند بسیاری از محققان، گرلیش معتقد است که هوش مصنوعی، اگر به درستی استفاده شود، می‌تواند ما را باهوش‌تر و خلاق‌تر کند – اما روشی که اکثر مردم از آن استفاده می‌کنند، کارهای ملایم، بی‌تخیل و از نظر واقعیت مشکوک تولید می‌کند. یکی از نگرانی‌ها، "اثر لنگر اندازی" نامیده می‌شود. اگر سوالی را در هوش مصنوعی مولد مطرح کنید، پاسخی که به شما می‌دهد مغز شما را در یک مسیر ذهنی خاص قرار می‌دهد و احتمال اینکه رویکردهای جایگزین را در نظر بگیرید، کاهش می‌دهد. او می‌گوید: "من همیشه از این مثال استفاده می‌کنم: یک شمع را تصور کنید. اکنون، هوش مصنوعی می‌تواند به شما در بهبود شمع کمک کند. شمع روشن‌ترین خواهد بود، طولانی‌ترین مدت خواهد سوخت، بسیار ارزان و شگفت‌انگیز به نظر خواهد رسید، اما هرگز به لامپ تبدیل نخواهد شد." برای رسیدن از شمع به لامپ، به یک انسان نیاز دارید که در تفکر انتقادی خوب باشد، کسی که ممکن است رویکردی آشفته، بدون ساختار و غیرقابل پیش‌بینی برای حل مسئله اتخاذ کند. وقتی، همانطور که در بسیاری از محیط‌های کاری اتفاق افتاده است، شرکت‌ها ابزارهایی مانند ربات چت کپی‌لایت (Copilot) را بدون ارائه آموزش مناسب هوش مصنوعی ارائه می‌دهند، خطر تولید تیم‌هایی از شمع‌سازان قابل قبول را در دنیایی که به لامپ‌های پربازده نیاز دارد، دارند.
همچنین یک مسئله بزرگ‌تر وجود دارد که بزرگسالانی که از هوش مصنوعی به عنوان یک میان‌بر استفاده می‌کنند، حداقل از گذراندن سیستم آموزشی در سال‌هایی که امکان نوشتن تکالیف توسط کامپیوتر وجود نداشت، بهره‌مند شده‌اند. یک نظرسنجی اخیر بریتانیایی نشان داد که ۹۲٪ از دانشجویان دانشگاه از هوش مصنوعی استفاده می‌کنند و حدود ۲۰٪ از هوش مصنوعی برای نوشتن کل یا بخشی از یک تکلیف استفاده کرده‌اند. در این شرایط، چقدر در حال یادگیری هستند؟ آیا مدارس و دانشگاه‌ها هنوز برای تولید متفکران خلاق و اصیل که جوامع بهتر و باهوش‌تری را خواهند ساخت، مجهز هستند – یا سیستم آموزشی قرار است ماشین‌های مقاله‌نویس بی‌فکر، ساده‌لوح و با هوش مصنوعی را به بازار عرضه کند؟
سال‌ها پیش، مت مایلز، معلم روانشناسی در دبیرستانی در ویرجینیا در ایالات متحده، به یک برنامه آموزشی در مورد فناوری در مدارس فرستاده شد. به معلمان ویدئویی نشان داده شد که در آن یک دانش‌آموز دختر در حین درس در حال بررسی گوشی خود است. در ویدئو، او نگاهش را بالا می‌اندازد و می‌گوید: "شما فکر می‌کنید من فقط در تیک‌تاک هستم یا بازی می‌کنم. من در واقع در یک اتاق تحقیق هستم و با یک محقق آب از بوتسوانا برای یک پروژه صحبت می‌کنم."
مایلز می‌گوید: "خنده‌دار است. شما آن را به بچه‌ها نشان می‌دهید و همه می‌خندند، درست است؟" مایلز که از این disconnect (عدم ارتباط) بین نحوه نگاه سیاست‌گذاران به فناوری در آموزش و آنچه معلمان در کلاس درس می‌دیدند، نگران بود، در سال ۲۰۱۷ به همراه همکارش جو کلمنت، که اقتصاد و علوم سیاسی تدریس می‌کند، کتاب "Screen Schooled" (مدرسه صفحه‌نمایشی) را منتشر کرد که استدلال می‌کرد استفاده بیش از حد از فناوری باعث احمق شدن کودکان می‌شود. در سال‌های پس از آن، استفاده از گوشی‌های هوشمند در کلاس‌های آن‌ها ممنوع شد، اما دانش‌آموزان همچنان با لپ‌تاپ‌های خود کار می‌کنند. مایلز می‌گوید: "یکی از بچه‌ها به ما گفت، و فکر می‌کنم این بسیار بصیرت‌بخش بود، 'اگر من را در حال استفاده از گوشی ببینید، ۰% احتمال دارد که کار مفیدی انجام دهم. اگر من را در حال استفاده از لپ‌تاپ ببینید، ۵۰% احتمال دارد.'"
در اصل آنچه با این فناوری‌ها اتفاق می‌افتد این است که ما در حال آزمایش روی کودکان هستیم.
فیت بونینگر، محقق دانشگاه کلرادو، مشاهده می‌کند که تا پیش از همه‌گیری، بسیاری از معلمان "به درستی نسبت به مزایای معرفی فناوری بیشتر به کلاس درس تردید داشتند"، اما زمانی که قرنطینه مدارس را مجبور به آنلاین شدن کرد، یک وضعیت عادی جدید ایجاد شد و پلتفرم‌های فناوری آموزشی مانند گوگل ورک‌اسپیس برای آموزش، کاهوت! و زیرن در همه جا فراگیر شدند. با گسترش هوش مصنوعی مولد، وعده‌های جدیدی داده شد که این فناوری می‌تواند آموزش را متحول کند و عصری از یادگیری شخصی‌سازی شده دانش‌آموز را آغاز کند، در حالی که بار کاری معلمان را نیز کاهش می‌دهد. اما تقریباً تمام تحقیقاتی که فوایدی برای معرفی فناوری در کلاس درس یافته‌اند، توسط صنعت فناوری آموزشی تأمین مالی شده‌اند، و بیشتر تحقیقات مستقل در مقیاس بزرگ نشان داده‌اند که زمان استفاده از صفحه نمایش مانع پیشرفت می‌شود. برای مثال، یک مطالعه جهانی OECD نشان داد که هرچه دانش‌آموزان بیشتر از فناوری در مدارس استفاده کنند، نتایجشان بدتر است. وین هولمز، استاد مطالعات انتقادی هوش مصنوعی و آموزش در دانشگاه کالج لندن، می‌گوید: "به سادگی هیچ مدرک مستقلی در مقیاس وسیع برای اثربخشی این ابزارها وجود ندارد… در اصل آنچه با این فناوری‌ها اتفاق می‌افتد این است که ما در حال آزمایش روی کودکان هستیم. اکثر افراد منطقی به یک بار نمی‌روند و با کسی ملاقات نمی‌کنند که بگوید، 'هی، من این داروی جدید را دارم. برای شما واقعاً خوب است' – و فقط از آن استفاده کنند. به طور کلی، ما انتظار داریم داروهایمان به شدت آزمایش شوند، انتظار داریم توسط متخصصان برای ما تجویز شوند. اما ناگهان وقتی درباره فناوری آموزشی صحبت می‌کنیم، که ظاهراً برای مغزهای در حال رشد کودکان بسیار مفید است، نیازی به انجام این کارها نداریم."
آنچه مایلز و کلمنت را نگران می‌کند نه تنها این است که دانش‌آموزانشان دائماً توسط دستگاه‌هایشان حواس‌پرتی دارند، بلکه این است که وقتی پاسخ‌های سریع تنها با یک کلیک فاصله دارند، مهارت‌های تفکر انتقادی و دانش عمیق را توسعه نخواهند داد. در گذشته کلمنت از کلاسش سوالی می‌پرسید، مثلاً "به نظر شما ایالات متحده از نظر تولید ناخالص داخلی سرانه در چه رتبه‌ای قرار دارد؟" و دانشجویانش را در حین حل مسئله راهنمایی می‌کرد، اکنون کسی قبل از اینکه او سوالش را تمام کند، جواب را گوگل کرده است. آن‌ها می‌دانند که دانش‌آموزان دائماً از چت‌جی‌پی‌تی استفاده می‌کنند و اگر یک کپی دیجیتال از تکلیفشان ارائه نشود، ناراحت می‌شوند، زیرا در این صورت باید به جای کپی و چسباندن سوالات مرتبط در دستیار هوش مصنوعی یا نوار جستجوی گوگل، آن‌ها را تایپ کنند. کلمنت می‌گوید: "توانایی گوگل کردن چیزی و ارائه پاسخ صحیح، دانش نیست. و داشتن دانش فوق‌العاده مهم است تا وقتی چیزی را می‌شنوید که مشکوک یا شاید جعلی است، فکر کنید، 'صبر کنید، این با تمام دانشی که من دارم و چیز دیگری می‌گوید، در تضاد است، درست است؟' جای تعجب نیست که تعداد زیادی احمق در حال گشت و گذار هستند که فکر می‌کنند زمین تخت است. مثلاً، اگر یک وبلاگ زمین تخت را بخوانید، فکر می‌کنید، 'آه، این خیلی منطقی به نظر می‌رسد' چون هیچ درک یا دانشی ندارید." اینترنت در حال حاضر غرق در تئوری توطئه و اطلاعات غلط است، چیزی که با توهمات هوش مصنوعی و تولید جعلیات باورپذیر تنها بدتر خواهد شد، و او نگران است که جوانان به درستی برای پیمایش در آن مجهز نیستند.
مایلز می‌گوید، در دوران همه‌گیری، پسر کوچکش را در حال گریه بر روی تبلت مدرسه‌ای‌اش پیدا کرد. پسرش در حال انجام یک برنامه ریاضی آنلاین بود و وظیفه داشت با استفاده از کمترین تعداد نشانه‌های یک، سه و پنج، عدد شش را بسازد. او مدام پیشنهاد استفاده از دو سه را می‌داد و کامپیوتر مدام به او می‌گفت که اشتباه می‌کند. مایلز یک و پنج را امتحان کرد، که کامپیوتر آن را پذیرفت. مایلز مشاهده می‌کند: "این نوع کابوسی است که با هوش مصنوعی غیرانسانی روبرو می‌شوید، درست است؟" دانشجویان اغلب به موضوعات به روش‌های غیرمنتظره و جالبی نزدیک می‌شوند، اما ماشین‌ها در کنار آمدن با ویژگی‌های فردی و خاص مشکل دارند. اما با شنیدن داستان او، من تحت تأثیر نوع دیگری از کابوس قرار گرفتم. شاید طلوع عصر طلایی جدید حماقت زمانی آغاز نمی‌شود که ما تسلیم ماشین‌های فوق‌هوشمند می‌شویم؛ بلکه زمانی آغاز می‌شود که قدرت را به ماشین‌های احمق واگذار می‌کنیم.