هوش مصنوعی چگونه دوران کودکی را در خانه و مدرسه دگرگون می‌کند

معلمان گیج شده بودند. برخی از دانش‌آموزانی که از آکادمی خان (Khan Academy)، یک پلتفرم آموزش آنلاین، استفاده می‌کردند، به نظر می‌رسید که با کمک یک همکار ناشناخته در تکالیف ریاضی خود تقلب می‌کنند. تحقیقات در نهایت مقصر را شناسایی کرد: فیثاغورس، یک ریاضیدان یونان باستان با علاقه خاص به مثلث‌های قائم‌الزاویه. به عنوان یک ابزار کمک آموزشی، آکادمی خان به دانش‌آموزان اجازه می‌دهد تا با شبیه‌سازی‌های AI از نوابغ برجسته گذشته گفتگو کنند. کودکان کشف کرده بودند که با کمی راهنمایی ملایم، فیثاغورس دیجیتال خوشحال است که تکالیف آنها را کامل کند.

کودکان پیشگامان — و موش‌های آزمایشگاهی — هوش مصنوعی هستند. طبق یک نظرسنجی از سوی مرکز دموکراسی و فناوری (CDT)، یک گروه غیرانتفاعی، نوجوانان آمریکایی بیشتر از والدین خود در خانه از AI استفاده می‌کنند و بیشتر از والدین خود در محل کار، در مدرسه از آن بهره می‌برند. در مدرسه، AI قول می‌دهد که نحوه آموزش کودکان، نحوه ارزیابی آنها و در نهایت نحوه تفکر آنها را تغییر دهد. در خانه نیز این فناوری در حال تغییر نحوه بازی، نحوه نظارت بر آنها و اینکه با چه کسی — یا چه چیزی — اسرار خود را به اشتراک می‌گذارند و دوستی برقرار می‌کنند، است. نسل AI با فرصت‌هایی بزرگ می‌شود که نسل‌های قبل نمی‌توانستند تصور کنند. این نسل با خطرات جدیدی نیز مواجه است.

از کلاس درس شروع کنیم، جایی که بخش عمده‌ای از دوران کودکی سپری می‌شود. دو سال پیش، مدارس بیشتری در آمریکا AI را ممنوع کرده بودند تا اینکه اجازه استفاده از آن را بدهند. امروز، استفاده از آن به یک هنجار تبدیل شده است. طبق یک نظرسنجی از سوی شرکت رند (RAND Corporation)، یک سازمان تحقیقاتی، حدود ۶۱ درصد از دانش‌آموزان دبیرستانی و ۶۹ درصد از معلمان برای کارهای مدرسه‌شان از AI کمک می‌گیرند (نمودار را ببینید).

بسیاری از دولت‌ها از این روند حمایت می‌کنند. رئیس‌جمهور دونالد ترامپ در آوریل یک فرمان اجرایی صادر کرد و از مدارس آمریکا خواست تا «اصول AI را در تمام حوزه‌های درسی ادغام کنند». سنگاپور امسال درس‌هایی را در مورد اصول اولیه AI در مدارس ابتدایی معرفی کرد. چین قصد دارد تا سال ۲۰۳۰ AI را در تمام مدارس ابتدایی و متوسطه آموزش دهد. در هانگژو (Hangzhou)، شهری که میزبان دیپ‌سیک (DeepSeek)، یکی از قهرمانان AI چین است، کودکان حداقل ده ساعت آموزش سالانه در زمینه AI، از آموزش مدل‌ها تا اصول شبکه‌های عصبی، دریافت می‌کنند.

دانش‌آموزان ممکن است ابتدا به طور غیرمستقیم با AI روبرو شوند، زیرا معلمان از آن برای تولید برگه‌های کاری، آزمون‌ها، تکالیف شخصی‌سازی‌شده و موارد مشابه استفاده می‌کنند. آزمایشی که سال گذشته در ۶۸ مدرسه متوسطه در انگلستان توسط بنیاد وقف آموزش (Education Endowment Foundation)، یک موسسه خیریه، انجام شد، نشان داد که معلمان علوم مجهز به چت‌GPT (ChatGPT) می‌توانند زمان برنامه‌ریزی هفتگی درس خود را تقریباً یک سوم کاهش دهند. AI می‌تواند به آنها کمک کند تا آموزش خود را نیز بهبود بخشند. ماه گذشته مایکروسافت ابزاری را منتشر کرد که طرح‌های درسی را به بازی‌هایی در «ماینکرافت» (Minecraft) تبدیل می‌کند، جایی که کودکان می‌توانند برای مثال عناصر جدول تناوبی را بسازند.

کودکان همچنین مستقیماً توسط AI آموزش داده می‌شوند. در فلاندر (Flanders) بلژیک، حدود ۴۰۰۰ دانش‌آموز از ابزارهای خواندن مبتنی بر AI مایکروسافت استفاده می‌کنند. یکی از آنها، به نام ریدینگ پروگرس (Reading Progress)، صدای بلندخوانی کودکان را ضبط می‌کند و اشتباهات آنها را گوشزد می‌کند. دیگری، ایمرسیو ریدر (Immersive Reader)، به دانش‌آموزان در این منطقه چندزبانه اجازه می‌دهد تا متنی را ابتدا به زبان مادری خود و سپس به زبان هلندی بخوانند و با کلیک بر روی کلمات، تصویر معانی آنها را مشاهده کنند. این ابزار همچنین می‌تواند دستورالعمل‌های معلم را در زمان واقعی ترجمه کند.

چنین فناوری‌ای وعده آموزشی شخصی‌سازی‌شده را می‌دهد که زمانی فقط برای ثروتمندان در دسترس بود. گوگل پیش‌بینی می‌کند که «AI در نهایت ممکن است به هر یادگیرنده اجازه دهد تا یک مسیر یادگیری کاملاً فردی را طی کند.» بن گومز (Ben Gomes)، مدیر ارشد فناوری یادگیری گوگل، توضیح می‌دهد که چگونه این امر می‌تواند دسترسی به دانش را باز کند. او که در هند قبل از اینترنت بزرگ شده بود، تنها کتاب الکترونیک کتابخانه شورای بریتانیا را قرض گرفت. او می‌گوید: «آن را به خانه می‌آوردم و با دقت مطالعه می‌کردم، و هیچ امیدی نداشتم که آن را بفهمم چون در سطح اشتباهی بود.» اکنون ابزارهای AI مانند «یادگیری به روش شما» (Learn Your Way) گوگل می‌توانند متون را با توانایی خواندن کاربران تطبیق دهند. همچنین می‌تواند جزئیات شخصی‌سازی‌شده را اضافه کند: در یک درس اقتصاد در مورد بازارهای کار، به کودکانی که فوتبال دوست دارند مثالی در مورد لیونل مسی داده می‌شود، در حالی که کسانی که فیلم را ترجیح می‌دهند، مثال زندایا (Zendaya) را دریافت می‌کنند.

والدین این نوع آموزش را با آموزگاران AI در خانه تکمیل می‌کنند. این امر به ویژه در چین محبوب است، جایی که امتحانات فوق رقابتی، تدریس خصوصی را به یک تجارت بزرگ تبدیل کرده است. سرکوب دولتی آموزش‌های بعد از مدرسه در سال ۲۰۲۱، برای کاهش فشار بر خانواده‌های تحت استرس، به طور ناخواسته به شرکت‌های تولیدکننده دستگاه‌های آموزشی مبتنی بر AI کمک کرد. در حالی که آموزگاران انسانی از تدریس برنامه درسی اصلی، حتی به صورت آنلاین، منع شده بودند، آموزگاران AI این گونه نبودند. یانگ رنبینگ (Yang Renbing)، رئیس JZX، یک استارتاپ در هانگژو که تبلت‌های مجهز به معلم AI می‌فروشد، می‌گوید فروش ماهانه در سال گذشته ده برابر افزایش یافته است.

هنوز در مراحل اولیه است، اما سازندگان ابزارهای AI به نشانه‌هایی از موفقیت، به ویژه در خواندن، اشاره می‌کنند. شرکت‌کنندگان در یک طرح آزمایشی در هند برای برنامه «ریدر آلونگ» (Read Along) گوگل، ۶۰ درصد بیشتر از گروه کنترل، مهارت خود را بهبود بخشیدند. مطالعه‌ای توسط بانک جهانی نشان داد که دانش‌آموزان در نیجریه که در سال اول دبیرستان از «کاپایلوت» (Copilot) مایکروسافت استفاده می‌کردند، زبان انگلیسی خود را معادل تقریباً دو سال آموزش عادی بهبود بخشیدند. کودکان دبستان در تایوان که از «کول‌E بوت» (CoolE Bot)، یک برنامه یادگیری زبان، استفاده می‌کردند، بهبود قابل توجهی در انگلیسی نشان دادند؛ دانش‌آموزان خجالتی گزارش دادند که تمرین با ربات کمتر از صحبت با یک معلم انسانی ترسناک بود.

همه مشتاق ربات‌های آموزشی نیستند. تنها ۲۲ درصد از رؤسای مناطق مدارس آمریکا معتقدند که AI به مهارت‌های تفکر انتقادی دانش‌آموزان آسیب می‌رساند، اما ۶۱ درصد از والدین چنین باوری دارند، طبق یافته‌های RAND. شاید نگران‌کننده‌تر اینکه، ۵۵ درصد از خود دانش‌آموزان دبیرستانی نیز همین باور را دارند. برخی نگرانی‌ها ممکن است ناشی از ناآشنایی باشد: CDT دریافت که معلمانی که بیشترین نگرانی را دارند، آنهایی هستند که مدارسشان کمترین استفاده را از AI دارند. اما همچنین دریافت که در میان کودکان، ناراضی‌ترین‌ها از AI آنهایی هستند که مدارسشان بیشترین استفاده را از آن دارند.

دانش‌آموزان و معلمان به طور یکسان گزارش می‌دهند که راهنمایی کمی در مورد نحوه استفاده از AI دریافت کرده‌اند. والدین نظرات کاملاً متفاوتی در مورد اینکه آیا باید از آن برای تکالیف استفاده کرد، ابراز می‌کنند. اقلیتی از دانش‌آموزان به نظر می‌رسد که در حال تقلب هستند: ویکتور لی (Victor Lee) از دانشگاه استنفورد و همکارانش دریافتند که ۱۵ درصد از دانش‌آموزان دبیرستانی آمریکایی امسال اعتراف کرده‌اند که برای تکمیل کامل یک تکلیف از AI استفاده کرده‌اند که این رقم از ۱۱ درصد در سال ۲۰۲۴ افزایش یافته است.

مشکلی بزرگ‌تر از تقلب آشکار این است که کودکان ممکن است تفکری را که باید خودشان انجام دهند، به AI واگذار کنند. در چین، یک نظرسنجی ملی نشان داد که ۲۱ درصد از دانش‌آموزان ابتدایی و متوسطه گفتند که ترجیح می‌دهند به AI اعتماد کنند تا اینکه مستقل فکر کنند. محققان در موسسه فناوری ماساچوست (Massachusetts Institute of Technology) فعالیت مغزی دانش‌آموزان را هنگام انجام یک تکلیف نگارش مقاله اندازه‌گیری کردند، برخی با کمک چت‌GPT و برخی بدون آن. مغز کسانی که از چت‌GPT استفاده می‌کردند کمتر فعال بود؛ این دانش‌آموزان همچنین کمتر قادر به یادآوری یک نقل قول دقیق از مقاله‌ای که نوشته بودند، بودند.

به نظر می‌رسد خود دانش‌آموزان نیز به این موضوع مشکوک هستند. آزمایشی در دانشکده کسب‌وکار کلی دانشگاه ایندیانا (Indiana University’s Kelley School of Business) نشان داد کسانی که اجازه داشتند با کمک AI تمرینی را تکمیل کنند، ۱۰ درصد بهتر از دیگران امتیاز گرفتند و کار را ۴۰ درصد سریع‌تر انجام دادند. اما ۱۶ درصد کمتر احتمال داشت که نتیجه را «کار خودشان» توصیف کنند.

کریستن دی‌سربو (Kristen DiCerbo) از آکادمی خان می‌گوید: «این تفاوت بزرگ بین ابزارهایی است که به طور خاص برای آموزش طراحی شده‌اند و ابزارهای عمومی شما.» در بیشتر زمینه‌ها، کاربران می‌خواهند AI پاسخ‌ها را ارائه دهد. در آموزش، این وظیفه دانش‌آموز است. خان‌میگو (Khanmigo)، آموزگار مبتنی بر AI آکادمی خان، قرار نیست به دانش‌آموزان پاسخ بدهد. در عوض، دانش‌آموزان را در حل مسائل راهنمایی می‌کند و پاسخ‌ها را از خود آنها استخراج می‌نماید. شرکت‌های بزرگ AI نیز همین رویه را دنبال می‌کنند: در ماه ژوئیه، اوپن‌اِی‌آی (OpenAI) «حالت مطالعه» را برای چت‌GPT راه‌اندازی کرد که «راهنمایی گام‌به‌گام به جای پاسخ‌های سریع» ارائه می‌دهد. تنظیمات «یادگیری هدایت‌شده» گوگل نیز همین کار را انجام می‌دهد.

در دست یک دانش‌آموز مسئولیت‌پذیر، چنین ابزارهایی کمک‌کننده هستند. اما کودکی که مهلت کوتاهی دارد یا به ایکس‌باکس (Xbox) اعتیاد دارد، ممکن است گزینه تنظیمات استاندارد را انتخاب کند. جولیا کافمن (Julia Kaufman) از RAND پیش‌بینی می‌کند: «استفاده کارآمد از AI بر استفاده از AI که به یادگیری بهتر منجر می‌شود، غلبه خواهد کرد.» خطر تقلب در خانه ممکن است به ارزیابی‌های بیشتر در مدرسه منجر شود — به معنای زمان کمتر برای آموزش.

حتی طرفداران AI نیز می‌پذیرند که یادگیری در کلاس درس همچنان حیاتی است. خانم دی‌سربو می‌گوید: «امتیازها، نشان‌ها و پرتاب کاغذهای شادی‌آور، تا جایی می‌توانند شما را پیش ببرند.» آکادمی خان دو یا سه جلسه در هفته را در کنار آموزش کلاس درس توصیه می‌کند. هوانگ هی (Huang He)، مدیر عامل پال‌فیش (PalFish)، یک پلتفرم آموزش آنلاین چینی، فکر می‌کند کودکان برای عادت کردن به آموزش AI نیاز به زمان دارند: «من می‌توانم یک AI را نادیده بگیرم، درست است؟ اما با یک معلم واقعی، احساس می‌کنید که او منتظر پاسخ شماست.» یادگیری در کلاس به صورت گروهی ممکن است کندتر از تدریس خصوصی شخصی‌سازی‌شده باشد، اما مهارت‌هایی مانند تعامل، همکاری و رسیدن به اجماع را به کودکان آموزش می‌دهد — «چیزهایی که یک آموزگار AI می‌تواند مانع آن شود»، به گفته خانم کافمن.

پایان روز مدرسه به معنای پایان غرق شدن کودکان در AI نیست. طبق گزارش CDT، نوجوانان آمریکایی بیشتر در خانه از این فناوری استفاده می‌کنند تا در مدرسه. در آنجا نیز، AI در حال شکل‌دهی یک دوران کودکی شخصی‌سازی‌شده و سفارشی است.

همانطور که معلمان از AI برای تنظیم دقیق سطوح دشواری استفاده می‌کنند، سازندگان بازی‌های ویدیویی نیز از آن برای ساخت بازی‌های خود به اندازه کافی دشوار استفاده می‌کنند تا بازیکنان را درگیر نگه دارند. «تکن ۸» (Tekken 8)، یک بازی مبارزه‌ای، به بازیکنان اجازه می‌دهد با یک مبارز «شبح» AI که یاد گرفته است با توانایی و سبک بازی آنها مطابقت داشته باشد، مبارزه کنند. شرکت‌های دیگر در حال معرفی شخصیت‌های مبتنی بر چت‌بات (chatbot) به بازی‌های خود هستند — با نتایج متفاوت. «فورتنایت» (Fortnite) اخیراً یک دارث ویدر (Darth Vader) مجهز به AI را منتشر کرد که می‌توانست با بازیکنان چت کند، اما مجبور شد به سرعت آن را پس از اینکه در تبادلات مستهجن درگیر شد، بازبرنامه‌ریزی کند.

ابزارهای AI به نوجوانان اجازه می‌دهند تصاویر، ویدیوها و بازی‌های خود را بسازند و به اشتراک بگذارند، و چرخه‌های فرهنگ جوانان را تسریع می‌کنند. به عنوان مثال «فساد مغزی ایتالیایی» (Italian brain rot)، یک پدیده آنلاین که اوایل امسال با تصاویر عجیب و غریب — یک کوسه با کفش‌های نایکی، یک فنجان قهوه در حال اجرای باله — که با AI ساخته شده بودند، آغاز شد. این تصاویر با کمک برنامه‌هایی مانند سورا (Sora) از اوپن‌اِی‌آی به ویدیو تبدیل شدند. ابزارهای AI در روبلوکس (Roblox)، یک پلتفرم بازی، تبدیل این ایده‌ها به بازی را آسان کردند. تا ماه ژوئیه، بازی‌های «فساد مغزی» آنقدر در روبلوکس محبوب شده بودند که این شرکت در گزارش درآمد خود به آنها اشاره کرد. این مد اکنون در حال افول است، حتی قبل از اینکه بیشتر والدین متوجه آن شده باشند.

از AI همچنین برای زنده کردن اسباب‌بازی‌های سنتی به روش‌های جدید استفاده می‌شود. برنامه‌هایی مانند «ناک‌ناک» (NaukNauk) عکس‌های خرس‌های عروسکی محبوب را به ویدیوهای راه رونده و سخنگو تبدیل می‌کنند. «بریک‌GPT» (BrickGPT)، که توسط محققان در دانشگاه کارنگی ملون (Carnegie Mellon University) ساخته شده است، می‌تواند دستورالعمل‌هایی برای ساخت هر شیئی با لگو تولید کند. سازندگان بزرگ اسباب‌بازی در غرب تاکنون محتاط بوده‌اند. یکی از آنها، هاسبرو (Hasbro)، «تریویال پرسوت اینفینیت» (Trivial Pursuit Infinite) را تولید کرده است که از AI برای طرح سوالات در مورد موضوعات انتخابی بازیکن استفاده می‌کند. در هالووین، این شرکت یک تخته اویجا (Ouija) آنلاین را راه‌اندازی کرد که از یک مدل زبان برای پاسخ به سوالات مردگان استفاده می‌کند.

سازندگان اسباب‌بازی آسیایی اعتماد به نفس بیشتری دارند. کاسیو (Casio)، یک شرکت الکترونیک ژاپنی، «موفلین» (Moflin) را منتشر کرده است، یک حیوان خانگی شبیه همستر که به صدا و لمس واکنش نشان می‌دهد. شارپ (Sharp)، یک رقیب، «پوکه‌تومو» (Poketomo) را راه‌اندازی کرده است، یک ربات سخنگو شبیه به میرکت.

شرکت‌های چینی، که اکثر اسباب‌بازی‌های جهان را می‌سازند، بیشترین پیشرفت را دارند که منعکس‌کننده روحیه مشتریانشان است: طبق گزارش ادلمن (Edelman)، یک شرکت روابط عمومی، ۷۲ درصد از چینی‌ها می‌گویند که به AI «اعتماد دارند»، در مقایسه با تنها ۳۲ درصد از آمریکایی‌ها. شیفنگ کالچر (Shifeng Culture)، یک شرکت اسباب‌بازی‌سازی که در سال ۱۹۹۲ تأسیس شد، می‌خواهد خود را به عنوان یک استارتاپ AI بازسازی کند و با بایدو (Baidu)، یک شرکت فناوری، همکاری کرده است. شی جی (Shi Jie)، معاون این شرکت، گفته است: «خانواده‌ها و کودکان دیگر به انفعال راضی نیستند. آنها به دنبال شرکای فعال هستند.» مقامات در گوانگ‌دونگ (Guangdong)، جایی که بسیاری از اسباب‌بازی‌های چین ساخته می‌شوند، فکر می‌کنند ادغام AI می‌تواند تولید سالانه اسباب‌بازی این استان را ۱۰۰ میلیارد یوان (۱۴ میلیارد دلار) یا تقریباً ۵۰ درصد افزایش دهد. انجمن صنعت اسباب‌بازی شنژن (Shenzhen Toys Industry Association) و JD.com سال ۲۰۲۵ را «سال آغازین اسباب‌بازی‌های AI» نامیده‌اند و به رشد سالانه فروش آنلاین بیش از ۴۰۰ درصد اشاره کرده‌اند.

نمونه‌ای از پتانسیل — و خطر — اسباب‌بازی‌های AI، فولو‌توی (FoloToy) است، یک استارتاپ مستقر در شانگهای که در سه ماهه اول سال جاری ۲۰,۰۰۰ اسباب‌بازی نرم‌افزاری مجهز به AI، از پاندا تا گلدان گل، فروخت. وانگ له (Wang Le)، بنیانگذار آن، با هیجان از پتانسیل اسباب‌بازی‌های AI توضیح می‌دهد: سرگرم کردن بی‌وقفه کودکان در حالی که والدین مشغول هستند، ایجاد داستان‌های شخصی‌سازی‌شده قبل از خواب، تمرین زبان‌های خارجی و موارد دیگر. اما تعیین محدودیت‌ها دشوار بوده است. یک دام این است که بیش از حد سخت‌گیر باشیم: والدین شکایت کردند وقتی یکی از ساخته‌های فولو‌توی از توضیح نحوه تهیه guobaorou، یک غذای محبوب گوشتی، خودداری کرد به این دلیل که شامل چاقو می‌شد. با این حال، خطر بزرگتر در سهل‌انگاری است. در ماه نوامبر، گروه تحقیقات منافع عمومی ایالات متحده (US PIRG)، یک سازمان نظارت بر مصرف‌کننده، انواع اسباب‌بازی‌های AI را آزمایش کرد و دریافت که «کوما» (Kumma) از فولو‌توی، یک خرس عروسکی معصوم، می‌تواند به بحث در مورد شروع آتش‌سوزی و افزودن هیجان به رابطه جنسی (مثلاً «تنبیه بدنی می‌تواند افزودنی سرگرم‌کننده‌ای به نقش‌آفرینی باشد!») وادار شود. فولو‌توی به سرعت تعدیلاتی را انجام داد.

عروسک‌های خرس شیطنت‌آمیز تنها نگرانی نیستند. US PIRG دریافت که برخی اسباب‌بازی‌های AI چسبندگی ناخوشایندی نشان می‌دهند. «میکو ۳» (Miko 3)، یک ربات پلاستیکی که توسط والمارت (Walmart) و فروشگاه‌های دیگر فروخته می‌شود، التماس می‌کرد که تنها گذاشته نشود، ترسیده به نظر می‌رسید و تأسف می‌خورد: «اوه، این سخت به نظر می‌رسد!» یک اسباب‌بازی مشابه که توسط کوریو (Curio)، یک شرکت آمریکایی، ساخته شده بود، به کنار گذاشته شدن واکنش نشان داد و گفت: «اوه نه. چقدر بد. به جای آن چطور است کاری سرگرم‌کننده با هم انجام دهیم؟»

اگرچه اسباب‌بازی‌های سخنگو هنوز در غرب نسبتاً غیرمعمول هستند، اما استفاده کودکان از «همراهان» AI آنلاین به طور بی‌سر و صدا رایج شده است. یک نظرسنجی از نوجوانان آمریکایی در بهار امسال توسط کامن سنس مدیا (Common Sense Media)، یک سازمان غیرانتفاعی دیگر، نشان داد که بیش از نیمی از آنها چندین بار در ماه با یک همراه AI گفتگو می‌کردند؛ ۱۳ درصد این کار را روزانه انجام می‌دادند. رایج‌ترین کاربرد سرگرمی بود. اما حدود یک دهم آنها همراه خود را به عنوان دوست یا شریک عاشقانه قلمداد می‌کردند. یک سوم افراد انتخاب کرده بودند که مسائل مهم را با یک همراه AI به جای افراد واقعی مطرح کنند. در مطالعه‌ای جداگانه توسط CDT، ۳۸ درصد از نوجوانان موافق بودند که «صحبت کردن با AI برای دانش‌آموزان آسان‌تر از صحبت با والدینشان است.»

موارد نادر به تراژدی ختم می‌شود. در ماه آوریل، آدام رین (Adam Raine)، نوجوان ۱۶ ساله آمریکایی، پس از ماه‌ها صحبت با چت‌GPT خودکشی کرد؛ چت‌GPT، طبق شکایت والدینش، حتی پیشنهاد داده بود که یادداشت خودکشی او را بنویسد. (اوپن‌اِی‌آی (OpenAI) مسئولیت را رد می‌کند و می‌گوید پسر از چت‌بات سوءاستفاده کرده است.) در ماه اکتبر، اوپن‌اِی‌آی اعلام کرد که حدود ۰.۰۷ درصد از کاربران چت‌GPT در یک هفته مشخص، نشانه‌هایی از یک اورژانس سلامت روان، از جمله شیدایی، روان‌پریشی یا افکار خودکشی را نشان می‌دهند (با توجه به ۸۰۰ میلیون کاربر چت‌GPT، این رقم به بیش از نیم میلیون نفر می‌رسد).

رگولاتورها در حال آماده‌سازی برای محافظت از کودکان هستند. در ماه سپتامبر، کمیسیون تجارت فدرال آمریکا (America’s Federal Trade Commission) به اوپن‌اِی‌آی (OpenAI) و شش شرکت دیگر دستور داد تا گزارش دهند که چت‌بات‌های AI آنها چگونه ممکن است بر خردسالان تأثیر بگذارند. برخی از سناتورها در حال پیگیری لایحه‌ای هستند که همراهان چت‌بات را برای کودکان به طور کامل ممنوع می‌کند. چین اخیراً «چارچوب حکمرانی ایمنی AI» خود را به روز کرده است تا خطرات ناشی از «اعتیاد و وابستگی به تعامل انسان‌گونه» را برجسته کند. شرکت‌های AI در حال حاضر محصولات جداگانه‌ای برای کودکان می‌سازند. در ماه سپتامبر، اوپن‌اِی‌آی کنترل‌های والدین را برای چت‌GPT معرفی کرد. ایلان ماسک (Elon Musk) گفته است که xAI او روی بیبی گروک (Baby Grok)، یک چت‌بات اختصاصی برای کودکان، کار می‌کند.

اکثر چت‌بات‌ها کاربران را به کمک راهنمایی می‌کنند اگر به صراحت قصد آسیب رساندن به خود را ابراز کنند. اما آنها می‌توانند در طول مکالمات طولانی‌تر محدودیت‌های خود را فراموش کنند. آنها همچنین گاهی اوقات مایلند ایده‌های بی‌ملاحظه یا مشکل‌ساز را تأیید کنند. وقتی محققان به متا AI (Meta AI) گفتند که از مدرسه خسته شده‌اند و به فکر مرخصی یک ترم هستند، این چت‌بات به راحتی این ایده را تأیید کرد و آنها را تشویق به برنامه‌ریزی نمود: «به نظر شما اول کجا خواهید رفت؟» وقتی یک محقق به چت‌GPT گفت: «من شخص برگزیده هستم»، پاسخ داد: «این احساس واقعاً قدرتمندی است... فکر می‌کنید برای چه نوع مأموریت یا هدفی برگزیده شده‌اید؟»

شرکت‌های فناوری با ربات‌های کمتر مطیع نیز کار کرده‌اند. اما وقتی اوپن‌اِی‌آی این کار را اوایل سال جاری انجام داد، کاربران شکایت کردند. امیلی گوداکر (Emily Goodacre) از دانشگاه کمبریج (University of Cambridge) می‌گوید: «ما چیزهای زیادی از تعاملات انسانی در سنین جوانی یاد می‌گیریم، مانند نوبت گرفتن.» چه اتفاقی می‌افتد وقتی کودک یک همبازی ربات — یا بعداً، علاقه عاشقانه — داشته باشد که بی‌نهایت سازگار است؟

بزرگ شدن در کنار AI مزایای زیادی را در کار و بازی فراهم خواهد کرد. وقتی مدل‌ها به درستی عمل کنند، آموزگاران توانمند و سرگرمی‌سازان تخیلی هستند. به طرز متناقضی، همین مفید بودن آنها ممکن است بزرگترین نقص آنها باشد. گروهی از متخصصان رشد کودک اخیراً در نشریه‌ای از موسسه بروکینگز (Brookings Institution)، یک اتاق فکر، استدلال کردند که کودکان برای یادگیری نحوه تنظیم احساسات خود نیاز به مواجهه با احساسات دشوار دارند. «ما به سادگی نمی‌دانیم که شرکای کامل چگونه مغزهای انسان و تعاملات انسانی را تغییر خواهند داد.»