OpenAI در حال راهاندازی تجربهی جدید «چتجیپیتی برای نوجوانان» است که به گفته خود محافظتهای ایمنی بیشتری را برای کاربران نوجوان فراهم میکند. این اقدام در حالی انجام میشود که شرکت با یک رشته دادخواهی مواجه است که ادعا میکنند گفتگوهای نامناسب با چتجیپیتی به آسیب یا مرگ جوانان کمک کرده است.
این تجربه ابزارهای جدید و تعدادی از محافظتهای ایمنی نوجوانان را گرد هم میآورد که OpenAI در طول سال گذشته عرضه کرده است، طبق اعلام این شرکت در یک پست وبلاگ روز سهشنبه.
این موارد شامل یادآوری برای کاربر نوجوان به است فعالیت بیش از ۸۵ دقیقه در یک بازهٔ سهساعته. OpenAI همچنین گزینههایی برای تعیین «ساعات آیام» و «ساعات مطالعه» توسط نوجوانان یا والدین اضافه میکند که در حین آن، حالت است؛«ساعت مطالعه» در آموزش چتجیپیتی بهصورت پیشفرض فعال خواهد بود.
شرکت همچنین گفته است محافظتهای بهتری را برای جلوگیری از ابراز احساسات شخصی چتجیپیتی نسبت به کاربر اضافه کرده است. و حواشی چیرآورهایی اضافه میکند که به نوجوانها هشدار میدهند در صورت تلاش برای بارگذاری یک عکس خصوصی یا حساس در چت، دوباره فکر کنند.
محافظتهای جدید «اقدامات همان پایه سنی متناسب با کاهش قرار گرفتن در معرض محتوای مضر یا رشد مربوطه را اعمال میکند»، طبق شرکت درپست وبلاگ روز سهشنبه، «در عین حفظ توانایی یادگیری، ساخت و اکتشاف».
کاربران که زمان وااسازی حساب خود را زیر ۱۸ سال اعلامیکنند، بهخودکار در تنظیمات محافظتی قرار میگیرند. OpenAI همچنین میگوید از هوش مصنوعی برای تخمین سن کاربران استفاده میکند و این محافظتها را حتی اگر تاریخ تولد در پروفایل نحوه دیگری باشد، برای کاربران مشکوک به زیر را سن حاضر میکند.
تقریباً یک سوم نوجوانان آمریکایی روزانهان دارن چتباتهای هوش مصنوعی استفاده میکنند، یافته مطالعهاست که در دسامبر توسط مرکز پژوهشی پیو منتشر شده است. چتجیپیتی بهصورت فاصلهمحبوبترین چتبات در بررسی بود، و بیش از نیمی از این نوجوانان استفاده آن را گزارش دادهاند.
OpenAI با توجه به نگرانیها در مورد اینکه چتجیپیتی ممکن است نوجوانان را در معرض محتوای نامناسب قرار دهد، احساس تنهایی را تشدید کند یا یادگیری را مهار کند، تحت بازرسی قرار دارد. این شرکت با چندی از دادخواستها از خانوادهها که ادعا میکنند چتجیپیتی به خدکشی فرزندشان کمک کرده یا حتی آن را تشویق کرده، مواجه شده است. شرکت به این حیاتها اعتراض کرده است.
در پاییز گذشته، OpenAI کنترلهایی معرفی کرد که طبق آنها والدین میتوانند ویژگیهایی مثل حافظه و تاریخچه گفتگو را برای چتجیپیتی غیرفعال کنند و وقتی سیستم «لحظهی بحران حاد» را هنگام استفاده فرزندشان از چت شناسایی میکند اعلان دریافت کنند. شرکت روز سهشنبه اعلام کرد در هفتههای آینده هشدارهایی مربوط به اختلالات خوردن برای والدین اضافه خواهد کرد.
از آن زمان، این شرکت همچنان به نقاحدههایی که ادعا میکند چتجیپیتی مسئول آسیب به خشکان طریق است، رویکرد روبروست.
خانوادههای هفت قتی حملهای مدرسهای در تالبرریدج، بریتیش کلمبیا، از OpenAI و مدیر اجرایی سام آلتمن در ماه آور مطالار شدند. آنها ادعا میکنند که چتجیپیتی در مجروح یا مرگءهایشان نقش داشته است، زیرا متهمبه نظر احتمالاً به گفتگوی گستردهای با چتبات درباره خشونت با سلاح داشته است. آلتمن از خانوادهها عذز جدد خواهی کرد. در پاسخ به رایوم، شرکت گفت که قبلاً اشخاص حفاظتی خود را تقویت کرده است.
در ماه ژوئن، ایالت افلوریدا با تصویر OpenAI و آلتمن مقابله کرد و ادعا کرد که آنها ریسکهای ایمنی چتجیپیتیبرای خردسالان را برطرف نکردهاند. شکایت، چتجیپیتی را متهم کرد به کمک به تیراندازان جمعی، تشدید خودکشی، ایجاد «توجیهه عمومی»، معین کردن خردسالان به یک ابزار «بدون نظارت والدین» و باعث از دست دادن مهارتهای «تفکر انتقادی» کاربران. OpenAI در آن زمان گفت که «محافظتها احترامات پیشروی صنعت را قرار داده است».
در هفتهٔ اخیر، دادستان ناحیه ماس Savoius بر اتهام نکود علیه شن ۱۷ در رابطه با مر سواد برادر مادرش را وارد کرد. این نوجوان به گفته دفتر دادورش مه از گفتگوهای چتجیپیتی درباره «ایدههای نظری یا فانتزیهای جسم درباره کشت خانوادهاش» در قبل از حادثه داشته است. OpenAI فوراً در پاسخ به درخواست اظهارنظر درباره پروند پاسخ خود را نداد است.
هداس گولد از CNN در این گزارش کمک کرده است.