تبلیغات برنامه‌هایی که از هوش مصنوعی برای ایجاد ویدیوهای جعلی از بوسیدن افراد استفاده می‌کنند، در پلتفرم‌های رسانه‌های اجتماعی مانند تیک‌تاک و اینستاگرام فراگیر شده است.
توسط راشی شریواستاوا، کارمند فوربس
متا و تیک‌تاک هزاران تبلیغ برای برنامه‌هایی منتشر کرده‌اند که از هوش مصنوعی برای تولید ویدیوهای جعلی بوسیدن افراد استفاده می‌کنند و به کاربران اجازه می‌دهند عکس‌های دو نفر را آپلود کنند و اجازه دهند هوش مصنوعی آنها را به ویدیویی از بوسیدنشان تبدیل کند. این برنامه‌ها به عنوان ابزارهایی به بازار عرضه می‌شوند که به شما امکان می‌دهند فوراً "هر کسی را که می‌خواهید ببوسید" - بدون نیاز به رضایت.
مشابه مفهوم برنامه‌های «برهنه کننده هوش مصنوعی» که پورنوگرافی دیپ‌فیک غیررضایتمندانه تولید می‌کنند، این برنامه‌های بوسیدن مبتنی بر هوش مصنوعی ویدیوهای باورپذیری از افرادی ایجاد می‌کنند که کاری را انجام می‌دهند که انجام نداده‌اند. و سهولتی که با آن این کار را انجام می‌دهند، یک عادت نگران کننده از تصاویر دیپ‌فیک است.
درحالی‌که تبلیغات مانند سیل محتوای پورنوگرافی تولید شده توسط هوش مصنوعی که پلتفرم‌های رسانه‌های اجتماعی مانند اینستاگرام، ردیت و یوتیوب را فرا گرفته است، صریحاً جنسی نیستند، اما می‌توانند به همان اندازه خطرناک باشند، هالی مک‌نامارا، یکی از مدیران مرکز ملی استثمار جنسی به فوربس گفت.
مک‌نامارا گفت: «لازم نیست صریح باشد تا استثمارگرانه باشد.» «اگر عبور از مرزها برای انجام کاری آفلاین با کسی بدون رضایت او باشد، بوسیدن، برهنه کردن و غیره، پس عبور از مرزها برای انجام آن به‌صورت آنلاین نیز هست.»
بررسی فوربس نشان داد که متا بیش از 2500 تبلیغ برای برنامه‌های «بوسیدن با هوش مصنوعی» در اینستاگرام و فیسبوک نمایش داده است. حدود 1000 مورد در حال حاضر فعال هستند. بر اساس کتابخانه تبلیغاتی آن، تیک‌تاک حدود 1000 تبلیغ را به میلیون‌ها کاربر در کشورهای اروپایی نشان داده است. (کتابخانه تبلیغاتی تیک‌تاک تبلیغاتی را که به کاربران مستقر در ایالات متحده نشان داده می‌شود، شامل نمی‌شود) بیشتر این تبلیغات افراد مشهوری مانند اسکارلت جوهانسون، اما واتسون و گال گادوت را در حال بوسیدن یکدیگر نشان می‌دهند. دیگران ویدیوهایی از افراد تصادفی را در حال بوسیدن نشان می‌دهند و می‌گویند که هوش مصنوعی می‌تواند به شما امکان دهد "بوسیدن دوست پسر قبلی خود" و "بوسیدن معشوق خود" را داشته باشید. مشخص نیست که آیا افراد موجود در ویدیوها واقعی هستند یا توسط هوش مصنوعی تولید شده‌اند. جوهانسون، واتسون و گادوت به درخواست‌ها برای اظهار نظر پاسخی ندادند.
متا همچنین برنامه‌های «بغل کردن با هوش مصنوعی» را تبلیغ می‌کند، تبلیغاتی که ویدیوهای تولید شده توسط هوش مصنوعی از کودکانی را نشان می‌دهد که شخصیت‌های کارتونی مانند دورا اکسپلورر، میکی موس و تام و جری را در آغوش می‌گیرند. برخی، مانند ویدیویی که یک دختر جوان را در حال بغل کردن یک مرد مسن نشان می‌دهد، به والدین وعده می‌دهند که برنامه‌های مجهز به هوش مصنوعی می‌توانند به فرزندانشان اجازه دهند «پدربزرگ و مادربزرگ‌هایی را که هرگز ندیده‌اند در آغوش بگیرند». جستجوی فوربس نشان داد که این غول رسانه‌های اجتماعی حدود 1200 تبلیغ برنامه بغل کردن با هوش مصنوعی را اجرا کرده است. بیش از 300 مورد هنوز فعال هستند.
«این روند، دیپ‌فیک‌های استثمارگرانه را عادی می‌کند و مشارکت غیررضایتمندانه در تصاویر صمیمی یا جنسی را به عنوان یک شوخی تلقی می‌کند.»
ویدیوهای تولید شده توسط هوش مصنوعی از بوسیدن و در آغوش گرفتن افراد در حال حاضر در رسانه‌های اجتماعی در حال انتشار هستند. یک ویدیو که تیلور سویفت را در حال در آغوش گرفتن کیم جونگ اون نشان می‌دهد، حدود 30 میلیون بازدید در اینستاگرام دارد. در اواخر دسامبر، یک ویدیوی دیپ‌فیک از ایلان ماسک و جورجیا ملونی، نخست‌وزیر ایتالیا، که همدیگر را می‌بوسند، در X وایرال شد.
دانیل رابرتز، سخنگوی متا به فوربس گفت که این تبلیغات «بوسیدن با هوش مصنوعی» سیاست‌های این شرکت را نقض نمی‌کند. در حالی که برهنگی، محتوای جنسی صریح و جنسی بر خلاف استانداردهای تبلیغات متا است و متا تبلیغاتی را که «اقدامات جنسی با طرف‌های غیررضایتمند را نمایش می‌دهد، از آن حمایت می‌کند یا هماهنگ می‌کند» مجاز نمی‌داند، ویدیوهای بوسیدن و در آغوش گرفتن مجاز هستند.
پس از تماس فوربس، تیک‌تاک این تبلیغات را به دلیل نقض سیاست‌های خود حذف کرد. آریان دو سلیه، سخنگوی تیک‌تاک به فوربس گفت که پلتفرم اشتراک‌گذاری ویدیو از تبلیغ‌کنندگان می‌خواهد که از شخصیت‌های عمومی یا خصوصی که در تبلیغات خود به تصویر کشیده شده‌اند، رضایت بگیرند، حتی اگر تبلیغات توسط هوش مصنوعی تولید شده باشند.
به نظر می‌رسد شرکت‌های سازنده این مولدهای ویدیو بر اساس وب‌سایت‌هایشان در خارج از ایالات متحده در کشورهایی مانند امارات متحده عربی، ایتالیا و چین مستقر هستند. این برنامه‌ها به صورت رایگان در اپ استور اپل و پلی استور گوگل در دسترس هستند و در حال حاضر میلیون‌ها بار دانلود شده‌اند. قابلیت «بوسیدن با هوش مصنوعی» بخشی از مجموعه گسترده‌تری از قابلیت‌های ویرایش عکس مبتنی بر هوش مصنوعی در سراسر برنامه‌ها است، مانند روتوش عکس‌های قدیمی، تبدیل تصاویر ثابت به ویدیوها و پیش‌بینی اینکه نوزادان آینده دو نفر چگونه خواهند بود. اپل و گوگل به درخواست های اظهار نظر پاسخی ندادند.
«برخورد با آن بسیار ترسناک بود.»
انتشار برنامه‌های بوسیدن با هوش مصنوعی، که با همه‌گیری رسانه‌های اجتماعی تقویت می‌شود، نشان‌دهنده رواج نگران‌کننده دیپ‌فیک‌ها در عصر هوش مصنوعی مولد است. مک‌نامارا گفت: استفاده از این برنامه‌های به ظاهر بی‌ضرر می‌تواند در را به روی ابزارهایی باز کند که می‌توانند تصاویر گرافیکی‌تری مانند پورن دیپ‌فیک و سایر انواع سوء استفاده جنسی مبتنی بر تصویر ایجاد کنند. او گفت: "این فقط یک جعبه پاندورا مطلق است."
او گفت: «این روند، دیپ‌فیک‌های استثمارگرانه را عادی می‌کند و مشارکت غیررضایتمندانه در تصاویر صمیمی یا جنسی را به عنوان یک شوخی تلقی می‌کند.» «این نوعی از چیزها است که وقتی به دیگران فکر می‌کنید، بی‌اهمیت جلوه دادن آن آسان است، اما باز هم، اگر به کسی در حوزه خودتان فکر کنید که چنین تصاویری از خودتان می‌سازد، کسی که نمی‌خواهید تصاویری داشته باشد، فکر می‌کنم همه می‌توانند تشخیص دهند که این یک تخلف است.»
این امر به ویژه زمانی نگران کننده است که مواد غیرقانونی سوء استفاده جنسی از کودکان (CSAM) تولید شده با هوش مصنوعی در حال افزایش بی‌سابقه‌ای است. در طول دو سال گذشته، مرکز ملی کودکان گمشده و استثمار شده (NCMEC) بیش از 7000 گزارش در مورد مواد استثمار کودکان مرتبط با هوش مصنوعی مولد دریافت کرده است. در یک مورد، یک کودک آزار ادعا می‌شود که از کودکان در دیزنی لند فیلم گرفته و از ابزار محبوب هوش مصنوعی Stable Diffusion برای تولید هزاران تصویر غیرقانونی از آنها استفاده کرده است. و با دسترسی نامحدود به تولیدکنندگان تصویر هوش مصنوعی، دانش آموزان دبیرستانی نوجوان در چندین مورد، تصاویر برهنه دیپ‌فیک از همکلاسی‌های زیر سن قانونی خود ایجاد کرده‌اند که برخی منجر به اتهامات جنایی شده است. متا همچنین برای نظارت بر تبلیغات برای چنین سایت های "برهنه سازی" هوش مصنوعی تلاش کرده است، یکی از آنها 90 درصد ترافیک خود را از اینستاگرام و فیس بوک دریافت کرده است، بر اساس خبرنامه Faked Up.
افرادی که هنگام مرور رسانه‌های اجتماعی با تبلیغات بوسیدن هوش مصنوعی مواجه شده‌اند، می‌گویند که آنها را مزاحم می‌دانند. در ماه دسامبر، آلیس سیرگار شاهد افزایش تبلیغات برنامه‌های بوسیدن هوش مصنوعی در تیک‌تاک بود. او که خود یک تحلیلگر هوش مصنوعی در یک شرکت مشاوره فناوری است، از اینکه می‌بیند از این فناوری به شیوه‌ای «عمیقاً غیراخلاقی» استفاده می‌شود، مأیوس شده است.
او گفت: «برخورد با آن بسیار ترسناک بود.»
بیشتر از فوربس
پروژه مخفی جدید اریک اشمیت یک پلتفرم ویدیویی هوش مصنوعی به نام 'هوگلی' استتوسط سارا امرسونپنتاگون از هوش مصنوعی برای بررسی کارمندان استفاده می کند - اما فقط زمانی که از 'آزمون مادر' عبور کندتوسط امیلی بیکر-وایت شرط بندی 20 میلیارد دلاری سرمایه گذاران بر روی 'ابر نئو' که محرک مسابقه تسلیحاتی هوش مصنوعی استتوسط ایان مارتیناین استارت‌آپ‌ها اطمینان می‌دهند که شرکت‌های هوش مصنوعی برای برداشتن محتوا هزینه می‌پردازندتوسط راشی شریواستاوا100 سهام برتر با ارزش متوسط آمریکا: با شرکت هایی که محرک رونق هوش مصنوعی هستند آشنا شویدتوسط هنک تاکر
راشی شریواستاوا خبرنگاری است که فناوری را با تمرکز بر هوش مصنوعی پوشش می دهد. او یک خبرنامه هفتگی فوربس در مورد همه چیز هوش مصنوعی به نام The Prompt می نویسد. او در ژانویه به فوربس پیوست...