محتوای تولید شده توسط هوش مصنوعی، از تصاویر غیرقانونی مواد سوء استفاده جنسی از کودکان گرفته تا دیپ فیک های سیاسی گمراه کننده، اینترنت را آلوده کرده است و کوین گو، مدیرعامل Hive، معتقد است که سیستم های تعدیل محتوای شرکتش یک "آنتی ویروس مدرن" هستند.
سیستم های Hive که توسط پلتفرم های رسانه های اجتماعی مانند Reddit و Bluesky استفاده می شود، از مدل های یادگیری ماشین برای علامت گذاری محتوای مضر استفاده می کنند. اکنون این استارتاپ به لطف همکاری جدید با بنیاد اینترنت واچ (IWF)، یک سازمان غیرانتفاعی ایمنی کودک مستقر در بریتانیا، بهتر می تواند مواد سوء استفاده جنسی از کودکان را از وب سایت های مشتریان خود شناسایی و حذف کند. Hive روز پنجشنبه اعلام کرد.
Hive مجموعه داده های سازمان را که شامل لیستی به روز شده از حدود 8000 وب سایت است که میزبان تصاویر تایید شده CSAM واقعی و تولید شده توسط هوش مصنوعی هستند، در مدل های خود ادغام می کند. این مجموعه داده همچنین شامل لیستی از عبارات منحصر به فرد و کلمات کلیدی مرموز است که توسط متخلفان برای پنهان کردن CSAM و دور زدن تعدیل استفاده می شود. به عنوان بخشی از این قرارداد، مشتریان Hive می توانند به "هش ها" - اثر انگشت های دیجیتالی میلیون ها تصویر و ویدیوی شناخته شده CSAM - دسترسی پیدا کنند. این مشارکت بر همکاری Hive در سال 2024 با Thorn، یک سازمان غیرانتفاعی ملی که فناوری تشخیص CSAM را ایجاد می کند، برای گسترش دامنه خود و پاکسازی محتوای نقض کننده بیشتر از پلتفرم های مشتریان خود، بنا شده است.
هدف این مشارکت جدید جلوگیری از سیل تصاویر سوء استفاده جنسی از کودکان تولید شده توسط هوش مصنوعی است که متخلفان ده ها هزار مورد از آنها را در سال 2024 ایجاد کردند. ابزارهای هوش مصنوعی مولد فقط تولید تصاویر غیرقانونی را آسان تر کرده اند. در سال 2023، IWF بیش از 275000 صفحه وب حاوی CSAM را به مجریان قانون گزارش داد، که این تعداد یک رکورد برای این سازمان محسوب می شود.
گو به فوربس گفت: «CSAM قبلاً به دست آوردنش نسبتاً دشوار بود. این محتوا خیلی رایج نیست. این موتورهای تولید هوش مصنوعی، هم تصویر و هم ویدیو، با انفجار محتوا، دنیای بسیار متفاوتی را در اینجا باز می کنند.»
شرکت Hive که در سال 2014 به عنوان یک برنامه رسانه اجتماعی تاسیس شد، در سال 2017 تغییر جهت داد تا ابزارهای تعدیل داخلی خود را به شرکت ها بفروشد. اکنون، علاوه بر شناسایی محتوای سمی، مدل های هوش مصنوعی این شرکت می توانند آرم ها را نیز شناسایی کنند، ده ها هزار سلبریتی را تشخیص دهند و کپی فیلم ها و برنامه های تلویزیونی را که به صورت آنلاین به اشتراک گذاشته می شوند، شناسایی کنند. این شرکت مستقر در سانفرانسیسکو 120 میلیون دلار سرمایه گذاری خطرپذیر از شرکت هایی مانند جنرال کاتالیست جمع آوری کرده است و در سال 2021 به ارزش 2 میلیارد دلار رسید.
شیوع گسترده محتوای تولید شده توسط هوش مصنوعی به رشد کسب و کار برای Hive منجر شده است، جایی که درآمد از سال 2020 30 برابر شده است (گو از افشای ارقام فعلی خودداری کرد). این شرکت هر ماه 10 میلیارد قطعه محتوا را از 400 مشتری خود، از جمله پلتفرم های رسانه های اجتماعی مانند پلتفرم استریم Kick که حدود 50 میلیون کاربر دارد، و پنتاگون پردازش می کند. ماه گذشته، Hive قراردادی به ارزش 2.4 میلیون دلار با وزارت دفاع ایالات متحده برای اطمینان از اینکه محتوای صوتی، تصویری و متنی که کارکنان آن از منابع مختلف دریافت می کنند واقعی و قابل اعتماد است، منعقد کرد.
همچنین علاقه فزاینده ای از سوی شرکت های تأیید سند و شرکت های بیمه وجود دارد که از هجوم ادعاهای جعلی گزارش داده اند، "جایی که افراد عکسی از سپر ماشین خود گرفته اند و هوش مصنوعی یک خراش ایجاد کرده است." گو گفت.
اخیراً در پی ممنوعیت TikTok، پلتفرم های جایگزینی مانند Clapper و Favorited برای سیستم های تعدیل محتوای خودکار Hive ثبت نام کردند تا برای هجوم "پناهندگان TikTok" آماده شوند. گو گفت: "آنها همچنین به طور فعال در حال پیاده سازی پیشنهادات CSAM ما هستند، زیرا بسیار می ترسند که این موضوع به یک موضوع برجسته تبدیل شود."
گو نگران رویکرد غیرمستقیم رئیس جمهور دونالد ترامپ در تنظیم هوش مصنوعی نیست. گو گفت، اگرچه او دستور اجرایی دولت بایدن در مورد هوش مصنوعی را که اقداماتی را برای مقابله با دیپ فیک ها ترسیم می کرد، لغو کرده است، اما ایمنی کودکان آنلاین یک "موضوع نسبتاً دو حزبی" است. ما فکر نمی کنیم این بخش از بین برود.»
بیشتر از فوربس
فوربسبرنامه های بوسیدن با هوش مصنوعی دیپ فیک ها را به جریان اصلی می آورندتوسط راشی شریواستاوافوربسسوال بزرگ در قلب پرونده TikTokتوسط امیلی بیکر-وایتفوربساین شرکت مسافرتی می گوید نتایج جستجوی هوش مصنوعی گوگل در حال حاضر به کسب و کار آن آسیب می رساندتوسط ریچارد نیوا فوربسیکی از آخرین کامیونداران ربات در نهایت آماده ورود به جاده استتوسط آلن اونسمانفوربسClay، سلاح مخفی برای Anthropic و OpenAI، ارزش گذاری را به 1.3 میلیارد دلار افزایش می دهدتوسط الکس کنرادمرا در توییتر یا لینکدین دنبال کنید. یک نکته امن برای من ارسال کنید.