شرکت EY مطالعهای را درباره برنامههای پاداش وفاداری پس گرفته است که شامل توهمات آشکار هوش مصنوعی و پاورقیهای جعلی بود. این اتفاق جدیدترین نمونه از گمراه شدن یک شرکت خدمات حرفهای توسط فناوریهای جدید است.
این مطالعه که توسط مشاوران EY در کانادا برای بازاریابی کسبوکار امنیت سایبری آنها استفاده شده بود، طبق کشف محققان آنلاین، شامل دادههای ساختگی، استنادات نادرست و ارجاع به گزارش مککینزی بود که اصلاً وجود ندارد.
EY کانادا این مطالعه با عنوان «نقاط حمله: کشف تهدیدات سایبری و کلاهبرداری در سیستمهای وفاداری» را پس از گزارش توهمات توسط گروه تحقیقاتی GPTZero در اواخر روز پنجشنبه، از وبسایت خود حذف کرد.
محققان نشان دادند که این گزارش برای اثبات آسیبپذیری طرحهای وفاداری در برابر کلاهبرداری، به دادههای نادرست یا ناسازگار متکی بوده است. در نقاط مختلف گزارش، اندازه بازار طرحهای وفاداری ۲۰۰ میلیارد دلار تخمین زده شده بود و تعداد امتیازات وفاداری ادعا نشده دقیقاً به همان اندازه ذکر شده بود.
GPTZero همچنین دریافت که بیش از شش مورد از پاورقیهای گزارش EY به صفحات وبی هدایت میشوند که وجود نداشتند یا اطلاعات ذکر شده را شامل نمیشدند.
محققان GPTZero، اوم اوگاله، پل ایسو و الکس کوی در یک پست وبلاگی نوشتند: «انتشار یک گزارش آنلاین اساساً نوعی تزریق داده به مجموعه دانش اینترنت است.»
«هنگامی که گزارش شامل اطلاعات جعلی (چه استنادات غیرواقعی و چه ادعاهای نادرست) باشد، میتواند با گمراه کردن محققان آینده، به "آلوده کردن منبع" منجر شود، به خصوص اگر گزارش توسط یک شرکت مشاوره شناخته شده منتشر شده و در یک وبسایت پربازدید میزبانی شود.»
توهمات یک مشکل مکرر در سراسر خدمات حرفهای بوده است. سال گذشته، شرکت Deloitte، رقیب EY در گروه چهار شرکت بزرگ، مجبور شد گزارشی را برای یک دولت استانی کانادا بازنگری کند، پس از آنکه مشخص شد شامل استنادات دانشگاهی جعلی است.
و ماه گذشته، شرکت حقوقی Sullivan & Cromwell بابت پروندهای در دادگاه نیویورک که در آن کد ورشکستگی ایالات متحده به دفعات اشتباه نقل قول شده و به پروندهها به نادرستی استناد شده بود، عذرخواهی کرد.
اما شرکتهای مشاورهای پذیرندگان مصمم هوش مصنوعی هستند، سرمایهگذاری زیادی در این فناوری میکنند، کارکنان را برای استفاده از آن آموزش میدهند و خدمات پیادهسازی خود را به مشتریان ارائه میدهند.
EY در اکتبر ادعا کرد که درآمد مربوط به هوش مصنوعی این شرکت در سال گذشته ۳۰ درصد رشد داشته و ۱۵۰۰۰ کارمند در پروژههای مشتریان کار کردهاند «از ارائه تحولات در سطح سازمانی تا چارچوبهای حاکمیت هوش مصنوعی که به اجرای مسئولانه هوش مصنوعی کمک میکنند.»
EY گفت که گزارش طرح وفاداری را از وبسایت خود حذف کرده و «در حال بررسی شرایطی است که منجر به انتشار این مقاله شده است» و افزود که این مطالعه به هیچ کار مشتری EY مرتبط نبوده است.
EY گفت: «EY کانادا دقت تمامی محتوایی را که منتشر میکنیم جدی میگیرد و ما تعهد سازمانی به استفاده مسئولانه از هوش مصنوعی داریم.»