تعدادی از کاربران شبکه‌های اجتماعی به دروغ، ژان لوک ملانشون، سیاستمدار چپ‌گرای افراطی فرانسوی را متهم کرده‌اند که برای افزودن چندین پرچم فرانسه به عکسی از یک اعتراض، از هوش مصنوعی استفاده کرده است. برخی از آنها اسکرین‌شات‌هایی از ابزارهای تشخیص هوش مصنوعی به اشتراک گذاشتند که نشان می‌داد "احتمالاً" تصویر توسط هوش مصنوعی تولید شده است. با این حال، مشخص شد که این عکس از اعتراض ضد اسلام‌هراسی در تاریخ ۱۱ مه در پاریس، واقعی بوده است. بنابراین، این موضوع چه چیزی در مورد قابلیت اطمینان ابزارهایی که برای تشخیص تصاویر تولید شده توسط هوش مصنوعی طراحی شده‌اند، به ما می‌گوید؟
"صد دلار شرط می‌بندم که این تصویر هوش مصنوعی است،" این جمله در یک توییت در ۱۱ مه توسط ژان لوک ملانشون، نامزد سه دوره ریاست جمهوری فرانسه و سیاستمدار چپ‌گرای افراطی، به چشم می‌خورد.
این کامنت، که توسط حساب کاربری Lapin du Futur (خرگوش آینده‌گرا) گذاشته شده بود، رهبر حزب سیاسی چپ‌گرای افراطی "فرانسه تسلیم‌ناپذیر" (LFI) را متهم می‌کرد که برای تغییر عکسی که او از یک اعتراض ضد اسلام‌هراسی در همان روز در پاریس به اشتراک گذاشته بود، از هوش مصنوعی استفاده کرده است.
یکی از عکس‌های توییت شده توسط ملانشون، او را در کنار چندین نماینده از حزبش در صفوف مقدم اعتراض نشان می‌دهد. پشت سر آنها، هزاران معترض پرچم‌های مختلفی از جمله پرچم فرانسه، پرچم فلسطین و پرچم LFI را در دست دارند.
تعدادی از کاربران شبکه‌های اجتماعی، مانند Lapin du Futur، ادعا کردند که این عکس توسط هوش مصنوعی تولید شده و پرچم‌های فرانسه به آن اضافه شده‌اند.
پست Lapin du Futur به تنهایی بیش از دو میلیون بازدید داشت.
یک حساب کاربری دیگر در شبکه‌های اجتماعی در پستی که بیش از ۷۰۰ هزار بازدید داشت، ادعا کرد: "دستور (پرامپت) [توضیح سردبیر: درخواست ارائه شده به نرم‌افزار هوش مصنوعی] 'افزودن پرچم‌های فرانسه' بود. هیچ یک از پرچم‌های فرانسه واقعی نیستند."
برخی از کاربران شبکه‌های اجتماعی به جزئیات خاصی در عکس اشاره کرده‌اند که اغلب نشان‌دهنده تولید تصویر توسط هوش مصنوعی است، مانند دست‌های افراد که عجیب یا تغییر شکل یافته به نظر می‌رسند. در مورد این عکس، یک معترض که پرچمی را در دست دارد، به نظر می‌رسد تنها چهار انگشت دارد. فرد دیگری نیز شش انگشت دارد.
یکی دیگر از کاربران شبکه‌های اجتماعی اسکرین‌شات‌هایی از یک ابزار تشخیص هوش مصنوعی به اشتراک گذاشت که تعیین کرد "احتمالاً" تصویر توسط هوش مصنوعی تولید شده است.
ابزار تشخیص هوش مصنوعی Sightengine (سایت‌انجین) با احتمال ۹۰٪، تصویر را تولید شده توسط هوش مصنوعی دانست. ابزار دیگری به نام Decopy AI (دیکوپی ای‌آی) احتمال ۹۵٪ را گزارش کرد.
اما پرچم‌های فرانسه واقعی بودند
با این حال، این تصویر توسط هوش مصنوعی تولید نشده بود و پرچم‌های فرانسه به تصویر اضافه نشده بودند. هیچ عنصر دیگری نیز اضافه نشده بود.
تعدادی از نمایندگان LFI نیز در شبکه‌های اجتماعی عکس‌هایی را که در جریان اعتراض در Place de la Bastille (میدان باستیل) پاریس گرفته شده بود، منتشر کردند، از جمله توماس پورتس و علی دیوارا. حساب‌های دیگری مرتبط با فرانسه تسلیم‌ناپذیر نیز تصاویری را به اشتراک گذاشتند. در تمام این عکس‌ها، می‌توان چندین پرچم فرانسه را که توسط معترضان حمل می‌شوند، مشاهده کرد.
همچنین می‌توانید پرچم‌های فرانسه را در ویدئوهای این اعتراض که توسط رسانه فرانسوی BFM و تصاویر منتشر شده توسط خبرگزاری فرانسه (AFP) در وب‌سایت و صفحه یوتیوب آنها منتشر شده، مشاهده کنید.
برخی از کاربران شبکه‌های اجتماعی نیز در مورد تعداد معترضان در عکس ابهاماتی مطرح کرده و ادعا کرده‌اند که تعداد آنها به صورت مصنوعی افزایش یافته است. با این حال، عکس‌های منابع دیگر نیز همین تعداد جمعیت را در میدان باستیل نشان می‌دهند. پلیس پاریس ۳۷۰۰ معترض را شمارش کرده بود، در حالی که سازمان‌دهندگان اعتراض گفتند ۱۵۰۰۰ نفر شرکت کرده بودند.
در مورد دست‌هایی که به نظر می‌رسد چهار یا شش انگشت دارند، بررسی دقیق‌تر تصویر نشان می‌دهد که هر دست در واقع پنج انگشت دارد. اگر با دقت به عکس نگاه کنید، می‌توانید انگشت پنجم دست نگهدارنده پرچم را ببینید که تا حدی پشت میله پنهان شده است. در مورد دست دیگر، آنچه شبیه یک انگشت ششم به نظر می‌رسد، در واقع اثری است که توسط زاویه دست و سایه افتاده بر روی مچ دست فرد ایجاد شده است (جزئیات بیشتر در ادامه آمده است).
برخی از ابزارهای تشخیص هوش مصنوعی تصاویر را بر اساس ناهنجاری‌ها و سوژه‌های تکراری (که در اینجا پرچم هستند) تجزیه و تحلیل می‌کنند.
درحالی‌که انسان‌ها می‌توانند به راحتی اشتباهات را نادیده بگیرند یا آن را به اشتباهات انسانی نسبت دهند، نرم‌افزارهای هوش مصنوعی آنها را به عنوان الگوهایی که ممکن است توسط الگوریتم‌های هوش مصنوعی ایجاد شده باشند، ثبت می‌کنند. علاوه بر این، در صورت دستکاری، هوش مصنوعی تمایل دارد اشتباهات خاصی را مرتکب شود، مانند اضافه کردن انگشتان اضافی یا حذف آنها، یا ایجاد خطوط در پس‌زمینه که کاملاً متصل نیستند.
چرا ابزارهای تشخیص هوش مصنوعی مرتکب چنین اشتباهاتی می‌شوند؟
ابزارهای تشخیص هوش مصنوعی هنوز در مراحل اولیه توسعه هستند و به سختی می‌توانند با تکامل سریع هوش مصنوعی مولد همگام شوند.
درحالی‌که هوش مصنوعی مولد قادر به تولید تصاویری با جزئیات واقعی است که می‌تواند از یک عکس واقعی متمایز نباشد، ابزارهای تشخیص هوش مصنوعی به سختی می‌توانند با این سرعت همگام شوند. آنها هنوز بر اساس الگوهای داده‌ای که توسط الگوریتم‌های هوش مصنوعی در مراحل اولیه توسعه تولید می‌شوند، آموزش می‌بینند. در نتیجه، این ابزارها مستعد ایجاد نتایج مثبت کاذب هستند، به این معنی که آنها یک تصویر واقعی را به اشتباه به عنوان تولید شده توسط هوش مصنوعی طبقه‌بندی می‌کنند. همچنین، آنها ممکن است به دلیل خطاهای انسانی در یک تصویر واقعی، مانند ناهنجاری در انگشتان یا خطوط مبهم در پس‌زمینه، به اشتباه به عنوان تولید شده توسط هوش مصنوعی اشاره کنند.
با توجه به تکامل سریع هوش مصنوعی، مهم است که قبل از نتیجه‌گیری عجولانه، صحت اطلاعات را بررسی کنید. یک رویکرد مفید برای بررسی صحت تصاویر، جستجوی نسخه اصلی تصویر، استفاده از جستجوی تصویر معکوس برای یافتن تصاویر مشابه در منابع خبری قابل اعتماد یا بررسی جزئیات تصویر برای یافتن ناهنجاری‌های آشکار است.