یک مقام ارشد بریتانیایی هشدار داده است که رگولاتورها در یک «مسابقه تسلیحاتی» برای همگام شدن با استفاده از هوش مصنوعی در خدمات مالی قرار دارند، در حالی که میلیونها نفر از این فناوری برای کمک به تصمیمگیریهای مالی شخصی خود استفاده میکنند.
شلدون میلز، مدیر اجرایی سازمان رفتار مالی (FCA)، به فایننشال تایمز گفت که این نهاد نظارتی برای کنترل رشد سریع هوش مصنوعی به اختیارات بیشتری نیاز خواهد داشت و از مقامات بریتانیایی خواست تا بررسی کنند که آیا استفاده از ChatGPT، Claude، Gemini و سایر مدلهای زبان بزرگ باید مشمول قوانین آنها باشد یا خیر.
میلز پیش از انتشار گزارشی که به سفارش FCA درباره تأثیر هوش مصنوعی در خدمات مالی نوشته و قرار است دوشنبه منتشر شود، اظهار داشت که رگولاتورها در این حوزه باید خودشان هوش مصنوعی را بپذیرند تا با «سرعت، آهنگ و مقیاس تغییر» که این فناوری به این بخش میآورد، همگام شوند و به «نظارت، شناسایی و مقابله با خطرات» کمک کنند.
او افزود: «این یک مسابقه تسلیحاتی است.»
گزارش میلز مزایا و خطرات ناشی از افزایش استفاده از هوش مصنوعی در خدمات مالی را شناسایی میکند. بر اساس خلاصهای که فایننشال تایمز مشاهده کرده است، در این گزارش آمده: «شخصیسازی فوقالعاده میتواند به تطابق بهتر محصولات با نیازها کمک کند، اما همچنین میتواند منجر به سوگیری، قیمتگذاری مبهم و دستکاری شخصیسازیشده شود.»
این گزارش توصیه میکند که FCA در سه تا شش ماه آینده یک بررسی انجام دهد تا خطرات شرکتهایی را که خدمات مالی را خارج از صلاحیت رگولاتور ارائه میدهند، و همچنین «آسیب مصرفکننده» ناشی از استفاده فزاینده محبوب از مدلهای هوش مصنوعی برای مدیریت امور مالی شخصی افراد را بررسی کند.
تحقیقاتی که به سفارش میلز انجام شده نشان داد که یک پنجم بزرگسالان بریتانیایی در حال حاضر مایل به استفاده از مدلهای هوش مصنوعی برای تصمیمگیریهای مالی خود، مانند پسانداز یا وامگیری، هستند، حتی با وجود اینکه این مدلها تحت نظارت نیستند و در صورت بروز مشکل، هیچ راهی برای جبران خسارت وجود ندارد.
او با اشاره به اینکه قوانین «نسبتاً سختگیرانهای» برای شرکتهای تحت نظارت که توصیههای مشابهی ارائه میدهند وجود دارد، گفت: «برخی شرکتها به ما گفتهاند که احساس میکنند این میتواند نوعی خدمات معادل اقتصادی باشد که تحت نظارت نیست و خارج از محدوده نظارتی قرار میگیرد.»
او پرسید: «آیا این واقعیت که مدل چت ممکن است بتواند به درخواستها پاسخ دهد و مکالمهای داشته باشد، چیزی نزدیکتر به توصیه است یا راهنمایی؟»
اما او همچنین گفت که هوش مصنوعی میتواند با گسترش دسترسی به خدمات پیچیدهای که در حال حاضر فقط برای ثروتمندترین مشتریان در دسترس است، امور مالی را «دموکراتیک» کند. او گفت افرادی که فقط ۲۰,۰۰۰ پوند در سال درآمد دارند، میتوانند به مشاورههای مالی دسترسی پیدا کنند که معمولاً فقط برای «کسی که ۱۰ میلیون پوند پسانداز یا دارایی دارد» در دسترس است، و افزود: «منظورم این است که چه چیزی در این مورد دوستداشتنی نیست؟»
گزارش او توصیه میکند که FCA گروههای بخش دولتی و خصوصی را برای توسعه یک «خدمات توانمندسازی مالی مبتنی بر هوش مصنوعی» گرد هم آورد که اطلاعات و راهنمایی رایگان را در مورد انتخابهای مالی به مردم بریتانیا ارائه دهد.
بسیاری از شرکتهای خدمات مالی در حال حاضر عوامل هوش مصنوعی را به صورت آزمایشی به کار میگیرند که میتوانند به طور مستقل تراکنشهای مالی را برای شرکتها و مصرفکنندگان انجام دهند. میلز، که پس از هشت سال فعالیت در FCA در حال ترک این سازمان است، گفت که مدیران همچنان باید در قبال اقدامات مدلهای هوش مصنوعی خود پاسخگو باشند. او گفت: «شما به یک انسان نیاز دارید که مسئول کارهایی باشد که آنها انجام میدهند.»
این گزارش میگوید که هوش مصنوعی احتمالاً تهدید کلاهبرداری و حملات سایبری را «تشدید» میکند و خواستار استفاده از این فناوری برای دفاع از سیستم در برابر چنین تهدیداتی است. در این گزارش آمده: «دیپفیکها، هویتهای مصنوعی و مهندسی اجتماعی شخصیسازیشده، کلاهبرداری و خطرات سایبری را به عصر جدیدی میبرند و نحوه کلاهبرداری و حملات سایبری را تغییر میدهند.»
گزارش میلز همچنین تقویت اختیارات FCA را تحت رژیم «اشخاص ثالث حیاتی» توصیه میکند که به آن اجازه میدهد بر ارائهدهندگان فناوری کلیدی در بخش مالی، مانند Anthropic، OpenAI، آمازون، گوگل و مایکروسافت نظارت کند.
دولت هنوز تصمیم نگرفته است که کدام یک از گروههای بزرگ فناوری را تحت این رژیم قرار دهد، که به رگولاتورها اجازه میدهد الزامات افشای اطلاعات قویتری را اعمال کنند، از جمله خودارزیابیهای سالانه و «آزمایش سناریو» در مورد توانایی آنها برای مقاومت در برابر اختلالات شدید.
این گزارش میگوید که FCA همچنین میتواند اختیارات بیشتری را تحت رژیم «فعالیتهای تعیینشده» درخواست کند که به آن اجازه میدهد فعالیتهای خاصی را بدون نیاز به مجوز شرکتهایی که آنها را انجام میدهند، تنظیم کند.
هیئت مدیره FCA قرار است پیش از تصمیمگیری در مورد نحوه پاسخگویی به توصیههای گزارش میلز، در مورد آن بحث کند.
این نهاد نظارتی توسط برخی سیاستمداران به دلیل قراردادی ۱۲ هفتهای که با گروه فناوری آمریکایی Palantir برای آزمایش اینکه آیا سیستمهای هوش مصنوعی آن میتوانند به مبارزه با جرایم مالی کمک کنند، مورد انتقاد قرار گرفته است. برخی نمایندگان مجلس نگرانیهایی را مطرح کردهاند که این قرارداد میتواند به مقامات آمریکایی اجازه دسترسی به اطلاعات مالی حساس بریتانیا را بدهد. FCA و Palantir این موضوع را تکذیب کردهاند. میلز از اظهار نظر در مورد قرارداد Palantir خودداری کرد.
این داستان برای روشن شدن این موضوع اصلاح شده است که تحقیقات سفارش داده شده توسط شلدون میلز نشان داد که یک پنجم بزرگسالان بریتانیایی مایل به استفاده از مدلهای هوش مصنوعی برای تصمیمگیریهای مالی خود هستند.