اشتباه هوش مصنوعی استونی با یک عبارت نادرست آغاز شد.
در ماه دسامبر، ریگیکوگو، پارلمان استونی، تغییراتی را در قانون مالیات قمار این کشور تصویب کرد که هدف آن کاهش نرخ مالیات بر قمار از راه دور بود. اما متن قانون برای آن سال تنها به «بازیهای مهارتی» اشاره داشت، نه بازیهای شانسی یا قمار از راه دور. کل صنعت قمار استونی حدود ۳۰۰ میلیون یورو (۳۴۳ میلیون دلار) ارزش دارد و بازار قمار آنلاین آن یکی از سریعترین بازارهای در حال رشد در اتحادیه اروپا است.
این اشتباه واحد به این معنی بود که کازینوهای آنلاین به طور تصادفی برای یک سال کامل از شبکه مالیاتی خارج شدند و دولت ۲۴ میلیون یورو (۲۷.۴ میلیون دلار) در سال از درآمدهای قمار را از دست داد.
این خطا توسط یک مشاور حقوقی برای یک اپراتور قمار کشف شد. اما شرمساری زمانی عمیقتر شد که لوکاس ایلوِس، معاون سابق تحول دیجیتال، این قانون را از طریق سیستمهای هوش مصنوعی کلود (Claude) و جیمنای (Gemini) بررسی کرد. ایلوِس گفت که هر دو سیستم هوش مصنوعی بلافاصله ناسازگاری را شناسایی کردند.
ظرف چند ساعت، ایلوِس یک ابزار نمونه اولیه به نام آپساکالیدیا (Apsakaleidja) یا «یابنده اشتباهات» ساخت که میتوانست پیشنویس لوایح را از وبسایت ریگیکوگو استخراج کرده و مشکلاتی مانند ارجاعات شکسته، عبارات متناقض، خطاهای محاسباتی و تاریخهای غیرممکن را مشخص کند. این ابزار مشکلات را به سه دسته پرخطر، متوسط و کمخطر تقسیم میکند؛ از ۱۱۲ لایحه فعلی، ۱۰۲ مورد پرخطر ارزیابی شدهاند. یک نمونه برجسته در «یابنده اشتباهات» به عبارات متناقض در پیشنویس متن اشاره میکند. ایلوِس حتی آن را در تلویزیون ملی نیز به نمایش گذاشت و باعث شگفتی مجری شد.
این اشتباه شرمآور بود، اما همچنین منجر به یک کشف در دولت شد. کریستن میشال، نخستوزیر استونی، به وایرد (WIRED) گفت: «این وضعیت نشان داد که هوش مصنوعی میتواند دستیاری فوقالعاده مفید باشد. و به شکل یک پلتفرم کدگذاریشده برای بررسی پیشنویس قانون که در پاسخ به این حادثه ایجاد شد، نمونهای از چگونگی توانمندسازی جامعه مدنی و شهروندان توسط ابزارهای عاملگرا (agentic tools) را مشاهده کردیم.»
بنابراین استونی استفاده از هوش مصنوعی در دولت را دوچندان کرد. در ماه ژانویه، میشال پیشنهاد کرد که این کشور ممکن است از ابزارهایی مانند آپساکالیدیا برای تدوین قانون استفاده کند تا به طور پیشگیرانه نقاط ضعف را پیدا و رفع کند. او برنامه Eesti.ai را راهاندازی کرد که برای ارتقای مهارت استونیاییها در استفاده از هوش مصنوعی طراحی شده است، با هدف دو برابر کردن بهرهوری در این کشور تا سال ۲۰۳۵. از جمله مشاوران طرح Eesti.ai میتوان به مارکوس ویلیگ، بنیانگذار بولت (Bolt)، و ایلوِس، خالق «یابنده اشتباهات»، اشاره کرد.
سپس، در ماه آوریل، پارلمان این کشور لایحهای را از دولت دریافت کرد که به دولتهای مرکزی و محلی حق استفاده از راهحلهای دیجیتال، از جمله هوش مصنوعی، برای خودکارسازی فرآیندهای اداری را میداد. این لایحه در حال حاضر در پارلمان در حال بررسی است و تغییراتی که میتواند ایجاد کند، با هدف تبدیل شدن به قانون، مورد بحث قرار میگیرد. در ماه ژوئن، میشال در یک جلسه Eesti.ai گفت که اگر همه چیز طبق برنامه پیش برود،
میشال به وایرد گفت: «این یک محیط جدید برای بخش عمومی است. این امر چابکی و توانایی سازگاری با تغییرات فناوری را میطلبد.» استونی بهتر از بسیاری از کشورها برای سازگاری با این تغییرات آماده است: این کشور به لطف یک دولت دیجیتال-محور، در ادغام هویت دیجیتال پیشرو بوده است، در حالی که ۹۹ درصد از خدمات عمومی در حال حاضر آنلاین هستند. استونی به عنوان نمونهای از نحوه اداره یک دولت دیجیتال مدرن مطرح است – همانطور که وایرد برای اولین بار یک دهه پیش به آن پرداخت. این امر زمینه را برای پذیرش آسانتر هوش مصنوعی فراهم کرد. او توضیح میدهد: «این سرمایهگذاریها اکنون به ما امکان میدهند تا سریعتر و با اطمینان بیشتری وارد عصر هوش مصنوعی شویم.»
کاترین فلیک، که در دانشگاه استافوردشایر در زمینه اخلاق فناوری تحقیق میکند، میگوید خطای مالیات قمار یک سوال اساسیتر را مطرح میکند: «چرا انسانها این فرآیند بازبینی را به عنوان بخشی از رویه تدوین قانون انجام نمیدهند؟» او میگوید: «در نقطهای، کسی باید بنشیند و کل موضوع را با درک زمینه و تمام این موارد بخواند تا اطمینان حاصل کند که این یک قانون مناسب است.»
این عنصر نهایی – انسان در حلقه (human in the loop) – است که توسط نمایندگان در ریگیکوگو مورد بحث قرار میگیرد. کیرکه مار، سرپرست تیم Eesti.ai، توضیح میدهد که این لایحه عمداً به طور گستردهای تدوین شده است.
تفکر فعلی استونی این است که انتخابها را میتوان به طور کلی به دو دسته تقسیم کرد. او میگوید: «خط تقسیم طبیعی بین تصمیمات مبتنی بر قاعده و تصمیمات اختیاری است. در جایی که قانون نتیجه را از حقایق قابل تأیید تعیین میکند – شما معیارها را برآورده میکنید، نتیجه را میگیرید – اتوماسیون مناسب است.» مار و ایلوِس استدلال میکنند که اگر دولت از قبل دادههای لازم برای اثبات واجد شرایط بودن فرد برای دریافت مزایا را داشته باشد، فرد لزوماً نباید فرمی را پر کند: میتوان به سادگی به او اطلاع داد که واجد شرایط است. اظهارنامههای مالیاتی، که در استونی از قبل پر شدهاند، میتوانند از بررسی و تأیید فرم توسط شهروندان به آمادهسازی و ثبت اظهارنامههای پیچیدهتر توسط یک عامل هوش مصنوعی، با تأیید یا مداخله شهروند در صورت نیاز، تغییر یابند.
مار میگوید، زمانی که اوضاع پیچیدهتر است و «تصمیمی مستلزم سنجش واقعی منافع متضاد یا قضاوت در مورد شرایط خاص یک فرد است، انسان از ابتدا باید در حلقه تصمیمگیری حضور داشته باشد.»
مار و ایلوِس میگویند در هر مرحله از فرآیند تصمیمگیری هوش مصنوعی، یک فرد میتواند حق خود را برای شنیده شدن اعمال کند، که در این صورت رویه خودکار متوقف شده و یک مقام انسانی مسئولیت را بر عهده میگیرد. تصمیمات خودکار همچنین در مواردی که شهروند با تصمیمی مخالفت میکند، رد میشوند. و هر تصمیم اداری خودکار باید یک مسیر حسابرسی از دادههای استفاده شده، قانون اعمال شده، زمان اتخاذ تصمیم و نحوه اعتراض یا اصلاح آن توسط شهروند را نیز بر جای بگذارد.
مار میگوید: «هدف دولت دیجیتال استونی هرگز حذف انسان از دولت نبوده است. بلکه هدف آن دسترسپذیرتر، سریعتر و کمزحمتتر کردن خدمات بوده است.»
پاسخگویی نیز بخش مرکزی فرآیند هوش مصنوعی است و حوزهای است که کسانی که با دولت در تعاملات دیجیتال دیگر با شهروندان کار میکنند، آن را به خوبی میشناسند. لینا واهتراس، مدیر عامل e-residency، برنامه استونی که به غیرمقیمان یک هویت دیجیتال صادر شده توسط دولت برای دسترسی آنلاین به خدمات تجاری استونی میدهد، میگوید: «خطر اصلی، عملکرد سیستمهای هوش مصنوعی در مقیاس بزرگ بدون پاسخگویی است – جایی که اقدامات را نمیتوان به یک طرف مسئول ردیابی کرد، مجوزها نامشخص هستند یا سوءاستفاده کشف نشده باقی میماند. این چیزی است که ما در تلاش برای جلوگیری از آن هستیم.»
واهتراس میگوید: «همانطور که عوامل هوش مصنوعی شروع به تعامل با خدمات عمومی، بانکها، ثبتها و سایر سیستمهای دیجیتال به نمایندگی از افراد و شرکتها میکنند، باید مشخص باشد که عامل به چه کسی تعلق دارد، تحت مجوز چه کسی عمل میکند، چه کاری مجاز به انجام آن است و چه کسی مسئول اقدامات آن باقی میماند. ایده پشت کد عامل این است که زنجیره مسئولیت را قابل مشاهده کند.»
این چیزی است که نخستوزیر نیز میداند و نگران آن است. او مراقب است که بین هوش مصنوعی به عنوان دستیار در استونی و هوش مصنوعی به عنوان یک مرجع، خطی بکشد. او میگوید: «هوش مصنوعی جایگزین نهادهای دموکراتیک، قانون اساسی یا اراده رأیدهندگان نمیشود. اگر هوش مصنوعی اشتباهی را در قانون شناسایی کند، تفاوتی با شناسایی آن توسط انسان ندارد. مسئولیت اصلاح آن با پارلمان، دادگاهها یا اداره عمومی باقی میماند.»
این گزارش با حمایت مالی مرکز تاربل برای روزنامهنگاری هوش مصنوعی تهیه شده است.