به گفته مقامات دولتی و شرکت هوش مصنوعی توسعهدهنده این فناوری، توقف زمینی پروازها که از جمعه باعث آشفتگی در سفرها شد، به سیستم جدید هوش مصنوعی سازمان هوانوردی فدرال (FAA) به ارزش ۸۷۵ میلیون دلار که برای کمک به پیشبینی مشکلات آسمان در حال اجراست، مرتبط نبود.
اما زمانبندی توقف زمینی، که بسیار نزدیک به اجرای ملی سیستم SMART سازمان هوانوردی فدرال رخ داد، پرسشهایی را درباره عملکرد این سیستم، مزایا و ریسکهای آن در مقایسه با سیستم فعلی انسانی و همچنین تدابیر احتیاطی موجود برای رسیدگی به مشکلات احتمالی برانگیخته است.
مقامات هیچ ارتباطی با توقف زمینی نمیدانند
سیستم SMART در مکانی واحد نزدیک واشنگتن مستقر است که در آن تیمی از متخصصان برنامههای پروازی، پیشبینیهای آبوهوا و صدها جریان داده دیگر را تحلیل میکنند. سپس این دفتر توصیهها را به مرکز فرماندهی FAA ارسال میکند که آنها را برای بررسی به کنترلرهای ترافیک هوایی در سراسر کشور منتقل میکند.
مارکوین مولین، وزیر امنیت داخلی، جمعه گفت هیچ نشانهای وجود ندارد که مشکلات ارتباطی منجر به توقف زمینی را به سیستم کامپیوتری جدید مرتبط کند؛ مقامات ارشد وزارت حملونقل و FAA نیز شنبه این موضوع را تکرار کردند.
شرکت استارتاپ طراحیکننده این سیستم، Air Space Intelligence یا ASI، اعلام کرد که توقف زمینی ناشی از «سیستم SMART، هیچ محصولی از ASI یا ادغام ما با FAA و ATC» نبوده است.
اما قانونگذاران و گروههای بیرونی پیش از توقف زمینی جمعه، پرسشهایی درباره سیستم SMART مطرح کرده بودند. ماه گذشته، دموکراتهای مجلس نمایندگان نامهای به اداره حسابرسی دولت آمریکا فرستادند و درخواست بازرسی نرمافزار جدید را کردند و نگرانیهایی درباره ایمنی و تدابیر احتیاطی مطرح نمودند.
«نگرانکننده است که نیروی کار خط مقدم ایمنی هوانوردی کشور ظاهراً ورودی کمی یا هیچ ورودیای در توسعه SMART نداشته و در فرآیند استقرار فعلی آموزش و اطلاعات محدودی دریافت کرده است»، نامه مورخ ۱۳ اکتبر چنین نوشت. «استفاده از هوش مصنوعی در SMART به حق پرسشهای جدی درباره قابلیت اطمینان و مزایای ایمنی آن را برانگیخته است، به ویژه در مورد احتمال مداخله در تصمیمگیری کنترلرهای باتجربه ترافیک هوایی یا تولید توهمات (Hallucinations) اطلاعات حیاتی ایمنی.»
با این حال، SMART - حداقل فعلاً - طوری تنظیم نشده که هوش مصنوعی کنترل پرواز را بر عهده بگیرد. بلکه به انسانهایی که این کار را انجام میدهند، توصیه ارائه میکند.
سیستم SMART چیست؟
شان دافی، وزیر حملونقل، و برایان بدفورد، مدیر FAA، این سیستم را در سپتامبر رونمایی کردند و آن را «ابزاری پیشرفته خواندند که ۲۰۰ جریان داده شامل الگوهای آبوهوا، مسیرهای پروازی، جریان ترافیک و شاخصهای پرسنل کنترلرها را در یک پلتفرم متمرکز میکند». SMART مخفف Strategic Management of Airspace, Routes and Trajectories (مدیریت راهبردی فضای هوایی، مسیرها و تراژکتوریها) است.
طبق اطلاعیه منتشر شده، موتور پشتیبانیشده با هوش مصنوعی این سیستم، دادهها را ترکیب کرده و «تصویری جامع» از محل حرکت هواپیماها، میزان ترافیک قابل مدیریت توسط سیستم و نقاطی که ازدحام یا آبوهوا ممکن است مشکلساز شوند، نمایش میدهد. ایده این است که متخصصان از این پلتفرم برای حل مشکلات قبل از وقوع استفاده کنند.
FAA اعلام کرد که در آزمایش اولیه سیستم در منطقه واشنگتن در پاییز امسال، این سیستم به تغییر مسیر ۱۸۰ پرواز کمک کرد و با دور زدن آبوهوا یا سایر مسائل، به طور متوسط ۱۰ دقیقه و ۸۰ گالن سوخت در هر پرواز صرفهجویی شد. این نهاد گفت که یک پرواز از تامپا، فلوریدا، به دالاس به لطف توصیههای سیستم، ۴۲ دقیقه از مدت سفر خود کاست.
بنابراین، SMART در ۱۰ نوامبر برای استفاده سراسری در فضای هوایی تمام ۲۲ مرکز کنترل ترافیک هوایی گسترش یافت. این اتفاق سه روز قبل از توقف زمینی رخ داد.
طبق برگه حقایق دولتی درباره این ابزار، SMART میتواند پیشبینی کند ترافیک هوایی به کجا میرود و مسیرهای دیگری را قبل از اینکه منطقه بیش از حد شلوغ شود شناسایی کند. این سیستم همچنین میتواند به بازگشایی سریعتر فضای هوایی محدودشده و مدیریت بهتر ورود به فرودگاهها کمک کند.
SMART همچنین قرار است در رفع سریعتر مسائل مرتبط با آبوهوا کمک کند.
در حال حاضر، FAA بخشهایی از فضای هوایی تحت تأثیر آبوهوا را به صورت «جعبههای بزرگ مستطیلی» مسدود میکند، طبق آنچه در برگه حقایق آمده است؛ روشی که واقعیت آبوهوا را بازتاب نمیدهد، زیرا طوفانهای برقآلود سریعحرکت و سیستمهای طوفانی اغلب شکلی نامنظم دارند و دارای شکافها یا گذرگاههای باریکی هستند که هواپیماها میتوانند ایمن از آنها عبور کنند.
برای کمک به این مسئله، SMART تصویری «شفافتر از نحوه تأثیر آبوهوا بر ترافیک هوایی در طول زمان» به FAA و اپراتورهای فضای هوایی ارائه میدهد و به کنترلرهای ترافیک هوایی اجازه میدهد برنامهریزی خود را حول طوفانها تنظیم کنند و از فضای هوایی موجود استفاده نمایند، به جای بستن غیرضروری مناطق بزرگ.
به گفته مایکل مککورمیک، مدیر سابق فضای هوایی FAA و استاد دانشگاه ایرمبی-ریدل هوانوردی، هیچ کشور دیگری ابزاری عملیاتی برای کنترل ترافیک هوایی مبتنی بر هوش مصنوعی مانند سیستم SMART ندارد. یوروکنترل، مرجع ترافیک هوایی اروپا، سیستمی در مرحله آزمایش دارد و چندین سازنده نمونههای مشابهی را در حال توسعه هستند.
نگرانیها درباره اتکا به هوش مصنوعی
اگرچه مقامات دولتی و ASI، شرکت توسعهدهنده SMART، تأکید کردهاند که سیستم هوش مصنوعی آنها برای کمک به انسانها طراحی شده و کنترل پرواز را بر عهده ندارد، اما استقرار آن نگرانیهایی را درباره اتکا به هوش مصنوعی زمانی که جان انسانها در خطر است، برانگیخته است؛ چرا که حتی پیشرفتهترین مدلها نیز مستعد توهمات (Hallucinations) هستند؛ حالتی که مدلها اطلاعات نادرستی را جعل کرده و آن را به عنوان واقعیت ارائه میدهند.
مایک اودونل، مقام سابق ارشد FAA که ۱۷ سال برای این نهاد کار کرده و اکنون در زمینه مشاوره ایمنی هوانوردی فعالیت میکند، گفت که این نهاد «باید مطمئن شود که این فقط یک ابزار در جعبهابزار است و نه ماشین واقعی که کار را انجام میدهد».
او گفت که FAA «نمیتواند تحمل اشتباه کردن در این مورد را داشته باشد».
«استفاده از آن با تدابیر احتیاطی و پشتیبانی مناسب خوب است تا مطمئن شویم بر اساس آنچه (هوش مصنوعی) ارائه کرده، اطلاعات غلط به کنترلرها نمیدهند»، اودونل گفت. «راهی برای تأیید و اعتبارسنجی آنچه انجام میدهد باید وجود داشته باشد تا اطمینان حاصل شود که اطلاعات نادرست نیست.»
او نسبت به اعتماد بیش از حد به هوش مصنوعی هشدار داد «تا زمانی که مطمئن نشویم بارها و بارها خودش را ثابت کرده است. و این مدتی طول خواهد کشید.»
راهاندازی سیستم هوش مصنوعی در میان کمبود طولانیمدت کنترلرهای ترافیک هوایی در سراسر کشور صورت گرفته است. انجمن ملی کنترلرهای ترافیک هوایی بیش از یک دهه است که نگرانیهایی را در این زمینه مطرح کرده و در سال ۲۰۱۵ به کنگره گفت که کمبود در سطح بحرانی است. آنها در آن زمان گفتند که FAA برای پنج سال متوالی اهداف استخدامی خود را محقق نکرده است. این اتحادیه حدود ۱۴,۰۰۰ کنترلر را نمایندگی میکند که تقریباً ۳,۰۰۰ نفر از آنها کارآموز هستند. با این حال، کارشناسان میگویند هیچ سیستم هوش مصنوعی نمیتواند جایگزین کنترلرهای ترافیک هوایی انسانی شود که سالها برای این شغل بسیار دشوار و پراسترس آموزش دیدهاند.
در مصاحبهای در اکتبر با NPR، فیلیپ بوکندورف، همبنیانگذار و مدیرعامل ASI، گفت که ابزار SMART برای مدیران ترافیک طراحی شده است که کل فضای هوایی ایالات متحده را مدیریت میکنند.
«هوش مصنوعی محاسبات را انجام میدهد، هوش مصنوعی پردازش را انجام میدهد»، بوکندورف به NPR گفت، اما در نهایت این اپراتور انسانی است که تصمیم میگیرد آیا توصیه سیستم را بپذیرد یا خیر. «آنها تصمیم میگیرند، آنها تصمیمگیرنده هستند، آنها قاضی هستند.»