در ماه ژوئیه، جیکوب زیمرمن، استاد دانشگاه تورنتو، معتبرترین جایزه دنیای ریاضیات یعنی مدال فیلدز را دریافت کرد؛ جایزهای که به کاوشهای ناب برای کشف حقایق ریاضی بدون در نظر گرفتن کاربردهای عملی آنها در دنیای واقعی اعطا میشود.
دکتر زیمرمن پس از دریافت این جایزه، در تصمیمی که مایه شگفتی و حسرت بسیاری از اهالی این رشته شد، از یک چرخش حرفهای خبر داد: او با گرفتن مرخصی از دانشگاه، پژوهشهای خود در حوزه ریاضیات محض را تا حد زیادی متوقف کرد و مسیر علمیاش را به حل مسائل ایمنی هوش مصنوعی تغییر داد. او در اواخر همین ماه فعالیت خود را در بخش ایمنی شرکت اوپنایآی (OpenAI) آغاز میکند.
روز سهشنبه نیز دکتر زیمرمن خبر تأسیس «مؤسسه ایمنی ریاضی هوش مصنوعی» (MAISI) را اعلام کرد؛ یک نهاد پژوهشی مستقل که وابستگی سازمانی به اوپنایآی ندارد. این مؤسسه مستقر در منطقه خلیج سانفرانسیسکو (Bay Area)، نخستین ترم کامل پژوهشی خود را در ژانویه ۲۰۲۷ آغاز خواهد کرد و در نظر دارد بین ۱۰ تا ۳۰ ریاضیدان را جذب کند و در سال تحصیلی پس از آن، این شمار را به شکلی چشمگیر افزایش دهد.
دکتر زیمرمن که مدیریت علمی مایسی را بر عهده خواهد داشت، پیامی روشن برای جامعه دانشگاهی دارد. او در گفتوگویی از تورنتو اظهار داشت: «ایمنی هوش مصنوعی یک حوزه پژوهشی معنادار و بنیادین است. این یک پویش فکری مشروع، جذاب و مفید به شمار میرود که در آن امکان دستیابی به پیشرفتهای واقعی وجود دارد.»
طی سالهای گذشته، با وجود پیشرفتهای چشمگیر در حوزه هوش مصنوعی، بسیاری از ریاضیدانان این فناوری را جدی نمیگرفتند و آن را صرفاً در قلمرو مهندسان نرمافزار میدانستند. اما همانطور که دکتر زیمرمن اشاره میکند: «مهندسان تنها قادرند ایدههایی را که پیشتر توسعه یافته پیادهسازی کنند، در حالی که ما نیازمند ایدههای کاملاً نوین هستیم.» از آنجا که سیستمهای هوش مصنوعی اساساً بر پایههای ریاضیاتی نظیر جبر خطی، حسابان، نظریه احتمال و آمار بنا شدهاند، او و ریاضیدانان همنظرش، برخی از چالشهای ایمنی هوش مصنوعی را در اصل مسائلی ریاضی قلمداد میکنند.
اندرو کریچ، مدیر اجرایی مایسی و پژوهشگر هوش مصنوعی و ریاضیدانی که بر روی هندسه جبری مدلهای یادگیری ماشین کار کرده است، در این باره گفت: «صنعت هوش مصنوعی به شفافیت و دقت ریاضیاتی بسیار بیشتری نیاز دارد. انرژی هستهای نیز به همین صورت عمل میکند؛ ما پیش از آنکه یک نیروگاه هستهای را حتی برای نخستین راهاندازی آزمایشی روشن کنیم، محاسبات ریاضی گستردهای انجام میدهیم.»
پژوهشگران با پیشزمینه ریاضی، فرصتی طلایی برای ریاضیات پیشرفته میبینند تا به دغدغههایی اساسی پاسخ دهد؛ مسائلی نظیر اینکه سیستمهای هوش مصنوعی چگونه با یکدیگر تعامل و همکاری میکنند، عاملها چگونه بهصورت ریاضی اثبات میکنند که مسئولانه عمل کرده و خروجیهای دقیقی دارند، و چگونه میتوان سیستمهای هوش مصنوعی را از پایه بهگونهای طراحی کرد که حتی در برابر آسیبپذیریها و ریسکهای ناشناخته کنونی نیز تابآور باشند.
دکتر زیمرمن به یک ابزار رمزنگاری موسوم به «اثباتهای داناییصفر» (Zero-Knowledge Proofs) اشاره کرد؛ روشی ریاضی برای راستیآزمایی عملکرد یک سیستم بدون افشای بیش از حد اطلاعات، مانند جزئیات اختصاصی پارامترهای مدل یا دادههای آموزشی. اثباتهای داناییصفر میتوانند زیربنای پروتکلهای اعتمادسازی میان انسان و عاملهای هوش مصنوعی باشند و به افراد امکان دهند درستی ادعای سیستم را بررسی کنند.
شفی گلدواسر، دانشمند برجسته علوم کامپیوتر که در دهه ۱۹۸۰ از بنیانگذاران اثباتهای داناییصفر (و بسیاری دیگر از مفاهیم بنیادین رمزنگاری مدرن) بود، این ابزار را «در اصل روشی برای اثبات واقعیتها بدون افشای فرمول محرمانه شما» توصیف کرد.
دکتر گلدواسر همچنین یکی از بنیانگذاران مؤسسه مشابهی با رویکرد ریاضی برای ایمنی هوش مصنوعی با عنوان «مؤسسه ابرهوش مسئولانه» (RESI) است که در ماه اوت در کمبریج ماساچوست راهاندازی شد. تیم علمی بنیانگذار RESI شامل وینود وایکونتاناتان، متخصص رمزنگاری دانشگاه اِمآیتی، و آدام تاومان کالای، پژوهشگر ایمنی و اخلاق هوش مصنوعی است که اخیراً از اوپنایآی جدا شده است. این تیم در نخستین جلسه خود در هفته گذشته به بررسی این موضوع پرداخت که چگونه روشهای مدنظر آنها باید ذاتاً آنقدر جامع باشند که بتوانند با ارتقای قابلیتها و هوش مدلهای هوش مصنوعی مقیاسپذیر شوند.
لایونل لوین، ریاضیدان دانشگاه کورنل، با اشاره به جامعه بههمپیوستهای از اندیشمندان حوزه ریاضی که اکنون بر خطرات هوش مصنوعی متمرکز شدهاند، گفت: «این یک زیستبوم عظیم و در حال رشد است.» دکتر لوین اخیراً یک مخزن آنلاین از مسائل حلنشده و برنامههای پژوهشی ایجاد کرده و از ریاضیدانان دعوت نموده تا به این عرصه وارد شوند. او تأکید کرد: «ما به نظارتها و سازوکارهای موازنهساز مستقل و شخص ثالثِ متعددی نیاز داریم.»
دکتر زیمرمن با پایهگذاری مایسی، پیامی نیز برای عموم جامعه درباره سطح استاندارد ایمنی مورد انتظار از هوش مصنوعی دارد. او با رد این دیدگاه که «انتظار دستیابی به سطح بالایی از ایمنی از هوش مصنوعی نامعقول است»، تأکید میکند: «این انتظاری کاملاً منطقی و در واقع حیاتی است؛ ما باید خواهان استانداردهای ایمنی به مراتب بالاتری نسبت به آنچه اکنون ارائه میشود باشیم.»
راوی واکیل، ریاضیدان دانشگاه استنفورد و مشاور علمی مؤسسه مایسی، این مسئله را چالشی دانست که تمامی گروههای تخصصی مرتبط باید آن را در اولویت قرار دهند. او گفت: «ما باید با هر ابزار و امکانی که در اختیار داریم با این موضوع روبهرو شویم. ما به مسیرها و رویکردهای هجومی متعددی نیاز داریم.»
دکتر واکیل افزود: «شاید ریاضیات راهحل نهایی و معجزهآسا باشد یا نباشد؛ اما شاید ما به تیرهای زیادی در کمان نیاز داشته باشیم و این تنها یکی از آن تیرها است.»