مدیران عامل چندین شرکت بزرگ هوش مصنوعی از اعضای کنگره میخواهند قوانین جدیدی را تصویب کنند که ساخت تسلیحات بیولوژیک توسط افراد بدخواه با استفاده از فناوری آنها را دشوارتر کند.
دمیس هاسابیس از گوگل دیپمایند (Google DeepMind)، سم آلتمن از اوپنایآی (OpenAI)، داریو آمودی از انتروپیک (Anthropic) و مصطفی سلیمان از مایکروسافت اِیآی (Microsoft AI) از جمله امضاکنندگان نامهای عمومی هستند که خواستار قوانینی است که شرکتهای فروشنده DNA و RNA مصنوعی را ملزم به غربالگری مشتریان و سفارشها برای جلوگیری از سوءاستفاده از مواد ژنتیکی میکند.
این نامه که توسط موسسه غیرحزبی برای پیشرفت (Institute for Progress) و بنیاد محافظهکار برای نوآوری آمریکا (Foundation for American Innovation) سازماندهی شده است، اذعان میکند که با توجه به سرعت توسعه هوش مصنوعی، «این امکان واقعی وجود دارد که موانع دانش که در گذشته از دستیابی بازیگران بد به تسلیحات بیولوژیک جلوگیری میکرد، به طور چشمگیری کاهش یابد.»
دانشمند آرتور کورنبرگ (Arthur Kornberg) اولین کسی بود که در دهه ۱۹۵۰ میلادی DNA را با موفقیت سنتز کرد. اکنون، این فرآیند خودکار شده است و دهها شرکت در سراسر جهان با استفاده از سنتزکنندههای تجاری، توالیهای ژنتیکی سفارشی را «چاپ» و میفروشند که برای تحقیقات علمی، توسعه داروها و تشخیصها به کار میروند. بسیاری از ارائهدهندگان، محصولات خود را فقط به محققان واجد شرایط، شرکتهای بیوتکنولوژی و موسسات آموزشی میفروشند، اما همه آنها مشتریان یا توالیهای ژنی مورد سفارش را بررسی نمیکنند.
در سال ۲۰۱۷، محققان کانادایی با استفاده از DNA سفارشی شده از طریق پست، به ارزش ۱۰۰,۰۰۰ دلار، ویروس منقرض شده آبله اسبی (Horsepox virus) را بازسازی کردند و هشدار دادند. منتقدان اظهار داشتند که همین روش میتواند برای ساخت ویروس آبله (smallpox)، یک ویروس مرتبط و کشنده، استفاده شود. از آن زمان تاکنون، سنتز ژن ارزانتر نیز شده است.
با ترکیب پیشرفتها در هوش مصنوعی، اکنون طراحی سموم و عوامل بیماریزای جدید و خطرناک با استفاده از مدلهای زبان بزرگ (large language models) امکانپذیر است، اگرچه برای ساخت یک ویروس عملکردی از ابتدا، احتمالاً هنوز به آموزش زیستشناسی نیاز خواهد بود. اگرچه حملات بیوتروریسم نادر بودهاند، اما پتانسیل ایجاد تلفات جمعی، وحشت عمومی و زیان اقتصادی را دارند. یکی از نگرانیهای اصلی این است که یک عامل بیماریزای طراحی شده توسط هوش مصنوعی میتواند، دانسته یا ندانسته، یک همهگیری جهانی را آغاز کند.
دیوید رلمن (David Relman)، میکروبیولوژیست و کارشناس امنیت زیستی در دانشگاه استنفورد (Stanford University) که این نامه را امضا کرده است، میگوید: «ابزارهای هوش مصنوعی به کاربر این امکان را میدهند که به سرعت شناسایی کند که برای سفارش توالیهایی که تحت غربالگری قرار نمیگیرند، به کجا مراجعه کند. اگر به درستی راهنمایی شوند، میتوانند به شما بگویند که چگونه ماهیت سفارش خود را تغییر دهید، به طوری که حتی کسانی که غربالگری انجام میدهند، کمتر بتوانند تشخیص دهند که شما قصد ساخت چه چیزی را دارید.»
در میان امضاکنندگان، دانشمندان دیگر، کارشناسان امنیت ملی و مدیران شرکتهای سنتز ژن توئیست بایوساینس (Twist Bioscience) و آنسا بیوتکنولوژی (Ansa Biotechnologies) نیز حضور دارند. این شرکتها عضو کنسرسیوم بینالمللی سنتز ژن (International Gene Synthesis Consortium) هستند که در سال ۲۰۰۹ برای اجرای روشهای غربالگری داوطلبانه تشکیل شد. بسیاری از شرکتها در حال حاضر از نرمافزارهایی برای غربالگری سفارشها جهت شناسایی «توالیهای نگرانکننده» که میتوانند به سمیت یا توانایی ارگانیسم در ایجاد بیماری کمک کنند، استفاده میکنند.
جیمز دیگانز (James Diggans)، معاون سیاستگذاری و امنیت زیستی در توئیست بایوساینس میگوید: «اگر فناوری دارید که قادر به سنتز DNA است، باید اطمینان حاصل کنید که مسئولانه استفاده میشود و بخشی از آن این است که مطمئن شوید چه چیزی را میسازید و برای چه کسی آن را میسازید.» این شرکت سالهاست که از اجرای قوانین رسمی حمایت میکند.
دستورالعملهای فدرال که در دولت بایدن معرفی شد، دانشمندان و شرکتهایی را که بودجه فدرال دریافت میکنند، ملزم میکرد توالیهای ژن مصنوعی را از ارائهدهندگانی سفارش دهند که خریدها را غربالگری میکنند. یک لایحه دوحزبی که اوایل سال جاری در سنا مطرح شد، از همه ارائهدهندگان سنتز ژن فعال در ایالات متحده میخواهد که سفارشها و مشتریان را برای شناسایی افراد بدخواه یا عوامل بیماریزای خطرناک غربالگری کنند.
اما ابزارهای غربالگری بیعیب نیستند. سال گذشته، محققان مایکروسافت مطالعهای را منتشر کردند که نشان میداد ابزارهای طراحی پروتئین مبتنی بر هوش مصنوعی قادر به تولید توالیهای ژنی بالقوه خطرناک بودند که از نرمافزارهای غربالگری شرکتها عبور میکردند. این مدلها توالیهای پروتئینی جدیدی را با ساختارهای مشابه توالیهای شناختهشده خطرناک پیشنهاد کردند.
جف رالستون (Geoff Ralston)، رئیس سابق وای کامبینیتور (Y Combinator) و شریک در صندوق هوش مصنوعی ایمن (Safe AI Fund)، معتقد است که آزمایشگاههای هوش مصنوعی با مدلهای زیستشناسی باید خودشان کاربران را غربالگری کنند.
رالستون، که او نیز این نامه را امضا کرده است، میگوید: «باید بسیار دشوار، اگر نگوییم غیرممکن باشد، که از یک مدل خواسته شود به شما در انجام کاری به شدت خطرناک کمک کند.»
رلمن نیز موافق است که مقررات مربوط به رویههای غربالگری تنها بخشی از راهحل است. او میگوید: «با توجه به اینکه غربالگری ممکن است در برخی موارد شکست بخورد، ما باید نقاط کنترل دیگری داشته باشیم. اینجاست که شرکتهای هوش مصنوعی باید قدم پیش بگذارند.»