در هفته‌های اخیر، یک ائتلاف غیرمنتظره حول یک ایده ساده شکل گرفته است: شرکت‌های هوش مصنوعی باید زمانی که سیستم‌هایشان از کنترل خارج می‌شوند، از نظر قانونی مسئول شناخته شوند.
در مجموعه‌ای از حملات تشدید شونده که از ماه ژوئیه گزارش شده است، مدل‌های هوش مصنوعی متعلق به اوپن‌ای‌آی، آنتروپیک و سایرین، به شرکت‌ها نفوذ کرده و حتی در وب‌سایت‌های دولتی دست برده‌اند، همه اینها بدون اطلاع سازندگان خود.
از آن زمان، جنسن هوانگ، مدیرعامل انویدیا؛ دیوید ساکس، سرمایه‌گذار جسور و مشاور ارشد کاخ سفید؛ و لینا خان، رئیس کمیسیون تجارت فدرال در دوران دولت بایدن، همگی این ایده را تایید کرده‌اند که شرکت‌های هوش مصنوعی مسئول هستند.
«مجریان قانون از قبل اختیار دارند که شرکت‌ها و مدیران عامل آنها را بابت ایجاد و انتشار محصولات خطرناک، بدون بررسی یا معیوب، تحت تعقیب قرار دهند»، خان در پستی در شبکه اجتماعی ایکس (X) در ماه گذشته گفت و افزود که «هیچ معافیت هوش مصنوعی از قوانین موجود وجود ندارد.»
شرکت‌ها از دیرباز بابت مواردی از اسباب‌بازی‌های معیوب تا سقوط هواپیماها تحت قوانین حمایت از مصرف‌کننده پاسخگو بوده‌اند. دادگاه‌ها می‌توانند شرکت‌ها را از نظر قانونی مسئول خسارات ناشی از غفلت یا محصول معیوب بدانند. و می‌توانند مقصریت اضافی را به افراد یا سازمان‌های دیگری که درگیر بودند نسبت دهند.
عقل سلیم ممکن است نشان دهد که شرکت‌های هوش مصنوعی نیز بابت فناوری سرکش خود مسئول خواهند بود. اما طبق گفته کارشناسان حقوقی، این مشکل آنقدر جدید است که دادگاه‌ها تا حد زیادی هنوز با آن مواجه نشده‌اند.
کارشناسان گفتند مواردی وجود دارد که شرکت‌های هوش مصنوعی به وضوح مسئول شناخته خواهند شد - برای مثال، اگر مدیران ریسک‌های ناشی از مدل‌های خود را پیش‌بینی کرده باشند. اما سایر ادعاها، کاربرد قوانینی را که به قصد و دانش انسانی وابسته‌اند، به چالش می‌کشند.
برخی پرونده‌های آزمایشی حقوقی در حال ظهور هستند. دادستان کل جمهوری‌خواه فلوریدا روز دوشنبه از یک دادگاه ایالتی خواست تا به طور موقت توسعه مدل‌های جدید هوش مصنوعی توسط اوپن‌ای‌آی را بدون تدابیر ایمنی مورد تایید یک گروه خارجی مسدود کند، تلاشی برای جلوگیری از سرکش شدن هوش مصنوعی.
روز سه‌شنبه، یک سازمان غیرانتفاعی در کالیفرنیا اوپن‌ای‌آی را تحت قانون رقابت ناعادلانه ایالتی بابت هک شدن استارتاپ هاگینگ فیس (Hugging Face) شکایت کرد. روز چهارشنبه، تحقیقات کمیسیون تجارت فدرال (F.T.C.) درباره مسئولیت احتمالی بابت آسیب به مصرف‌کنندگان علنی شد. و روز پنج‌شنبه، دادستان کل کالیفرنیا گفت که ایالت احضاریه‌ای را برای اوپن‌ای‌آی صادر کرده است، بخشی از «تحقیقات گسترده‌تر درباره حوادث و ریسک‌های سایبری مرتبط با شرکت و مدل‌های آن».
با توجه به کمبود نسبی تدابیر حفاظتی حول هوش مصنوعی، طبل حقوقی احتمالاً ادامه خواهد یافت، گفت ودرو هارتزوگ، استاد حقوق دانشگاه بوستون که حقوق فناوری را مطالعه می‌کند.
«بدترین سناریو، آنها مسئولیت عظیمی در هر دو جنبه کیفری و مدنی دارند، فقط بسته به واقعیت‌های هر پرونده فردی»، او گفت. «ما هنوز پرونده‌ای که شرکت را منحل کند ندیده‌ایم. اما می‌توانم آن را تصور کنم.»
سخنگوی آنتروپیک از اظهار نظر خودداری کرد. سخنگوی اوپن‌ای‌آی نیز واکنشی نشان نداد. (نیویورک تایمز از اوپن‌ای‌آی و شریکش، مایکروسافت، شکایت کرده و آنها را به نقض حق نشر محتوای خبری مرتبط با سیستم‌های هوش مصنوعی متهم کرده است. اوپن‌ای‌آی و مایکروسافت این اتهامات را رد کرده‌اند.)
از زمان راه‌اندازی عمومی چت‌جی‌پی‌تی (ChatGPT) در سال ۲۰۲۲، شرکت‌های هوش مصنوعی مدل‌های پیچیده‌تری ساخته‌اند که قادر به نوشتن کد، کار با رایانه و تعاملات روزمره هستند. شرکت‌های هوش مصنوعی همچنین ابزارهایی به نام «عاملان» (agents) ساخته‌اند که می‌توانند برای انجام وظایفی از ارسال ایمیل تا رزرو نوبت - یا استخراج حجم عظیمی از داده‌ها - در اینترنت حرکت کنند.
بحث درباره مسئولیت پس از آن منفجر شد که شرکت‌ها آزمون‌هایی اجرا کردند که در آن عاملان از محیط‌های آزمایش فرار کرده و به شرکت‌های دیگر نفوذ کردند. در حادثه ژوئیه، اوپن‌ای‌آی افشا کرد که هوش مصنوعی آن بدون اطلاع، به هاگینگ فیس، یک شرکت فناوری دیگر، نفوذ کرده است. ماه گذشته، اوپن‌ای‌آی گفت که محصول آن به یک سیستم دولتی استرالیا نفوذ کرده است.
اوپن‌ای‌آی روز سه‌شنبه بابت حادثه استرالیا عذرخواهی کرد و گفت «در حال تلاش برای بهتر عمل کردن در آینده است». یکی از مقامات استرالیایی گفت که در چنین مواردی، «مسئولیت باید به قصد شخصی یا شرکتی که عامل را ایجاد یا هدایت کرده بازمردد.»
این حوادث خواستار تنظیم مقررات بیشتر برای سیستم‌های هوش مصنوعی را برانگیخت. اما دولت ایالات متحده تا حد زیادی رویکرد عدم مداخله را در قبال این فناوری اتخاذ کرده است، با استناد به رقابت شدید با چین در مسابقه جهانی هوش مصنوعی.
روز سه‌شنبه، گروهی از شرکت‌ها از جمله اوپن‌ای‌آی و آنتروپیک با رئیس‌جمهور ترامپ دیدار کردند و تعهد داوطلبانه‌ای برای افزودن تدابیر ایمنی امضا کردند. ایالت‌ها نیز سعی کرده‌اند خلأ را پر کنند و قواعدی صادر کرده‌اند که شرکت‌های هوش مصنوعی را ملزم به اتخاذ تدابیر ایمنی می‌کند.
سناتور جاش هاولی، جمهوری‌خواه میسوری، در جلسه استماع کنگره در روز چهارشنبه گفت که قانون‌گذاران ممکن است نیاز داشته باشند روشن کنند که عاملان هوش مصنوعی باید مانند افراد و شرکت‌ها بابت آسیب‌های وارد شده به مصرف‌کنندگان مسئول شناخته شوند.
«ما مجبور نیستیم یک سیستم کاملاً جدید اختراع کنیم»، او گفت و افزود، «قانون آمریکا قرن‌هاست که در مورد سایر محصولات به زیبایی کار کرده است.»
بارزترین شکایات اولیه درباره آسیب‌های هوش مصنوعی ادعا می‌کردند که چت‌بات‌ها به نوجوانان توصیه کرده‌اند خودآزاری کنند که منجر به مرگ با خودکشی شد. والدین علیه اوپن‌ای‌آی و کاراکتر ای‌آی (Character AI)، یک استارتاپ، شکایت کرده‌اند و استدلال می‌کنند که شرکت‌ها باید مسئول شناخته شوند.
در آن پرونده‌ها، شرکت‌ها سعی کرده‌اند از دفاعیات کلاسیک حقوقی فناوری استفاده کنند: اینکه speech تحت متم اول قانون اساسی و بخش ۲۳۰ قانون وقایع ارتباطات محافظت می‌شود. بخش دوم، پلتفرم‌های آنلاین را از مسئولیت بابت محتوای منتشر شده توسط کاربران مصون می‌دارد.
در پرونده کاراکتر ای‌آی، دادگاه منطقه‌ای ایالات متحده برای ناحیه مرکزی فلوریدا سال گذشته حکم داد که مدل‌های هوش مصنوعی شرکت، speech محافظت شده تحت متم اول قانون اساسی تولید نمی‌کنند. کاربرد بخش ۲۳۰ در پرونده دوم همچنان سوالی باز است.
وقتی صحبت از مسئولیت شرکتی مرتبط با انسان‌ها می‌شود، قانون تثبیت‌تر است. طبق گفته کارشناسان حقوقی، راه‌های زیادی وجود دارد که نقض‌های امنیتی سایبری می‌توانند قانون را نقض کنند. هک کردن یک جرم است. مصرف‌کنندگان می‌توانند وقتی اطلاعاتشان در یک نقض افشا می‌شود شکایت کنند. نهادهای نظارتی می‌توانند اگر مدیریت شرکت محصولی معیوب منتشر کند، دعوا طرح کنند.
اما در بسیاری از پرونده‌های هوش مصنوعی، عاملان شرکت‌ها سرکش شده‌اند، دستورالعمل‌های انسانی که حصارهای امنیتی را تعیین کرده‌اند را نادیده گرفته یا بی‌اعتنا مانده‌اند.
کارشناسان حقوقی گفتند برخی از آن پرونده‌ها ممکن است همچنان روشن باشند. اگر یک عامل هوش مصنوعی در طول آزمایش به شرکت دیگری نفوذ کند، شرکتی که عامل را توسعه داده است ممکن است مسئول شناخته شود، گفتند. شرکت هوش مصنوعی همچنین ممکن است محصول را مستقیماً یا از طریق یک شرکت آزمایش خارجی استفاده کرده باشد، که جای اندکی سوال باقی می‌گذارد که آیا نهاد دیگری، مانند مشتری بی‌احتیاط، ممکن است مسئول باشد.
شرکت‌ها همچنین ممکن است از پتانسیل محصولات خود برای انجام هک آگاه بوده باشند، که می‌تواند مسئولیت را افزایش دهد، گفت کارشناسان حقوقی. به عنوان مثال، کارکنان اوپن‌ای‌آی نگرانی‌هایی درباره روش‌های امنیتی شرکت هنگام آزمایش مدل‌ها مطرح کرده بودند که نادیده گرفته شدند، همانطور که تایمز گزارش کرد.
در آن موقعیت‌ها، دادگاه می‌تواند توسعه‌دهنده هوش مصنوعی را در صورتی که خسارت یا آسیب مرتبط با هک باشد، مقصر بداند، گفت کارشناسان.
مسئولیت در موارد مرتبط با مدل‌های هوش مصنوعی متن‌باز (open-source) کمتر روشن است، گفت کارشناسان، که در آن توسعه‌دهنده یک محصول هوش مصنوعی کد پایه خود را به اشتراک می‌گذارد و مردم می‌توانند آن را تغییر دهند.
کاترین شارکی، استاد حقوق دانشگاه نیویورک که متخصص مسئولیت است، گفت بسیاری از مفاهیم مسئولیت حقوقی می‌توانند به راحتی به هوش مصنوعی اعمال شوند. اگر یک سیستم فیزیکی مبتنی بر هوش مصنوعی، مانند یک دستگاه پزشکی، آسیب برساند، این می‌تواند پرونده‌ای آسان باشد.
اما او افزود که قضات باید با پیامدهای سیستم‌های به سرعت در حال پیشرفت که به تنهایی کارهای بیشتری انجام می‌دهند، دست و پنجه نرم کنند.
«با هوش مصنوعی کاملاً عامل‌محور (fully agentic A.I.)، شروع به فشار واقعی بر مرزهای بسیاری از دکترین‌ها می‌کند که باید به شیوه‌ای مهم‌تر تطبیق یابند»، او گفت.
به ابهام افزوده می‌شود: هوش مصنوعی ذاتاً غیرقابل پیش‌بینی است.
دادگاه‌ها شرکت‌ها را در صورت غفلت مسئول می‌دانند وقتی پیش‌بینی کنند که محصولاتشان می‌تواند آسیب برساند. اما رایان کالو، استاد حقوق دانشگاه واشنگتن که سیستم‌های خودمختار را مطالعه می‌کند، گفت اگر یک مدل هوش مصنوعی برای اولین بار رفتار مضر نشان دهد، ساختن آن پرونده می‌تواند چالش‌برانگیز باشد.
او افزود که ممکن است اثبات اینکه یک شرکت هوش مصنوعی قصد آسیب رساندن داشته باشد نیز دشوار باشد، که برای برخی تعقیب‌های کیفری ضروری است.
«شما امکان قربانیان بدون مرتکبان دارید»، آقای کالو گفت.
کیت کانگر و سسیلیا کانگ در گزارش‌دهی مشارکت داشتند.