مقامات چینی در حال تحقیق درباره دیپسیک و مونشات ایآی، دو تن از برجستهترین شرکتهای هوش مصنوعی این کشور، هستند که متهم شدهاند دادهها و پرسشهای کاربران چینی را بدون اطلاع آنها به کلاد شرکت آنتروپیک ارسال کردهاند.
این تحقیقات پس از کشف حجم غیرعادی فعالیت توسط آنتروپیک آغاز شد؛ دهها میلیون تعامل با چتبات این شرکت که شرکت آمریکایی آن را به دو شرکت چینی نسبت داد.
این پرونده با تلاشهای آنتروپیک برای شناسایی اقدامات شرکتهای رقیب هوش مصنوعی برای استفاده از کلاد جهت آموزش و بهبود مدلهای رقابتی آغاز شد. در جریان این بررسیها، آنتروپیک اعلام کرد فعالیتی در مقیاس عظیم مرتبط با دیپسیک و مونشات، شرکت سازنده دستیار هوش مصنوعی کیمی، شناسایی کرده است.
آنتروپیک میگوید این دو شرکت مجموعاً بیش از ۳۵ میلیون بار از کلاد استفاده کردهاند: بیش از ۲۳ میلیون تعامل به مونشات و بیش از ۱۲ میلیون به دیپسیک نسبت داده شده است.
این رقم به این معنا نیست که ۳۵ میلیون کاربر چینی پرسشهای خود را به کلاد ارسال کردهاند. بیشتر فعالیتهایی که آنتروپیک توصیف کرده، شامل تلاشها برای بهبود یا آموزش مدلهای هوش مصنوعی چینی بوده است.
این تکنیک «تقطیر» (Distillation) نامیده میشود، که در آن خروجی یک مدل قدرتمندتر به عنوان ماده آموزشی برای مدل دیگر استفاده میشود تا بخشی از قابلیتهای آن تقلید شود.
کاربران ظاهراً از involvement کلاد بیخبر بودند
آنتروپیک گفت که تحقیقات آن مسئلهای جداگانه و احتمالاً بسیار حساستر را آشکار کرده است.
به گفته این شرکت، مونشات در حداقل برخی موارد نه تنها دستورات تولید شده برای آموزش مدل، بلکه درخواستهای واقعی ثبت شده توسط کاربران کیمی را نیز به کلاد ارسال کرده است.
این بدان معناست که یک کاربر میتواند کیمی را باز کند، سوال یا وظیفهای وارد نماید و به طور منطقی باور کند که اطلاعات توسط سرویس چینی پردازش میشود. اما آنتروپیک مدعی است که پشت پرده، برخی از این درخواستها برای پردازش به کلاد هدایت میشدند، بدون اینکه کاربران بدانند یک سیستم هوش مصنوعی آمریکایی درگیر شده است.
در طول یک دوره ۱۰ روزه که توسط آنتروپیک بررسی شد، این شرکت گفت که تقریباً ۳۰۰ هزار درخواست کاربر کیمی را شناسایی کرده که از طریق هزاران حساب کاربری به کلاد هدایت میشدند.
این موضوع سؤالات متفاوتی نسبت به تقطیر معمولی مدل مطرح میکند.
وقتی یک شرکت خودش میلیونها دستور تولید میکند و آنها را به کلاد میفرستد تا از پاسخهای آن یاد بگیرد، اختلاف عمدتاً مربوط به شرکتهای هوش مصنوعی، شرایط خدمات، مالکیت فکری و آموزش مدل است.
اما وقتی درخواست یک کاربر واقعی از یک سرویس چینی به سیستم یک شرکت آمریکایی بدون اطلاع کاربر منتقل میشود، مسئله همچنین شامل حریم خصوصی، رضایت و انتقال دادههای فرامرزی است.
سپس دادههای حساس ظاهر شدند
این پرونده زمانی جدیتر شد که آنتروپیک بررسی کرد چه نوع اطلاعاتی به کلاد رسیده است.
در یک مثال فاش شده توسط این شرکت، یک کاربر کیمی درخواست کمک برای تجزیه و تحلیل اطلاعات از یک سیستم نظارتی متشکل از صدها دوربین در شهر چنگدوی چین را مطرح کرد.
این سیستم شامل دوربینهایی بود که خارج از تأسیسات وابسته به ارتش آزادیبخش خلق چین و مؤسسات مرتبط با صنایع دفاعی این کشور قرار داشتند.
به گفته آنتروپیک، کاربر نمیدانست که درخواست ثبت شده در کیمی در واقع به کلاد منتقل شده است.
نتیجه این بود که اطلاعات مرتبط با یک شبکه نظارتی نزدیک تأسیسات نظامی چین توسط یک مدل هوش مصنوعی تحت مدیریت یک شرکت آمریکایی پردازش شد، موضوعی به ویژه حساس برای پکن.
چین قوانین سختگیرانهای را در خصوص انتقال داده به خارج از کشور، به ویژه اطلاعاتی که ممکن است مربوط به امنیت ملی، نهادهای دولتی یا شرکتهای راهبردی باشند، حفظ میکند.
با توجه به این پیشینه، اداره فضای سایبری چین (CAC) تحقیقاتی را درباره دیپسیک و مونشات آغاز کرده است. طبق گزارشها، مدیران و کارکنان هر دو شرکت برای بازجویی فراخوانده شدهاند تا مقامات دقیقاً مشخص کنند چگونه از کلاد استفاده شده و چه مقدار اطلاعات منتقل شده است.
یکی از سؤالات محوری این است که آیا کاربران میدانستند پرسشهایشان ممکن است سیستمهای چینی را ترک کرده و توسط یک سرویس خارجی پردازش شود.
نهادهای نظارتی همچنین در حال بررسی انواع دادههای منتقل شده، نحوه هدایت آنها به کلاد و اینکه آیا هیچیک از شرکتها قوانین چین را در مورد انتقال اطلاعات به خارج نقض کردهاند، میباشند.
در همین حال، مقامات در حال بررسی استفاده گستردهتر شرکتها از کلاد برای آموزش مدلهای هوش مصنوعی خود نیز هستند.
آنتروپیک این فعالیت را تلاشی برای دور زدن حفاظتها و بهرهبرداری از قابلیتهای کلاد برای توسعه سیستمهای رقابتی توصیف میکند. اما برای نهادهای نظارتی چینی، سؤال حساستر ممکن است آنچه بر سر دادههای کاربران چینی آمده باشد.
زمانبندی حساس
این تحقیقات در لحظهای به ویژه حساس برای دیپسیک انجام میشود.
این شرکت قرار است این هفته درباره ریسکهایی که هوش مصنوعی ممکن است برای امنیت بینالمللی ایجاد کند، به شورای امنیت سازمان ملل گزارش دهد. مونشات نیز برای شرکت در این بحث دعوت شده است.
به گزارش رویترز، انتظار نمیرود لیانگ ونفن، بنیانگذار دیپسیک، شخصاً حضور یابد.
بنابراین، این تحقیقات زمینهای غیرعادی را برای یکی از برجستهترین شرکتهای هوش مصنوعی چین در حالی که در یک بحث بینالمللی درباره ریسکهای امنیتی ناشی از این فناوری شرکت میکند، ایجاد میکند.