اوپن‌ای‌آی: شبکه‌ای مرتبط با Moonshot AI در پی استخراج استدلال مدل‌ها بود
اوپن‌ای‌آی می‌گوید یک کارزار تقطیر خصمانه با هزاران حساب تلاش کرده استدلال محافظت‌شده مدل‌هایش را استخراج کند و بخشی از فعالیت را به افراد مرتبط با Moonshot AI نسبت می‌دهد.
اوپن‌ای‌آی اعلام کرده یک کارزار هماهنگ برای استخراج استدلال محافظت‌شده مدل‌هایش را شناسایی و متوقف کرده است. این شرکت فعالیت را نمونه‌ای از «تقطیر خصمانه» می‌داند؛ روشی که در آن خروجی یا استدلال یک مدل، بدون مجوز، برای آموزش یا بازتولید توانایی‌های مدلی دیگر به کار می‌رود.
به گفته اوپن‌ای‌آی، عاملان رمزنگاری را نشکستند و به پایگاه داده یا گفت‌وگوهای ذخیره‌شده کاربران دسترسی مستقیم پیدا نکردند. در یکی از روش‌ها، استدلال رمزگذاری‌شده از یک گفت‌وگو کپی می‌شد و در گفت‌وگویی دیگر از مدل می‌خواستند آن را رمزگشایی و بازنویسی کند.
اوپن‌ای‌آی می‌گوید فعالیت از اول ژوئیه آغاز شد و در روزهای ۲۴ و ۲۵ ژوئیه به حدود ۱۶ هزار درخواست با یک الگوی استخراج مشخص از سوی بیش از ۴ هزار کاربر رسید. بررسی گسترده‌تر نیز الگوهای مرتبطی را در خوشه‌ای شامل بیش از ۱۵ هزار کاربر نشان داد که این شرکت می‌گوید تا ۲۸ ژوئیه کاملاً مختل شد. طبق توضیح خود اوپن‌ای‌آی، این ارقام بیانگر تلاش برای استخراج‌اند و لزوماً به معنای موفقیت آن نیستند.
این شرکت تأکید می‌کند روشن نیست همه عاملان یک بازیگر واحد بوده باشند، اما هسته‌ای از فعالیت را به افراد مرتبط با Moonshot AI، سازنده Kimi، نسبت می‌دهد. این انتساب ارزیابی اوپن‌ای‌آی است و در گزارش اولیه پاسخی از Moonshot ارائه نشده است.
