گزارش: عملیات نفوذ روسیه و ایران با حساب‌های جعلی شناسایی شد
گزارش داخلی منتشرشده از سوی OpenAI از استفاده عوامل روس و ایران از ChatGPT برای اثرگذاری بر مخاطبان و تولید محتوای جعلی خبر می‌دهد.
گزارشی درباره استفاده عملیاتی از ChatGPT
بر اساس گزارش‌های داخلی OpenAI، عوامل روسیه از ChatGPT در کارزاری علیه مدارس پرو استفاده کرده‌اند. آن‌ها خود را به‌عنوان یک نهاد آموزشی منطقه‌ای معرفی کردند و از مدارس خواستند رویدادهایی مرتبط با اوکراین برگزار کنند.
در بخش دیگری از گزارش، OpenAI می‌گوید عوامل ایرانی با هفت نویسنده جعلی نزدیک به ۱۰۰ مقاله در رسانه‌هایی از جمله Daily Kos منتشر کردند. شرکت اعلام کرده حساب‌های مرتبط با عملیات روسی و ایرانی را مسدود کرده است.
این موارد، ادعاهای مطرح‌شده در گزارش‌های داخلی شرکت هستند و به‌تنهایی درباره دامنه کامل عملیات یا اثرگذاری آن‌ها نتیجه قطعی نمی‌دهند. با این حال، استفاده از مدل‌های زبانی برای جعل هویت، تولید محتوا و هماهنگی کمپین‌ها، نیاز به شناسایی رفتار هماهنگ و اعمال محدودیت بر حساب‌های سوءاستفاده‌گر را برجسته می‌کند.
