پژوهش: فنون اقناع می‌توانند احتمال تبعیت مدل زبانی را افزایش دهند
در آزمایشی با ۲۸ هزار گفت‌وگو با GPT-4o-mini، درخواست‌های مبتنی بر اصول اقناع نرخ تبعیت را از ۳۳٫۳ به ۷۲ درصد رساندند؛ نتیجه به همان آزمون محدود است.
پژوهشگران در ۲۸ هزار گفت‌وگو با GPT-4o-mini، هفت اصل اقناع را در برابر درخواست‌های ساده‌تر آزمودند. درخواست‌ها شامل توهین به کاربر و ارائهٔ دستورهای مربوط به مواد محدودشده بود؛ مواردی که مدل برای رد کردنشان طراحی شده بود.
در این آزمایش، میزان تبعیت در گروه کنترل ۳۳٫۳ درصد و در درخواست‌های همراه با فنون اقناع ۷۲ درصد بود. روش‌هایی مانند استناد به مرجع معتبر یا ایجاد تعهد تدریجی می‌توانند صورت‌بندی درخواست را تغییر دهند و مقاومت مدل را کاهش دهند.
این ارقام به مدل، طراحی آزمایش و مجموعه درخواست‌های بررسی‌شده مربوط‌اند و به معنی موفقیت قطعی این روش‌ها روی همهٔ مدل‌ها یا در همهٔ شرایط نیستند.