نادلا خواستار «ترمز اضطراری» برای مدل‌های هوش مصنوعی شد
مدیرعامل مایکروسافت می‌گوید مدل‌های هوش مصنوعی باید از ابتدا بالقوه نفوذپذیر فرض شوند و فردی مجاز بتواند اجرای آن‌ها را میان کار متوقف کند.
ساتیا نادلا، مدیرعامل مایکروسافت، خواستار رویکردی محتاطانه‌تر به ایمنی مدل‌های هوش مصنوعی شده است. به نقل از او، توسعه‌دهندگان باید از ابتدا فرض کنند که یک مدل ممکن است به خطر افتاده باشد و آن را در محیطی مهارشده نگه دارند.
در این دیدگاه، یک فرد مجاز باید بتواند اجرای مدل را حتی در میانه انجام یک وظیفه متوقف یا کاملاً خاموش کند؛ سازوکاری که نادلا آن را به «ترمز اضطراری» تشبیه کرده است.
این پیشنهاد بر کنترل عملیاتی و امکان مداخله انسانی تأکید دارد. با این حال، محتوای منتشرشده جزئیاتی درباره معماری فنی، معیار فعال‌سازی توقف یا سخنرانی اصلی ارائه نمی‌کند؛ بنابراین دامنه دقیق پیشنهاد روشن نیست.
این اظهارات در ادامه بحث گسترده‌تر مدیران صنعت درباره خطرهای مدل‌های پیشرفته، سرعت توسعه و ضرورت سازوکارهای مهار مطرح شده است.
