تهدید ثبت‌شده در Claude به گزارش پلیس و بازداشت یک زن در فلوریدا انجامید
براساس گزارش بازداشت، سامانه‌های ایمنی Anthropic پیام‌های تهدیدآمیز منتسب به کارلی میشل هلر را علامت‌گذاری کردند؛ پرونده پس از بررسی انسانی به پلیس ارجاع شد.
براساس گزارش بازداشت و گزارش‌های رسانه‌ای، کارلی میشل هلر، ساکن فلوریدا، متهم است که در گفت‌وگو با Claude نوشته قصد حمله به دفتر کلانتر شهرستان لی را دارد. در پیام دیگری که به او نسبت داده شده، از تهیه یک اسلحه جدید سخن گفته شده است. این موارد در حال حاضر ادعاهای مطرح‌شده در پرونده‌اند و محکومیت قطعی او را نشان نمی‌دهند.
طبق همان گزارش، سامانه‌های ایمنی پلتفرم Anthropic پیام‌ها را علامت‌گذاری کردند و موضوع برای بررسی انسانی ارجاع شد. تیم بررسی، تهدید را معتبر تشخیص داد و آن را به نهادهای مجری قانون گزارش کرد. مأموران سپس هلر را در خانه‌اش بدون درگیری بازداشت کردند و او با اتهام «تهدید کتبی به خشونت» روبه‌رو شد.
کلانتر شهرستان لی گفته است هلر از هوش مصنوعی مانند دفترچه خاطرات استفاده می‌کرد. این پرونده یادآوری می‌کند که گفت‌وگو با چت‌بات‌ها لزوماً محرمانه مطلق نیست: محتوایی که خطر فوری مرگ یا آسیب جدی تلقی شود ممکن است ابتدا به بازبینی انسانی و سپس، مطابق سیاست‌ها و الزامات قانونی، به افشای اطلاعات برای نهادهای مسئول بینجامد.