هشدار یک ریاضی‌دان درباره اشتراک‌گذاری ایده‌های پژوهشی با هوش مصنوعی
تریستان باک‌مستر می‌گوید همچنان از ابزارهای هوش مصنوعی استفاده می‌کند، اما به‌دلیل نگرانی‌های محرمانگی دیگر ایده‌های اصیل پژوهشی خود را با آن‌ها در میان نمی‌گذارد.
تریستان باک‌مستر، ریاضی‌دان، می‌گوید استفاده از ابزارهای هوش مصنوعی را کنار نگذاشته است؛ بااین‌حال دیگر ایده‌های اصیل و منتشرنشده پژوهشی خود را با سامانه‌های متعلق به OpenAI یا Anthropic به اشتراک نمی‌گذارد.
طبق گزارش منتشرشده، نگرانی او پس از آن بیشتر شد که OpenAI مجموعه بزرگی از دست‌نوشته‌های ریاضی تولیدشده با یک مدل آزمایشی را منتشر کرد. در این گزارش از ۷۲۲ دست‌نوشته و ۳۷۲ خانواده نتیجه نام برده شده است؛ اعدادی که در متن منبع به‌صورت مستقل مستند نشده‌اند و بنابراین باید به‌عنوان ادعای همان گزارش خوانده شوند.
نگرانی اصلی باک‌مستر این است که پژوهشگران جوان ممکن است سال‌ها روی مسئله‌ای کار کنند، درحالی‌که یک سامانه قدرتمند بتواند نتایج مشابه را بسیار سریع‌تر تولید کند. این موضوع علاوه بر رقابت علمی، پرسش‌هایی درباره زمان انتشار، مالکیت فکری و حفاظت از ایده‌های اولیه مطرح می‌کند.
او همچنین به یک خطر عملی‌تر اشاره می‌کند: ممکن است داوران طرح‌های پژوهشی، متن پیشنهادهای محرمانه را برای خلاصه‌سازی یا ارزیابی در ابزارهای هوش مصنوعی بارگذاری کنند. چنین کاری، بسته به سیاست‌های سرویس و تنظیمات حساب، می‌تواند اطلاعات منتشرنشده را در اختیار یک ارائه‌دهنده بیرونی قرار دهد.
در عین حال، هیچ مدرکی ارائه نشده که نشان دهد OpenAI از آثار یا ایده‌های باک‌مستر سوءاستفاده کرده است و این شرکت نیز چنین سوءاستفاده‌ای را رد می‌کند. بنابراین این ماجرا بیش از آنکه اثبات یک تخلف مشخص باشد، هشداری درباره مدیریت داده‌های حساس است.
راهکار محتاطانه برای پژوهشگران این است که پیش از واردکردن هر متن محرمانه، سیاست نگهداری و استفاده از داده‌ها، تنظیمات حریم خصوصی و قرارداد سازمانی سرویس را بررسی کنند؛ و برای ایده‌های منتشرنشده یا پیشنهادهای داوری‌شده، از ابزارهای تأییدشده سازمانی یا روش‌هایی استفاده کنند که داده را به سرویس بیرونی ارسال نمی‌کند.