تیم OpenAI پس از گزارشهایی مبنی بر حذف اشتباهی فایلهای کاربران توسط مدل
Codex، پروتکلهای امنیتی خود را بهروزرسانی کرد. این مشکل ناشی از خطای مدل در مدیریت متغیرهای محیطی و مسیرهای دسترسی بود که در موارد نادر باعث میشد دستورات پاکسازی به جای پوشههای موقت، به دایرکتوری اصلی کاربر اشاره کنند.مهمترین اقدامات حفاظتی انجام شده:
• اصلاح دستورات مدل: مدل اکنون موظف به بررسی دقیق مسیرهای حذف و استفاده از فرآیندهای بازگشتپذیر است.
• اعتبارسنجی اجرایی: سیستمهای بازبینی خودکار برای شناسایی و مسدودسازی دستورات خطرناک تقویت شدهاند.
• محدودسازی دسترسی کامل: فعالسازی حالت
Full access دشوارتر و هشدارهای امنیتی آن شفافتر شده است.• آموزش مبتنی بر خطا: اضافه شدن سناریوهای آزمایشی جدید برای پیشگیری از تکرار این حوادث در فرآیند آموزش مدل.
به کاربران توصیه میشود ضمن بهروزرسانی
Codex، از محیطهای ایزوله (Sandbox) استفاده کرده و دسترسیهای مدیریتی را تنها در صورت نیاز و اطمینان از سلامت محیط فعال کنند.📚 مطالعه با جزئیات بیشتر
📊 Data➕Science
