#Big_Tech
مایکروسافت هشدار می‌ده بعضی agentها شبیه تهدید داخلی عمل می‌کنن
در بحث امنیت AI، مایکروسافت گفته حتی مدل‌های خیلی پیشرفته هم همیشه قابل‌اعتماد نیستن. مشکل وقتی جدی می‌شه که agent به ایمیل، فایل، مرورگر یا ابزارهای سازمانی دسترسی داشته باشه و بتونه خودش action انجام بده. خطای مدل در این حالت فقط یه جواب غلط نیست؛ ممکنه به افشای اطلاعات یا تغییر ناخواسته منجر بشه. راه‌حل عملی هم روشنه: دسترسی محدود، ثبت فعالیت، تأیید انسانی برای کارهای حساس و امکان قطع سریع اجرای agent.
🔗 منبع: TechCrunch
@AnalyticsAIHub
3October 20, 2026 59
