محققان حملهای جدید با نام MemPoison معرفی کردهاند؛ روشی برای Memory Poisoning در Agentهای مبتنی بر LLM که میتواند مکانیزم های حافظه را دور بزند.
در این حمله، مهاجم از طریق یک گفتوگوی معمولی، اطلاعات مخرب را به حافظه بلندمدت Agent تزریق میکند.
این اطلاعات میتوانند شامل یک Backdoor قابل فعال سازی باشند که باعث تغییر رفتار Agent در تعاملات آینده میشود.
به زبان ساده تر بخواییم بگیم :
مهاجم میتواند حافظه یک هوش مصنوعی را آلوده کند تا در زمان مشخص، پاسخ های اشتباه یا هدایت شده تولید کند.
🔴 تهدیدات:
• تزریق دادههای مخرب به حافظه
• ایجاد رفتارهای پنهان
• تغییر پاسخ های آینده Agent
• تبدیل حافظه AI به یک Attack Surface جدید
با افزایش استفاده از AI Agentها در سازمانها، امنیت حافظه، اعتبارسنجی دادههای ذخیرهشده و کنترل ورودی ها به یکی از چالش های مهم امنیت هوش مصنوعی تبدیل خواهد شد.
🔥 اولین کانال فارسی زبان در AI Security .
@TryHackBox
@RadioZeroPod
@AiTHB
@TryHackBoxOfficial
#هوش_مصنوعی #امنیت_هوش_مصنوعی@AiTHB
