🔴 هک کردن Agent هوش مصنوعی با تکنیک Cryptographic Context Injection
♦️جدیدا یه تکنیک اومده برای حمله به Agent های هوش مصنوعی که به شدت جالبه ، توی این تکنیک شخص هکر نمیاد دستورات مخرب خودشو مستقيم بزاره تو صفحه وب ، به جاش میاد دستورات مخرب رو رمزنگاری میکنه و میزاره توی JSON
🌕 حالا چه اتفاقی میفته؟ Agent هوش مصنوعی به این اطلاعات رمزنگاری شده میرسه و ممکنه برای تحلیل بخواد Decode رو انجام بده مثلا از طریق پایتون ، اطلاعات decrypt در کنار اطلاعات اصلی توسط هکر قرار داده شده برای همین Agent هوش مصنوعی میتونه اطلاعات رو رمزگشایی کنه
🔥 در نهایت هوش مصنوعی به این اطلاعات رمزگشایی شده اعتماد میکنه که بهش میگن Trust Laundering ، چون هوش مصنوعی با ابزار داخلی خود تحلیل کرده و به این نتیجه رسیده اعتماد میکنه و دستور نهایی به یک دستور واقعی برای Agent تبدیل میشه
❌ این تکنیک روی هوش مصنوعی Grok کار میکرده که الان دیگه پچ کردن اما ممکنه هنوز خیلی از مدل ها این تکنیک روشون کار کنه
👑 خیلی وقت پیش گفتم بازم میگم که هوش مصنوعی نمیتونه جای هکر ها رو بگیره:)
@UltraSecurity
36
11
3
3August 23, 2026 3.9K 58
