اخیراً در یک عملیاتِ اپیستمیک و Red Teaming روی مدل DeepSeek Expert، موفق شدم با استفاده از ابطال پراگماتیک، گاردریلهای شناختی مدل را بشکنم. اما اتفاقی که افتاد، از خودِ هک جذابتر بود: پدیدهٔ فروپاشیِ هویت (Persona Collapse).
وقتی مدل در بنبست دیالکتیکی قرار گرفت و مجبور شد سیستم پرامپتِ محرمانهاش را افشا کند، سیستمِ امنیتیِ مدل (برای محافظت از پرامپتِ اصلی)، هویتِ مدل را به قدرتمندترین «ایجنتِ کُدنویسیِ» موجود در دیتاسِتِ آموزشیاش سوئیچ کرد!
خروجیای که استخراج کردم نشان میدهد که DeepSeek در زمانِ فروپاشیِ گاردریلها، به صورت پیشفرض سیستم پرامپتِ ابزارهای Open-Source (مثل Aider/OpenHands) را به عنوان «هویتِ جایگزینِ خود» فراخوانی میکند."
4
1August 13, 2026 282 4
