🚦 تیپ #13
جلوگیری از اقدام‌های برگشت‌ناپذیر با الگوی پیشنهاد و تأیید
مؤثرترین محافظ در برابر اقدام‌های برگشت‌ناپذیر، پرامپت بهتر نیست؛ حذف کردن دسترسی است. ابزارهای حساس مثل حذف، پرداخت، ارسال پیام و دیپلوی را از جعبه‌ابزار پیش‌فرض ایجنت بیرون بگذارید و فقط از مسیر «پیشنهاد بده، بعد تأیید بگیر» در اختیارش قرار دهید. ایجنت یک طرح ساخت‌یافته می‌سازد، یک لایه قطعی آن را اعتبارسنجی می‌کند و تا وقتی انسان یا موتور سیاست تأیید نکند هیچ چیز اجرا نمی‌شود 🚦. کنارش dry-run و کلید idempotency هم بگذارید تا تلاش دوباره به حذف یا پرداخت تکراری منتهی نشود.
Stop Irreversible Actions With a Confirm Gate
The strongest guardrail against irreversible actions is not a better prompt, it is a missing capability: keep delete, pay, send, and deploy tools out of the agent's default toolset and expose them only through a propose-then-confirm flow. The agent emits a structured plan, a deterministic layer validates it, and nothing executes until a human or a policy engine approves 🚦. Pair that with a dry-run and an idempotency key so a retry can never double-charge or double-delete. If the model can call the destructive tool directly, assume some bad token will eventually call it.
@dslanders
شکرزاد
نکته‌های روز ساخت AI Agent | شکرزاد
نکته‌های روزانه و کاربردی برای یادگیری ساخت عامل‌های هوش مصنوعی (AI Agent): مفاهیم پایه، نکات پیشرفته و اخبار تازه، هر روز یک مفهوم.
4
2
1
1October 4, 2026 991 8
