آیا میدانستید دو ایجنت با مدل یکسان ممکن است عملکرد مشابهی داشته باشند اما یکی تا سه برابر بیشتر توکن مصرف کند؟ تفاوت در «مهندسی هارنس» (Harness Engineering) است؛ یعنی کدهایی که مدیریت میکنند چه چیزی و چه زمانی وارد Context مدل شود.
به جای بارگذاری همیشگی تمام ابزارها و دادههای حجیم در پرامپت، یک هارنس بهینه از استراتژیهای زیر استفاده میکند:
- حافظه (Memory): نگهداری وضعیت خارج از وزنها و Context اصلی.
- مهارتها (Skills): دانش رویهای که مدلهای عمومی را تخصصی میکند.
- پروتکلها (Protocols): قراردادهای تعاملی برای کاربران و سایر ایجنتها.
برای مدیریت دادههای سنگین، هارنسهایی مثل TrueForge به جای بارگذاری مستقیم، فایلها را در فضای سندباکس ذخیره کرده و تنها پیشنمایش یا مسیر فایل را به مدل میدهند. این ابزار متنباز نشان داده که میتواند با مصرف تنها یکسوم توکنهای معمول و ۴۰ درصد فراخوانی ابزار کمتر، وظایف مشابه ایجنتهای مدیریتشده را انجام دهد.
📚 مطالعه با جزئیات بیشتر
📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما
