🥇 تیپ #33
بازرتبه‌بندی: بهترین قطعه‌ها را اول بیاور
جست‌وجوی برداری سریع است، اما در تشخیص تفاوت‌های ظریف ضعیف عمل می‌کند؛ چون پرسش و متن را جداگانه کدگذاری می‌کند، فهرست نتایج اولیه فقط تقریبی درست است. راه‌حل این است که ۵۰ تا ۱۰۰ قطعه‌ی کاندید را بگیرید و با یک مدل بازرتبه‌بند که پرسش و قطعه را هم‌زمان می‌خواند دوباره امتیازدهی کنید. 🥇 بعد فقط ۳ تا ۵ قطعه‌ی برتر را به مدل زبانی بدهید: کیفیت پاسخ بالا می‌رود و هزینه هم کنترل‌شده می‌ماند.
Reranking: put the best chunks first
Vector search is fast but blunt: it embeds the query and each chunk separately, so your top-k list is only roughly right. The fix is a two-stage funnel: pull 50 to 100 candidates from the vector store, then rescore each one against the query with a cross-encoder that reads both together. 🥇 Keep only the best 3 to 5 chunks for the prompt. The reranker is slower per pair, but you only run it on a short list, so answer quality jumps while latency stays reasonable.
@dslanders
شکرزاد
نکته‌های روز ساخت AI Agent | شکرزاد
نکته‌های روزانه و کاربردی برای یادگیری ساخت عامل‌های هوش مصنوعی (AI Agent): مفاهیم پایه، نکات پیشرفته و اخبار تازه، هر روز یک مفهوم.
4
2
1
