Компания обновила линейку GigaEmbeddings для семантического поиска и работы с корпоративными базами знаний.
Почему вообще такие модели важны?
Эмбеддинг-модель - это один из ключевых элементов RAG-систем. Если совсем просто, RAG работает так:
пользователь задаёт вопроссистема ищет подходящие документыLLM формирует ответ на их основеИ вот именно GigaEmbeddings отвечает за этап поиска нужной информации. Если система плохо находит нужный фрагмент в базе знаний, даже сильная генеративная модель не спасёт ответ.
В open source GigaEmbeddings по лицензии MIT вышли сразу три модели.
Флагман GigaEmbeddings 10B-A1.8B использует MoE-подход, при котором большая модель использует не все свои параметры одновременно, а только нужную часть. Здесь из 10 млрд параметров активны 1,8 млрд. Проще говоря: модель остаётся большой по возможностям, но работает экономнее.На ruMTEB - наборе тестов, на котором сравнивают качество разных моделей - флагман набрал 74,99 и занял первое место. Версия 3B получила 76,93 балла против 62,37 у предыдущего поколения. То есть модель стала заметно лучше понимать программный код и искать похожие фрагменты по смыслу.Отдельный акцент - скорость. По данным разработчиков, флагманская модель работает примерно в 1,5 раза быстрее Qwen3 Embedding 4B при запуске через vLLM - инструмент, который помогает быстрее и эффективнее запускать ИИ-модели на серверной инфраструктуре.Самая компактная версия 480M рассчитана на высоконагруженные системы. То есть на сценарии, где одновременно приходит много запросов и особенно важны скорость и стоимость обработки.Эмбеддинг-модели редко получают столько внимания, сколько LLM, хотя именно они часто определяют качество корпоративного RAG.
AI для бизнеса в Telegram | в MAX
