syv-ai/qwen38-27b-rtx3090
Инструмент для запуска модели Qwen3 28B на одной потребительской видеокарте RTX 3090 с 24 ГБ памяти. Использует vLLM и предоставляет OpenAI-совместимый API с аутентификацией по ключу. Поддерживает контекст до 150 000 токенов.
Включает два готовых конфига: один для API-бэкендов и пайплайнов с высокой конкурентностью, второй для одного или нескольких пользователей.
17
5
2
2August 24, 2026 6K 124
