🔥 Hy4-preview ужали с 1,5 ТБ примерно до 200 ГиБ - и качество почти не просело
Новая квантизация MIX-STQ1_0 подбирает битность отдельно для каждого слоя по calibration data:
- часть слоёв ужимается до 1.31-bit
- часть остаётся около 2.06-bit
- при том же размере ошибка получается ниже
Результаты против BF16:
- MCP Atlas: 83.7 → 83.2
- SWE-Bench multi: 82.9 → 81.3
- MRCR: 81.3 → 81.1
- IFBench: 73.5 → 72.5
То есть модель стала примерно в 7,5 раза меньше, а качество на тестах изменилось совсем немного.
GGUF:
https://huggingface.co/AngelSlim/Hy4-preview-GGUF
14
6
2
1August 29, 2026 3K 1 55
