Krist/Blog: post #2468 — TG.ME

Kimi K3

Самая большая и мощная open source модель на данный момент

- 2.8T параметров MoE (~50B активных параметров), первая модель такого размера в опенсорсе.
- Заскейлить модель до такого размера им помогли Kimi Delta Attention и Attention Residuals.
- По бенчмаркам (и похоже в реальности тоже) модель превосходит Opus 4.8, всего немного не догоняя 5.6 Sol и Fable 5.
- На отдельных задачах Kimi K3 даже превосходит SOTA закрытые модели.
- Модель особенно хороша в визуальных задачах и в ML ресёрче.
- Веса выложат скоро.

Блогпост
1🔥8
July 17, 2026 645 9