Тут ребята из стартапа Subquadratic выпустили новую модель SubQ, которая
• вмещает до 12 миллионов токенов контекста,
• в десятки раз быстрее обычного attention на длинных контекстах
• линейной сложность вычислений, в сравнение с остальными другими моделями с квадратичной сложностью
В общем, выглядит очень интересно и многообещающе, как модель, которая полностью перевернёт игру и решит одну из крупных задач для LLM. Но пока кроме громкого заявления и красивого видео никаких пруфов. Так что будем наблюдать.
Можем пока самостоятельно знакомиться с доступными материалами:
• Сайт стартапа, где в том числе можно запросить ранний доступ: https://subq.ai/
• Пост CEO в Твиттере с представлением SubQ: https://x.com/alex_whedon/status/2051663268704636937
• Статья на habr с разбором модели: https://habr.com/ru/news/1032044/
4
2
26 мая 2026 г. 191 3
