Собрали для вас материалы за июнь и июль в одном посте
Как собрать хорошие траектории для обучения LLM-агента — LLM-агенту недостаточно просто отвечать текстом: важно научить его выбирать действия и работать с инструментами. Разобрали, какие данные здесь нужны, и почему одного SFT обычно мало.
Late chunking — рассказали, как улучшить векторный поиск в RAG без сложной нарезки чанков.
Reinforcement Learning — подготовили пошаговый план изучения и полезные ресурсы.
Genie family — подготовили серию постов о современных world-моделях и 3D-генерациях мира.
И начали с семейства Genie от Deepmind.
FlashAttention-3 и FlashAttention-4 — разобрали, почему FlashAttention-2 отлично работал на Amper'е, но уже не раскрывал потенциал архитектур Hopper и Blackwell, и какие архитектурные изменения вновь ускорили attention.
Как свёрточные сети меняли компьютерное зрение — разобрали эволюцию CNN как последовательность инженерных ответов на ограничения предыдущих поколений моделей.
