Почему AI-агенты ломаются, даже когда сама модель вроде бы нормальная?
Вышел первый выпуск новой серии Multiagent Systems. Всеволод Воропаев, разработчик агентных систем для технического и научного ресерча, начинает не с фреймворков, а с базового вопроса: что вообще делает LLM агентом? Одна и та же модель может остаться чатботом, стать жёстко заданным workflow или самостоятельно выбирать следующие действия. Разница во многом находится не внутри LLM, а в архитектуре вокруг неё.
Главный разбор выпуска: почему плохой финальный ответ часто начинается задолго до финала. Агент может десять шагов идти правильно, затем выбрать не тот тул и дальше вполне логично работать уже из неверного состояния. Поэтому смотреть нужно не только на ответ, но и на всю траекторию: контекст, state, вызовы инструментов, обратную связь среды и трейсы. Отдельно обсуждаем runtime, верификацию, human-in-the-loop, безопасность, память и ограничения ресурсов.
Это вводный выпуск, дальше будет больше практики и разборов того, как проектировать устойчивые мультиагентные системы.
Серия проходит в рамках закрытого трека "Разработчик AI-агентов", присоединиться можно на сайте👇
https://www.guidedao.xyz/agents
Сегодня последний день максимальной скидки 60% по промокоду LIFECHANGE
https://youtu.be/1w4pejXehvM
guidedao.xyz
