LLM-платформа звучит красиво, пока её не надо поддерживать4 июня на Infra.conf’26 в Москве наш старший MLOps-инженер Роза Морозенкова расскажет, как мы используем KServe для ML- и LLM-инференса.
На примере платформы Купер.тех разберёмся, как выстроить инфраструктуру от инференс-сервисов до gateway и guardrails — так, чтобы ей могли пользоваться команды по всей компании. Ведь хочется, чтобы всё было красиво: платформенно, переиспользуемо, удобно и желательно без ощущения, что ты теперь пожизненно дежуришь у этого костра.
Если будете на Infra.conf’26 офлайн — приходите послушать доклад, поддержать Розу и позадавать вопросы!
