Мы поговорили с Владиславом Шершульским, советником генерального директора Группы Rubytech по вопросам ИИ.
Обсудили, почему при внедрении ИИ компании начинают считать не терафлопсы, а стоимость результата, зачем ЦОДу баланс между GPU, памятью, сетью и охлаждением и почему главная нагрузка постепенно переезжает с обучения моделей на их ежедневную эксплуатацию.
Меняется сама логика инвестиций.
Раньше при проектировании ЦОД главным было соотношение цены и базовой мощности: сколько операций в секунду можно получить за вложенный рубль.
Теперь этого недостаточно. Заказчик начинает смотреть на то, насколько быстро система выдаёт полезный результат, сколько этот результат стоит и насколько стабильно инфраструктура работает под реальной нагрузкой.
То есть компания покупает уже не абстрактную вычислительную мощность. Она хочет сократить обработку клиентского запроса с минут до секунд, автоматизировать десятки операций или увеличить производительность сотрудников без пропорционального роста штата.
Конечно. Ускорители — только один слой.
Для ИИ критичны память, скорость передачи данных, сеть, системы хранения, питание, охлаждение и программное управление инфраструктурой.
Можно купить очень дорогие GPU, но если сеть не успевает передавать данные или система хранения становится узким местом, эти ускорители будут использоваться неэффективно.
Поэтому ИИ-инфраструктура всё меньше похожа на набор отдельных серверов и всё больше — на единый сбалансированный комплекс.
Потому что основная бизнес-ценность возникает уже после обучения.
Модель можно обучить один раз, а использовать потом миллионы раз. Именно ежедневная работа ИИ-сервисов постепенно становится основной статьёй вычислительных расходов.
Особенно это видно с ИИ-агентами. Один пользовательский запрос может запустить целую цепочку: обратиться к нескольким системам, обработать документы, выполнить расчёт, сформировать ответ.
То есть нагрузку создаёт уже не сама модель, а постоянное выполнение большого количества реальных задач.
Главной метрикой становится стоимость полезной работы.
Не сколько у компании GPU и не сколько операций они способны выполнить теоретически, а сколько стоит конкретный запрос, решение или автоматизированный процесс.
Поэтому всё важнее инструменты управления ресурсами. Они позволяют дать каждой задаче именно столько вычислительной мощности, сколько ей нужно, и не держать дорогое оборудование без нагрузки.
В итоге компания платит не за простаивающие серверы, а за реально выполненную работу.
Да. И их ценность сильно растёт.
Информация, которую раньше могли считать второстепенной - история обращений клиентов, телеметрия, внутренние документы, действия пользователей. Теперь может использоваться для поиска закономерностей, прогнозирования и принятия решений.
Но просто накопить данные недостаточно. Их нужно уметь хранить, объединять и быстро передавать туда, где они нужны модели.
Если этого слоя нет, даже самая мощная ИИ-инфраструктура не даст ожидаемого результата.
Он превращает ее из «склада серверов» в производственную систему.
Раньше инфраструктуру оценивали в гигабайтах, процессорах и вычислительной мощности. Теперь - в секундах, стоимости операции, качестве сервиса и росте производительности.
Именно поэтому главная трансформация происходит не на уровне отдельного GPU, а происходит в самой логике инфраструктуры.
