Стоимость минимальной инфраструктуры для разных моделей отличается в десятки раз. Например:
При этом средняя стоимость запуска этих моделей за год выросла с 13,7 млн до 38,8 млн ₽ — в 2,8 раза.
Причина не только в подорожании GPU: новые модели становятся крупнее, работают с более длинным контекстом и требуют всё больше вычислительных ресурсов.
Какие конфигурации стоят за этими цифрами и сможет ли Huawei Ascend 910B стать альтернативой Nvidia? Читайте полное исследование.
* — большая языковая модель















