Эпоха дешевого инференса подходит к концу
Последние два года в планировании ИИ-инфраструктуры действовало негласное правило: подождите немного — и то же самое обойдется дешевле. В августе это правило перестало работать сразу по нескольким причинам. Разбираем главные 👇
🔶 DeepSeek впервые подняла цены вместо привычного снижения
Еще недавно DeepSeek считалась самой дешевой ИИ-моделью на рынке. В августе китайская нейросеть подняла цены на использование своего API на 355–371% в часы пиковой нагрузки. Стоимость токенов теперь зависит и от времени суток.
🔶 Открытые модели ушли в терабайты
В августе в открытый доступ вышли модели с 1,7 и 2,4 триллиона параметров. Их веса уже измеряются терабайтами: скачать такую модель можно, а вот запуск требует огромных объемов памяти. Еще год назад такие масштабы казались недостижимыми.
🔶 90% GPU — это не вычисления
В современных GPU большую часть площади занимает не вычислительная часть, а память. Она уже впятеро дороже обычной DDR5. При этом производительность видеокарт каждые два года вырастает примерно втрое, а объем памяти лишь вдвое, что все сильнее влияет на стоимость инференса.
🔶 Маркировка ИИ-контента станет обязательной
В России готовят поправку к 243-ФЗ. С 1 марта 2027 года маркировать ИИ-контент для крупных моделей станет не правом, а обязанностью. Похожие требования уже действуют в ЕС.
Хотите узнать больше? Все цифры и подробности — в полном разборе Академии Selectel
