Часть 2.
Для начала вопрос-ответ.
Вы же не считаете, что доступ к ИИ будет всегда бесплатным?! Опенсорсные модели по щелчку заканчиваются, а раздавать из облака это уже данность.
Возвращаемся к пятиуровнему торту и результатам наших опросов.
Вишенки на этом торте
в явном виде не прослеживается, но очевидно, что это стоимость токена 
. И здесь интересно посмотреть сколько каждый слой даёт в себес, с точки зрения затрат. Вопрос совершенно дурацкий, так как все сильно зависит от того, что делается, как делается и на каком масштабе. Плюс, веса стоимости разных слоев зависят друг от друга и могут перекачиваться с уровня на уровень. Например, из-за чипов и алгоритмов стоимость токена за несколько лет снизилась на порядок или два.
Или, лично мне любопытно было узнать что русский язык (т.е. православные БФМ) с точки зрения токенизации раза в 1,5, а то и 2 ресурснее английского (а иероглифы ещё ресурснее). А ещё разделение по долям на токены ввода и вывода и политики по стоимости на каждый из них.
В общем, чудеса 🪄и нет стабильности
.Типовые сценарии:
1⃣ Обучение. Веса энергии и чипов выше, инфраструктуры ниже, модели выше, приложений ниже.
2⃣ Использование. Веса энергии и моделей ниже, чипов и инфраструктуры стандартно, приложений выше.
3⃣ Гибрид - все сильно не определено, надо смотреть доли.
Это все для одного масштаба. Для малого масштаба стоимость токена в разы дороже, на объеме хлоп - это то, что обосновывает вот эту гигаваттную гонку.
Ну и конечно, когда гонка по захвату поляны закончится, будет включен счетчик. Он уже для серьезных запросов и крутых моделей включен (а для роботов и прочих физических ништяков станет ещё более критичным и ценным). Правильно писать запросы важно (как умение на первых поисковиках, помните?), минус семантика,пунктуация и т.д., привет токенизаторам.
Плохая новость для нас заключается в том, что уровень инфраструктуры при всех раскладах это пример 10-15% стоимости токена (так вижу или ощущаю, готов спорить). И то что, у нас колоссальная дырка в чипах.
Понятно, что
- мы будем грызть свою морковку и оптимизировать и эти 10-15 процентов, но эффекты на других уровнях будут более привлекательны
- комплексная оркестрация - отдельный скилл (это то на чем сейчас Nebius бомбит).
Пессимистический ЗЫ.
При высокой зависимости от стоимости электричества и простых операциях обработки получаем токен=неомайнинг.
И да, в такой модели, делегирование на ресурсы в колониальной модели становится безопасным и даже правильным геополитическим инструментом (в т.ч. и по странам ЕАЭС по последним новостям). Местные берут на себя все затраты на инфраструктуру, создают свои ИИ-фабрики, масса-дик приходит их грузить, а если будут себя плохо вести, то останутся без нагрузки, с простаивающими ЦОДами. И это не авто и прочее производство, которое оставляет технологию, это забирается по щелчку.
