Описал из чего состоит продакшн вокруг языковых моделей на примере… — Токсичный Джон — TG.ME

Модель — лишь небольшая часть продакшна; надёжность обеспечивается всем остальным, что её окружает: управлением состоянием, детерминированным управлением, наблюдаемостью, обработкой сбоев и безопасным выполнением побочных эффектов. Более совершенные модели помогают, но они не заменяют производственную инженерию.