🧠 oMLX — open-source LLM-сервер для Mac, заточенный под локальных ИИ-агентов.
Он запускает текстовые, vision-, OCR-, embedding- и reranker-модели на Apple Silicon и отдаёт их через OpenAI- и Anthropic-совместимые API. Главное отличие — многоуровневый KV-кэш в RAM и на SSD: длинный контекст агента можно переиспользовать между запросами и даже после перезапуска приложения. Полезно тем, кто хочет запускать Claude Code-подобные сценарии локально без постоянного пересчёта всей истории.
ИЗ-ЗА: границы.
Сайт: https://omlx.ai
#стартапы #opensource #локальныйИИ #LLM #DevTools
August 31, 2026 57
