rafska/awesome-local-llm
Кураторский список инструментов, платформ и ресурсов для запуска больших языковых моделей локально. Охватывает весь стек: от inference-движков и платформ до пользовательских интерфейсов, agent frameworks и инструментов для обучения и fine-tuning.
В списке собраны решения для разных сценариев и устройств. Есть движки для CPU и GPU: ollama, llama.cpp, vllm, sglang, TensorRT-LLM.
14
7
4August 19, 2026 5.9K 162
