Запускать гигантские нейросети теперь можно и на домашнем ПК — вышел новый ИИ-движок FreeToken.
Его фишка в тонкой работе с архитектурой МоЕ, которую используют современные модели — вся нагрузка равномерно распределяется между видеокартой, оперативкой и процессором. Благодаря этому, даже самые требовательные нейронки буквально летают на одной видеокарте:
— Qwen3.6 35B запускается на ноутбуке с RTX 4060 8GB со скоростью 39 токенов/с;
— DeepSeek-V4-Flash 284B запускается на RTX 5090 и выдаёт 22–25 токенов/с.
Забираем новую революцию — здесь.
Forwarded fromПромпт - Наука и Техника
2August 23, 2026 104 8
