Unsloth 的 2bit 动态量化可以在 M5 Max 本地跑 13tps 的 dpsk v4 flash，虽然 128G 内存只够放… — 豆腐煲 — TG.ME

豆腐豆腐煲@darkf1ames · 276 subscribersOpen in TelegramOpen

Unsloth 的 2bit 动态量化可以在 M5 Max 本地跑 13tps 的 dpsk v4 flash，虽然 128G 内存只够放 54k context，虽然agentic 不了一点，但是当断网时候的搜索引擎可能还凑合

t.me/darkf1ames/539

July 8, 2026 336 1