本地部署

量化是大模型进消费级硬件的门票。解读 GGUF 文件命名规则，给出各档位体积与质量对照表，并按显存富余程度给出选择决策树。

API 按 Token 计费，本地只花电费——但折旧、并发与质量差距也要算进去。用一套可复算的成本模型，给轻度、中度、重度三档调用量的明确结论。

手把手安装 Ollama、拉取模型、调通 REST API，覆盖 OOM、生成速度慢、连接拒绝等高频报错的排查思路，新手照做即可跑通。