文章· 标签：推理

显存不够跑大模型？这 6 种方案我都试过了

从量化、卸载层、到 CPU offload、投机解码，按性价比排序的显存优化实战。