Mac mini M4 · 24GB · 编程 · 模型估算

Mac mini M4 · 24GB 的本地代码模型推荐

针对代码补全、调试、脚本生成与仓库理解,平衡模式首选 GPT-OSS 20B。62 个本地模型达到当前引擎的舒适运行门槛,前十名按内存适配、质量、速度和任务标签综合排序。

平衡首选

GPT-OSS 20B

20.4 tok/s 估算 · 13.8 GB

速度优先

GPT-OSS 20B

20.4 tok/s 估算 · 13.8 GB

质量优先

GPT-OSS 20B

质量评分 86/100 · 13.8 GB

候选清单

按当前硬件重新计算的前十名

所有速度和首字延迟都标为“模型估算”;命令只在数据源提供明确 Ollama 标识时显示。

1

GPT-OSS 20B

适合本地运行模型估算

Chat, Coding, Reasoning · MXFP4。预计加载 13.8 GB,质量评分 86/100。

ollama run gpt-oss:20b
20.4估算 tok/s
0.9s估算首字
18%内存余量
2

Qwen3 14B

适合本地运行模型估算

Coding, Quality · Q4_K_M。预计加载 11 GB,质量评分 88/100。

ollama run qwen3:14b-q4_K_M
12估算 tok/s
1.3s估算首字
35%内存余量
3

Gemma 3 12B Instruct

适合本地运行模型估算

Chat, Quality · Q4_K_M。预计加载 9.5 GB,质量评分 85/100。

ollama run gemma3:12b
14估算 tok/s
1.2s估算首字
43%内存余量
4

Gemma 4 26B-A4B

适合本地运行模型估算

Chat, Coding, Multimodal · Q4_K_M。预计加载 16 GB,质量评分 91/100。

ollama run gemma4:26b
15.6估算 tok/s
1.1s估算首字
5%内存余量
5

Mistral Nemo 12B

适合本地运行模型估算

Chat, Translation · Q4_K_M。预计加载 9.5 GB,质量评分 82/100。

ollama run mistral-nemo:12b
14估算 tok/s
1.2s估算首字
43%内存余量
6

Qwen3.5 9B Instruct (Q8)

适合本地运行模型估算

Quality, Coding, Reasoning · Q8_0。预计加载 10.7 GB,质量评分 91/100。

ollama run qwen3.5:9b-q8_0
10.2估算 tok/s
1.4s估算首字
36%内存余量
7

Gemma 4 12B (Q8)

适合本地运行模型估算

Chat, Coding, Multimodal · Q8_0。预计加载 12.8 GB,质量评分 92/100。

ollama run gemma4:12b-it-q8_0
7.7估算 tok/s
1.8s估算首字
24%内存余量
8

Qwen3.5 9B Instruct

适合本地运行模型估算

Quality, Coding, Reasoning · Q4_K_M。预计加载 7 GB,质量评分 89/100。

ollama run qwen3.5:9b
18.7估算 tok/s
1s估算首字
58%内存余量
9

Qwen2.5 Coder 14B

适合本地运行模型估算

Coding · Q4_K_M。预计加载 11 GB,质量评分 85/100。

ollama run qwen2.5-coder:14b
12估算 tok/s
1.3s估算首字
35%内存余量
10

DeepSeek-R1 Distill Qwen 14B

适合本地运行模型估算

Reasoning, Quality · Q4_K_M。预计加载 11 GB,质量评分 86/100。

ollama run deepseek-r1:14b
12估算 tok/s
1.3s估算首字
35%内存余量

如何使用这份结果

先从平衡首选开始。如果响应太慢,切换到速度优先模型;如果输出质量不足且内存仍有余量,再尝试质量优先模型。Mac Mini 的持续散热相对稳定,但后台应用仍会占用统一内存。

不要把参数量当成唯一标准。 同一参数量在不同量化、上下文长度和运行时下,实际内存与速度都会变化。购买硬件前,请对目标模型进行本机或同配置实测。