模型家族 · 含本地运行配置

Gemma 本地运行与 Mac 适配

Gemma 是 Google 的开放权重模型家族，提供多个尺寸，适合从轻量助手到高质量本地任务。

19
数据集收录条目
19
本地运行配置
0
仅云端条目

三档 Mac

这个家族在常见配置上的首选

每一项都使用该设备重新计算；没有本地权重时不会给出伪造的兼容结论。

Mac mini M4 · 16GB

Gemma 4 12B · 适合本地运行。预计占用 8 GB。

14 tok/s 估算Q4_K_M

Mac mini M4 Pro · 24GB

Gemma 3 12B Instruct · 适合本地运行。预计占用 9.5 GB。

29.8 tok/s 估算Q4_K_M

Mac Studio M3 Ultra · 96GB

Gemma 4 26B-A4B (Q8) · 适合本地运行。预计占用 28.1 GB。

35.5 tok/s 估算Q8_0

完整条目

Gemma 型号与来源

表格保留量化、预计加载内存和原始来源。云端模型不参与本地速度估算。

模型运行方式参数 / 量化预计加载适合任务来源
Gemma 3 1B Instruct本地权重1B · Q4_K_M1 GBChat, Mobile上游资料
Gemma 3 1B Instruct (Q8)本地权重1B · Q8_01 GBChat, Mobile上游资料
Gemma 2 2B Instruct本地权重2B · Q4_K_M1.8 GBChat上游资料
Gemma 4 E2B本地权重2.3B · Q4_K_M2.3 GBIoT, Mobile, Edge上游资料
Gemma 4 E2B (Q8)本地权重2.3B · Q8_04.6 GBIoT, Mobile, Edge上游资料
Gemma 3 4B Instruct本地权重4B · Q4_K_M3.5 GBChat, Coding上游资料
Gemma 3 4B Instruct (Q8)本地权重4B · Q8_03.9 GBChat, Coding上游资料
Gemma 4 E4B本地权重4.5B · Q4_K_M4 GBOn-device, Mobile, Chat上游资料
Gemma 4 E4B (Q8)本地权重4.5B · Q8_07.5 GBOn-device, Mobile, Chat上游资料
Gemma 2 9B Instruct本地权重9B · Q4_K_M7 GBChat, Coding上游资料
Gemma 3 12B Instruct本地权重12B · Q4_K_M9.5 GBChat, Quality上游资料
Gemma 4 12B本地权重12B · Q4_K_M8 GBChat, Coding, Multimodal上游资料
Gemma 4 12B (Q8)本地权重12B · Q8_012.8 GBChat, Coding, Multimodal上游资料
Gemma 4 26B-A4B本地权重26B · Q4_K_M16 GBChat, Coding, Multimodal上游资料
Gemma 4 26B-A4B (Q8)本地权重26B · Q8_028.1 GBChat, Coding, Multimodal上游资料
Gemma 2 27B Instruct本地权重27B · Q4_K_M21 GBQuality, Coding上游资料
Gemma 3 27B Instruct本地权重27B · Q4_K_M21 GBQuality, Coding上游资料
Gemma 4 31B本地权重31B · Q4_K_M20 GBQuality, Coding, Multimodal上游资料
Gemma 4 31B (Q8)本地权重31B · Q8_030.9 GBQuality, Coding, Multimodal上游资料

许可与准确性：模型数据改编自 ModelFit 的 CC BY 4.0 数据集。条目用于选型参考，不代表模型发布方背书；下载和商用前仍需核对对应模型自己的许可。