模型家族 · 含本地运行配置

Mistral 本地运行与 Mac 适配

Mistral 家族兼顾推理效率和多语言能力,在本地运行工具中拥有较完整的生态支持。

10
数据集收录条目
9
本地运行配置
1
仅云端条目

三档 Mac

这个家族在常见配置上的首选

每一项都使用该设备重新计算;没有本地权重时不会给出伪造的兼容结论。

完整条目

Mistral 型号与来源

表格保留量化、预计加载内存和原始来源。云端模型不参与本地速度估算。

模型运行方式参数 / 量化预计加载适合任务来源
Mistral 7B Instruct本地权重7B · Q4_K_M5.5 GBChat, Coding上游资料
Mistral 7B Instruct (Q5)本地权重7B · Q5_K_M4.8 GBChat, Coding上游资料
Mistral 7B Instruct (Q8)本地权重7B · Q8_07.2 GBChat, Coding上游资料
Mistral Nemo 12B本地权重12B · Q4_K_M9.5 GBChat, Translation上游资料
Mistral Nemo 12B (Q8)本地权重12B · Q8_012.1 GBChat, Translation上游资料
Mistral Small 22B本地权重22B · Q4_K_M17 GBCoding, Quality上游资料
Mistral Small 3.1本地权重24B · Q4_K_M15 GBChat, Coding上游资料
Mistral Small 3.1 (Q8)本地权重24B · Q8_023.3 GBChat, Coding上游资料
Mixtral 8x7B Instruct本地权重46.7B · Q4_K_M30 GBCoding, Quality上游资料
Mistral Medium 3.5仅云端128B · API—Coding, Quality, Tool calling上游资料

许可与准确性:模型数据改编自 ModelFit 的 CC BY 4.0 数据集。条目用于选型参考,不代表模型发布方背书;下载和商用前仍需核对对应模型自己的许可。