模型家族 · 含本地运行配置
Mistral 本地运行与 Mac 适配
Mistral 家族兼顾推理效率和多语言能力,在本地运行工具中拥有较完整的生态支持。
10
数据集收录条目
9
本地运行配置
1
仅云端条目
三档 Mac
这个家族在常见配置上的首选
每一项都使用该设备重新计算;没有本地权重时不会给出伪造的兼容结论。
完整条目
Mistral 型号与来源
表格保留量化、预计加载内存和原始来源。云端模型不参与本地速度估算。
| 模型 | 运行方式 | 参数 / 量化 | 预计加载 | 适合任务 | 来源 |
|---|---|---|---|---|---|
| Mistral 7B Instruct | 本地权重 | 7B · Q4_K_M | 5.5 GB | Chat, Coding | 上游资料 |
| Mistral 7B Instruct (Q5) | 本地权重 | 7B · Q5_K_M | 4.8 GB | Chat, Coding | 上游资料 |
| Mistral 7B Instruct (Q8) | 本地权重 | 7B · Q8_0 | 7.2 GB | Chat, Coding | 上游资料 |
| Mistral Nemo 12B | 本地权重 | 12B · Q4_K_M | 9.5 GB | Chat, Translation | 上游资料 |
| Mistral Nemo 12B (Q8) | 本地权重 | 12B · Q8_0 | 12.1 GB | Chat, Translation | 上游资料 |
| Mistral Small 22B | 本地权重 | 22B · Q4_K_M | 17 GB | Coding, Quality | 上游资料 |
| Mistral Small 3.1 | 本地权重 | 24B · Q4_K_M | 15 GB | Chat, Coding | 上游资料 |
| Mistral Small 3.1 (Q8) | 本地权重 | 24B · Q8_0 | 23.3 GB | Chat, Coding | 上游资料 |
| Mixtral 8x7B Instruct | 本地权重 | 46.7B · Q4_K_M | 30 GB | Coding, Quality | 上游资料 |
| Mistral Medium 3.5 | 仅云端 | 128B · API | — | Coding, Quality, Tool calling | 上游资料 |
许可与准确性:模型数据改编自 ModelFit 的 CC BY 4.0 数据集。条目用于选型参考,不代表模型发布方背书;下载和商用前仍需核对对应模型自己的许可。