Mistral Large 4 权重下载与部署指南

通过 Playground 和 API 在线体验 Mistral Large 4,并了解权重、许可、硬件要求和本地部署前需要确认的条件。

最近更新: 2026-10-07

现在可以下载 Mistral Large 4 吗?

截至 2026 年 10 月 7 日,Mistral Large 4 已可通过托管服务使用,可下载的权重预计稍后发布。托管使用与权重发布是两个不同阶段。

现在就可以通过 Playground 在线体验 Mistral Large 4,无需下载权重或购买硬件。Playground 免费使用,登录即可开始。权重发布时间属于预期,并不保证具体某一天。

等待权重期间,怎样使用?

  • 在线 Playground: 登录后直接提问,无需配置服务器。Playground 免费使用,需要更多用量时可选择 积分包或月付套餐。
  • API 接入: 创建账户 API 密钥,参考 API 指南。API 模型 ID 为 mistral-large-4-0,需要配合文档中的基础 URL 和账户密钥使用。

一个服务的密钥不能用于另一个服务。使用托管模型,也不等于把模型安装到了自己的电脑。

开放权重等于完整开源或免费商用吗?

开放权重描述的是获取训练后模型参数的能力。使用、修改和分发的权限及条件,由具体许可决定。仅凭权重开放,不能推断训练代码和数据全部开放,也不能推断所有商业用途均无条件允许。

对 Large 4 的商业部署,应阅读正式版本附带的许可,不要沿用 Large 3 或其他模型的许可。若条款与业务要求的关系不清楚,应请法律团队结合正式条款确认。

下载权重也不意味着运行免费。硬件或云算力、存储、电力和持续运维仍有成本。

普通电脑或单张显卡能运行吗?

不建议按“普通笔记本或单张消费级显卡能运行完整模型”来规划。Mistral Large 4 是万亿参数量级的 MoE 模型,处理单个 token 时只激活部分参数,但激活参数量并不等于全部权重的存储需求。

对于即将发布的权重,我们尚无经过验证的最低 GPU 配置。合理估算需要正式权重格式、精度、支持的运行框架及目标负载。量化可能降低存储需求,但必须确认具体版本是否支持,以及精度损失是否可接受。

仅权重的显存粗略估算

下表按约 1 万亿总参数估算,只计算权重本身,适合作为规划下限,并非实测配置。

| 精度 | 仅权重占用 | 需要的 80 GB 显卡(仅装权重) | | ------------------------------- | ---------- | ----------------------------- | | BF16 / FP16(每参数 2 字节) | 约 2 TB | 25 张以上 | | FP8(每参数 1 字节) | 约 1 TB | 13 张以上 | | 4-bit 量化(每参数约 0.5 字节) | 约 0.5 TB | 7 张以上 |

上下文缓存、并发请求和运行时开销还会在此基础上增加。如果预算不够,可以直接使用 在线 Playground 和 API,同一模型、无需购买硬件,通过 积分包或月付套餐 按需付费。

不要只检查“权重是否装得下”。长上下文缓存、并发请求、图像处理和运行时开销都会影响容量。能完成一次短请求,不等于能满足目标吞吐量或上下文长度。

可以用 Ollama、vLLM 等框架部署吗?

不能只凭模型名称判断兼容性。权重发布后,应同时检查对应版本的部署说明与运行框架对具体架构、分词器、视觉输入和权重格式的支持。

可复现的部署指南需要写明仓库版本、运行框架版本、精度、硬件及测得的限制。在这些信息确认前,通用安装命令容易误导。本文目前提供部署规划建议,不把它描述成已经完成实测的安装教程。

托管 API 与自行部署应该怎么选?

初次评估可先用 Playground 或 API。 无需承担模型运维,即可开始测试答案质量。使用文档 说明了输入支持和请求限制;用你的真实任务比较质量、响应时间和包含重试的总成本。

需要控制基础设施且具备运维能力时,再评估自行部署。 权重发布后,将持续利用率、管理和可靠性成本与托管方案比较。低用量业务并不会因为自行部署就自动变便宜。

价格说明 介绍 Playground 免费使用、积分扣费、一次性积分包和月付套餐。你也可以根据 模型选型指南 ,为自己的真实任务制定评估方案。

自行部署能满足所有隐私要求吗?

自行部署可以让你控制推理基础设施,但仍需考虑整个应用:文档存储、外部工具、遥测、日志和访问权限,都可能传输或留存数据。

Playground 请求由接入的托管模型服务商处理,基础设施、处理区域和合同条款取决于实际服务配置。提交公司机密材料前,请阅读 隐私政策,并向 支持团队 确认留存、训练用途、处理区域和所需协议。

权重发布后,按什么顺序检查?

  1. 确认下载来源是模型发布方经过验证的仓库,而不是第三方转存。
  2. 阅读该版本的许可和模型说明。
  3. 确认运行框架支持,综合估算权重、运行时和目标上下文的资源需求。
  4. 测试应用真正需要的文本、图片、结构化输出及工具调用。
  5. 测量延迟、吞吐、质量和运行成本,再决定是否替换已有服务。

现在需要接入托管服务,可从 API 与 Playground 文档 开始。使用过程中有问题,可 联系我们。