AI 模型参数量是什么？7B、32B、70B 到底代表什么

什么是参数量

你在看开源模型的时候，经常会看到这样的名字：Llama 3.1 8B、Qwen2.5 72B、DeepSeek-V3 671B。

这些数字就是参数量——模型内部有多少个可调节的参数。

参数（Parameter）可以理解为模型的"旋钮"。训练的时候，这些旋钮被不断调整，让模型学会识别语言中的模式。参数越多，模型能表达的模式越复杂，理论上能力也越强。

B 是 Billion（十亿）的缩写：

• 7B = 70 亿参数
• 32B = 320 亿参数
• 70B = 700 亿参数
• 671B = 6710 亿参数

参数量和模型能力的关系

一般来说，参数量越大：

• 知识量更大：能记住更多事实和模式
• 推理能力更强：复杂任务表现更好
• 泛化能力更好：对没见过的输入处理更稳

但这不是绝对的。影响模型能力的因素很多：

一个训练精良的小模型，完全可能超过一个训练粗糙的大模型。Llama 3.1 8B 在很多基准测试上就超过了早期的 GPT-3.5（175B）。

不同参数规模的适用场景

1-3B：端侧模型

• 硬件要求：手机、树莓派、低配电脑
• 适合任务：简单分类、情感分析、关键词提取、离线助手
• 代表模型：Qwen2.5-1.5B、Llama 3.2 3B、Phi-3 Mini
• 特点：速度快、成本低，但能力有限

7-13B：个人/小团队主力

• 硬件要求：消费级显卡（RTX 4090 等）
• 适合任务：对话、写作辅助、代码补全、文档处理
• 代表模型：Llama 3.1 8B、Qwen2.5-7B、DeepSeek-V2-Lite
• 特点：性价比高，本地部署门槛低

30-70B：企业级应用

• 硬件要求：专业显卡（A100、H100）或多卡并行
• 适合任务：复杂推理、高质量写作、专业分析、Agent 核心模型
• 代表模型：Qwen2.5-72B、Llama 3.1 70B、DeepSeek-V2 236B（MoE）
• 特点：能力强，但部署成本高

100B+：顶级能力

• 硬件要求：多机多卡集群，或直接用 API
• 适合任务：对能力要求最高的场景
• 代表模型：GPT-4o、Claude 3.5 Sonnet、Llama 3.1 405B
• 特点：通常通过 API 使用，本地部署成本极高

参数量和运行成本

参数量直接决定了硬件需求和运行成本：

注意：上面是 FP16 精度的显存需求。使用量化技术（INT8、INT4）可以大幅降低显存需求，但会损失一些精度。

量化：让大模型跑在小显存上

量化（Quantization）是降低模型精度来减少显存需求的技术。

• FP16：原始精度，16 位浮点数
• INT8：8 位整数，显存减半，精度损失小
• INT4：4 位整数，显存减为 1/4，精度损失明显

一个 70B 模型用 INT4 量化后，大约只需要 35GB 显存，RTX 4090 就能跑。对于很多实际应用，量化后的效果已经够用。

常用量化工具：GPTQ、AWQ、GGML（llama.cpp 用的格式）。

MoE 架构：另一种扩展方式

除了单纯增加参数，还有一种 MoE（Mixture of Experts） 架构。

MoE 模型有很多"专家"子网络，但每次推理只激活其中一部分。比如 DeepSeek-V3 有 671B 总参数，但每次推理只激活 37B 参数。

好处：

• 总参数量大，知识容量大
• 推理时只用一部分参数，速度快、成本低
• 可以在较少硬件上运行更大规模的模型

DeepSeek-V2/V3、Mixtral 都是 MoE 架构的代表。

如何选择合适的参数量

根据你的场景：

• 个人学习/开发：7B-13B，本地部署成本低
• 中小企业应用：7B-13B（简单任务）或 30B-70B（复杂任务）
• 企业级生产环境：70B+ 或直接用商业 API
• 手机/嵌入式：1B-3B 端侧模型
• 追求最高能力：商业 API（GPT-4o、Claude 等）

建议：先用小模型验证方案，确认可行后再考虑是否需要升级到大模型。很多时候 7B 模型就能解决问题。

下一步

• 想了解主流模型的完整对比？看 AI 大模型有哪些
• 想本地部署开源模型？看 Ollama 教程
• 想了解推理模型？看 AI 推理模型是什么

---

本文最后更新于 2026-07-27。模型参数和技术可能随版本更新变化。