模型笔记

记录主流大语言模型的对比、特性与适用场景。

选型维度

选择一个模型，本质上是在以下维度之间做权衡：

1. 能力上限——推理、代码、长文本、多模态
2. 响应延迟——首 token 延迟与生成速度
3. 调用成本——按 token 计费的单价
4. 上下文长度——能容纳多少输入
5. 隐私与合规——数据是否会被用于训练

通用建议

• 优先用小模型做原型，验证流程后再换大模型
• 长上下文场景关注实际有效记忆，而非宣称长度
• 把"模型选择"做成可配置项，避免锁死在单一供应商

模型会迭代，但你的提示词与流程应该比模型更长寿。