从 2023 年底到 2024 年中,大模型的迭代速度快得让人眼花缭乱。
作为一个早期用户,我几乎每个月都会跑一遍相同的测试题,记录各模型的能力变化。这篇文章是我半年来的"实测档案"——不吹不黑,只说真实感受。
我有一套"笨但有效"的测试题,覆盖日常使用最频繁的场景:
测试维度 | 测试题 | 为什么选这个 |
|---|---|---|
代码生成 | 实现一个带缓存的 LRU 算法 | 考逻辑+边界处理 |
Debug | 给一段有 Bug 的 TypeScript 代码 | 考问题定位 |
推理 | "三个人过桥"逻辑题 | 考多步推理 |
中文理解 | "内卷、躺平、摆烂的区别" | 考中文文化理解 |
长文档 | 5000 字技术文章总结 | 考长上下文 |
格式遵循 | 输出复杂嵌套 JSON | 考指令遵循 |
核心变化:速度大幅提升,能力略有进步。
GPT-4(2023 年初)刚出来时是断层式领先的。尤其是代码能力——在它之前,没有任何一个模型能正经写代码。当时用它写一个 Python 脚本,虽然后端偶尔有小问题,但整体可用。对于当时的我来说,已经是"哇"的级别了。
GPT-4 Turbo(2023年11月) 是一次明显的升级:
GPT-4o(2024年5月) 最大的变化是速度。响应速度快了大概 3-4 倍,从"等几秒"变成"几乎实时"。能力上也有提升,但不如速度的提升那么明显。另外原生多模态(看图、看音频)是一个重要的能力扩充。
对我来说,GPT-4 系列的演进是:
从"能做到"→"做得更快"→"做起来更自然"
Claude 3 系列(2024年3月发布)是我个人认为今年最重要的模型发布。
Claude 3 Opus 在发布时,推理能力是超过 GPT-4 Turbo 的。我印象最深的是在复杂逻辑推理任务上——同样的问题,GPT-4 有时候会在第二步推理时"飘"了,但 Opus 能稳稳地一步步推到最后。
Claude 3.5 Sonnet(2024年6月) 更是直接把"最强模型"的称号拿走了。它在代码生成上的表现——尤其是跨文件理解、按项目风格写代码——是目前我用过的所有模型里最好的。
任务 | GPT-4o | Claude 3.5 Sonnet |
|---|---|---|
简单代码(<50行) | ★★★★★ | ★★★★★ |
复杂代码(>200行) | ★★★★☆ | ★★★★★ |
代码Debug | ★★★★★ | ★★★★☆ |
重构/迁移 | ★★★★☆ | ★★★★★ |
代码解释 | ★★★★☆ | ★★★★★ |
我的总结: 写新代码两者接近,但 Claude 在"理解已有项目"这件事上有明显优势。
过去半年,国内模型进步最快的两个:
通义千问 Qwen2.5 系列
DeepSeek-V3(深度求索)
实话实说: 国内模型和 GPT-4o / Claude 3.5 在综合能力上还有差距,但这个差距已经从"代差"缩小到"版本差"了。而且在中文本地化理解和价格上,国内模型有显著优势。
很多人以为大模型的能力是"同心圆"——通用能力强的模型,其他方面也强。但我的实测告诉我,不是这样的。
每个模型有自己独特的"能力曲线":
GPT-4o: [代码]=85 [推理]=82 [写作]=80 [中文]=75 [长文]=78
Claude 3.5: [代码]=90 [推理]=88 [写作]=88 [中文]=72 [长文]=85
Qwen2.5 72B:[代码]=80 [推理]=78 [写作]=75 [中文]=90 [长文]=82
DeepSeek-V3:[代码]=82 [推理]=85 [写作]=72 [中文]=88 [长文]=75这意味着:如果你用一个模型的平均值去评估它,你会错过它真正的优势。
比如 Claude 3.5 的写作能力是被很多人低估的——它写出来的东西比 GPT-4o 更"像人写的"。而 Qwen2.5 的中文优势在日常使用中非常明显——它对中文谚语、网络用语、方言的理解远超海外模型。
一个让我开心的趋势——大模型正在快速变便宜:
时间 | GPT-4 | Claude 3 | 国内模型 |
|---|---|---|---|
2023 Q1 | $0.06/1K tokens | - | - |
2023 Q4 | $0.01/1K tokens | - | Qwen-max ~¥0.02 |
2024 Q2 | $0.005/1K tokens | $0.015/1K tokens | Qwen-turbo ~¥0.001 |
GPT-4 的价格在一年半内降了 90% 以上。而国内模型的价格更是卷到了"几乎不要钱"的地步。
一个实用结论: 现在绝大部分场景都值得用 AI 来辅助了——成本已经低到可以忽略不计。
基于过去一年的趋势,我对未来有一些自己的判断:
不要追"最好的模型"——它每 3 个月就换一次。
而是建立一个**"跨模型的评估框架"**:知道自己需要在什么场景用什么模型、什么场景不依赖单一模型、什么场景在不同模型之间做好 fallback。
工具在变快,但"怎么用好工具"这件事的思考方式,反而比工具本身更有价值。