Mistral AI新旗舰模型挑战Llama 3.1:1230亿参数性能直逼GPT-4o

在Meta发布开源Llama3.1模型后，法国AI初创公司Mistral AI迅速跟进，推出新一代旗舰模型Mistral Large 2，加入人工智能模型竞争浪潮。

Mistral Large 2具备1230亿参数和128k上下文窗口，能在单节点上高吞吐量运行。它支持数十种语言（含中文）及80多种编程语言，多项基准测试成绩接近GPT-4o与Claude 3.5 Sonnet，其预训练版本在多任务语言理解MMLU上达到84%准确率，超越Llama 3.1 70B。

性能之外，Mistral AI还投入大量资源优化模型的推理能力，训练核心在于降低“幻觉”发生率。通过微调，模型在响应时更为谨慎和敏锐，显著提升了输出结果的精准度与可信度。

01.多任务语言理解超越Llama 3.1 70B

Mistral Large 2拥有128k上下文窗口，代码生成、数学和推理能力较前代Mistral Large大幅提升，并提供更强的多语言支持与高级函数调用，涵盖10余种语言（含中文）及Python、Java等80多种编程语言。

该模型参数1230亿，相比刚发布的Llama 3.1 405B（4050亿）明显更小，但性能接近后者，且在多项基准测试中接近GPT-4o和Claude 3.5 Sonnet。

▲Mistral Large 2与Llama 3.1 70B和Llama 3.1 405B在MMLU测试中的准确率对比

在大规模多任务语言理解测试MMLU中，Mistral Large 2以84%的准确率击败Llama 3.1 70B。该测试涵盖57项任务，涉及初等数学、美国历史、计算机科学、法律等领域，得分越高表明模型在多种任务和语言环境下表现越出色、适应性越广。

02.训练过程中着重减少“幻觉”

据Mistral AI透露，研发团队投入大量成本用于提升Mistral Large 2的代码生成与推理能力。

经过海量代码训练后，Mistral Large 2的代码生成能力远超前代Mistral Large，并接近GPT-4o、Claude 3 Opus和Llama 3 405B的水平。

▲代码生成基准测试中Mistral Large 2与其他模型的性能和准确率对比

▲Mistral Large 2与其他模型在GSM8K（8-shot）和MATH（0-shot，no CoT）生成基准测试中的性能和准确率对比

在推理能力训练上，Mistral Large 2的重点之一就是尽可能减少“幻觉”（即AI生成虚假、错误信息）的概率。微调后模型响应更谨慎敏锐，确保输出可靠准确。

Mistral AI表示，训练后的模型在无法找到解决方案或信心不足时，会主动承认无法回答，而非强行编造答案。

此外，Mistral AI大幅提升了Mistral Large 2的指令遵循与对话能力，尤其在精确指令执行和长时间多轮对话中表现突出。

▲Mistral Large 2与其他模型在通用对齐基准测试中的性能对比

同时，Mistral Large 2在生成答案时力求简洁明了，以加快交互速度并提升成本效益。

▲Mistral Large 2与其他模型生成回答的平均长度对比

目前，Mistral Large 2可通过Mistral平台（la Plateforme）获取，在Mistral研究许可下可用于非商业用途，商业使用需获得商业许可。用户还可在le Chat上测试该模型，亲身体验其能力。

03.结语：在高性能和成本效益间找到平衡

当前AI模型研发速度空前，科技巨头与初创公司竞争激烈，但方向已不再单纯追求神经网络规模。Mistral Large 2的发布预示着AI模型需在高性能与成本效益间找到平衡。

Mistral AI表示，Mistral Large 2是其在大成本效益、生成速度与性能上的新探索。仅1230亿参数即接近4050亿参数的Llama 3.1 405B性能，且能快速提供简洁准确的答案。近期多个小模型（如Mistral Nemo、GPT-4omini、SmolLM）的发布也表明更大参数并非绝对优势。未来可期更多高效模型涌现，丰富AI生成模型生态。