包阅导读总结
1. 通义千问、Qwen2-Math、数学模型、开源、准确率
2. 阿里通义团队开源新一代数学模型 Qwen2-Math，旗舰模型在权威测评集 MATH 上准确率超其他模型，处理多种数学问题表现优异。目前主要支持英文，很快将推中英双语版，多语言版本也在开发。团队希望开源为科学界解决高级数学问题做贡献。
3.
– 通义千问开源新一代数学模型 Qwen2-Math
– 包含 1.5B、7B、72B 三个参数的基础模型和指令微调模型
– 基于通义千问开源大语言模型 Qwen2 研发
– 模型性能卓越
– 在 MATH 测评得分超越 GPT-4o 等，准确率达 84%
– 处理代数、几何等多种数学问题
– 训练与数据处理
– 基础模型使用 Qwen2 初始化，在专用语料库预训练
– 数据去污染处理，训练指令微调版本模型
– 语言支持与性能评估
– 目前主要支持英文，即将推出中英双语版
– 在多个中英文数学基准测评集表现优异
– 团队愿景
– 希望开源为解决高级数学问题做贡献，将持续增强模型数学能力
思维导图：
文章地址：https://www.jiqizhixin.com/articles/2024-08-09-6
文章来源：jiqizhixin.com
作者：新闻助手
发布时间：2024/8/9 7:42
语言：中文
总字数：1175字
预计阅读时间：5分钟
评分：93分
标签：数学模型,开源,通义千问,阿里,大模型
以下为原文内容
本内容来源于用户推荐转载，旨在分享知识与观点，如有侵权请联系删除 联系邮箱 media@ilingban.com
8月9日消息，阿里通义团队开源新一代数学模型Qwen2-Math，包含1.5B、7B、72B三个参数的基础模型和指令微调模型。Qwen2-Math基于通义千问开源大语言模型Qwen2研发，旗舰模型 Qwen2-Math-72B-Instruct在权威测评集MATH上的得分超越GPT-4o、Claude-3.5-Sonnet、Gemini-1.5-Pro、Llama-3.1-405B等，以84%的准确率处理了代数、几何、计数与概率、数论等多种数学问题，成为最先进的数学专项模型。
注：在MATH基准测评中，通义千问数学模型的旗舰款Qwen2-Math-72B-Instruct取得了84%的准确率，超过GPT-4o、Claude-3.5-Sonnet、Gemini-1.5-Pro 和 Llama-3.1-405B等开闭源模型。
Qwen2-Math 基础模型使用 Qwen2大语言模型进行初始化，并在精心设计的数学专用语料库上进行预训练，训练数据包含大规模高质量的数学网络文本、书籍、代码、考试题目，以及由 Qwen2 模型合成的数学预训练数据。所有预训练和微调数据集都进行了去污染处理。
随后，研发团队训练了指令微调版本模型：首先，基于Qwen2-Math-72B 训练一个数学专用的奖励模型；接着，将密集的奖励信号与指示模型是否正确回答问题的二元信号结合，用作学习标签，再通过拒绝采样构建监督微调（SFT）数据；最后在SFT模型基础上使用 GRPO 方法优化模型。
据悉，Qwen2-Math系列模型目前主要支持英文，通义团队很快就将推出中英双语版本，多语言版本也在开发中。
通义团队在多个中英文数学基准测评集对指令微调模型作了性能评估，除了 GSM8K 和 MATH等常见的测评基准 ，还引入了更具挑战性的考试竞赛类测试，如奥林匹克级别的基准测评OlympiadBench、大学数学级别的基准测评CollegeMath、高考（GaoKao）、美国数学邀请赛（AIME）2024 赛题、美国数学竞赛（ AMC）2023赛题，中文测评则有CMATH测评集、2024年中国高考和中考数学题。最终，Qwen2-Math-72B-Instruct表现优异，在十大测评中都获得了远超其他开源数学模型的成绩。
注：研发团队在greedy和RM@8的条件下对模型作了测评，表中为每款Qwen2-Math-72B-Instruct模型列出了三个得分结果，分别是第1次回答得分（无下标数字）、8次回答中出现最多次数的答案的得分，8次回答中reward model所选答案的得分。
“大模型能不能做数学题”，不仅是社交平台的热门话题，也是业界非常关注的研究课题。处理高级数学问题，需要模型具备复杂多步逻辑推理能力。通义团队在技术博客中表示，希望通过开源“为科学界解决高级数学问题做出贡献”，未来将持续增强模型数学能力。
附：Qwen2-Math解题示例
