美国 - 艾赫巴里通讯社
Nous Research 发布 NousCoder-14B：开源编码模型挑战专有巨头
Nous Research（一家由加密风险投资公司 Paradigm 支持的开源人工智能初创公司）推出了 NousCoder-14B，此举凸显了人工智能驱动的软件开发的飞速发展。这个新的竞争性编程模型，仅用四天时间，利用 48 个 Nvidia 最新的 B200 图形处理器进行训练，声称其性能可媲美甚至超越多个更大的专有系统。它的出现加剧了本已拥挤的人工智能编码助手领域的竞争，尤其是在竞争对手 Anthropic 的代理编程工具 Claude Code 自新年以来主导社交媒体讨论，开发者们纷纷分享热情洋溢的推荐之时。
这些先进的 AI 编码工具的同时涌现，凸显了 AI 辅助软件开发的快速演变。这也标志着大大小小的公司之间为争夺被许多人认为是未来软件工程基础性技术的市场份额而展开的激烈竞争。定义未来几年代码如何编写、项目如何管理的竞赛已经开始。
另请阅读
NousCoder-14B 在 LiveCodeBench v6 上取得了 67.87% 的准确率。LiveCodeBench v6 是一个标准化的评估基准，用于测试在 2024 年 8 月至 2025 年 5 月之间发布的竞争性编程问题。根据 Nous Research 发布的随附技术报告，与它所基于的 Alibaba 的 Qwen3-14B 模型相比，这一性能代表了显著的 7.08 个百分点的提升。从基础模型实现如此快速的进步，展示了所用训练方法的有效性。
上周，当负责 Gemini API 的 Google 首席工程师 Jaana Dogan 在 X 上分享了一篇病毒式帖子时，围绕 AI 编码工具的热情显而易见。她描述了她如何向 Claude Code 提供了一个问题描述，而它在短短一小时内就生成了一个她团队花费一年时间开发的系统。Dogan 指的是一个分布式代理编排系统，Claude Code 通过一个三段式的提示就能够近似地构建出来，这说明了 AI 在加速复杂开发任务方面的潜力。
这种并列关系具有启发性。虽然 Anthropic 的 Claude Code 以其端到端的软件开发能力演示吸引了公众的想象力，但 Nous Research 正在倡导另一条道路。他们押注于在可验证问题上训练的开源替代方案，以弥合性能差距。此外，Nous Research 强调，模型构建和训练过程中的透明度与原始能力同等重要，这有助于建立信任并促进社区贡献。
Nous Research 对开放性和可复现性的承诺
NousCoder-14B 发布的一个关键区别在于其彻底的开放性。Nous Research 不仅共享了模型权重，还共享了完整的强化学习环境、基准测试套件和训练工具。这些资源基于公司的 Atropos 框架构建，允许任何拥有足够计算能力的研究人员复制或在此基础上进行工作。这种对开放科学的承诺加速了进步，并允许更广泛的审查和改进。
一位 X 上的观察者评论道：“开源 Atropos 堆栈为可复现的奥林匹克级别推理研究提供了必要的基础设施”，强调了其对学术界和开源社区的重要性。这一举措使最前沿的人工智能研究工具和方法民主化。
该模型由 Nous Research 的驻地研究员、前竞争性程序员 Joe Li 训练。Li 的技术报告提供了一个个人视角，将模型的学习轨迹与他在流行的竞争性编程平台 Codeforces 上的经历进行了比较。他将 LiveCodeBench 分数映射到 Codeforces 排名，估计 NousCoder-14B 的改进——从大约 1600-1750 的评分范围提升到 2100-2200——反映了他 14 至 16 岁之间近两年持续练习所取得的飞跃。AI 模型在短短四天内就实现了同等水平的进步。
Li 在技术报告中写道：“看着最终的训练运行展开，这是一种非常超现实的体验。”然而，他很快补充了一个关于 AI 效率的关键提示：虽然他在两年的练习中解决了大约 1000 个问题，但该模型却需要 24000 个问题。这突出表明，目前，人类在样本效率方面仍然是远为高效的学习者，这是未来 AI 研究的一个关键领域。
强化学习系统内部
NousCoder-14B 的训练过程为研究人员通过强化学习来增强 AI 推理能力所采用的复杂技术提供了宝贵的见解。该方法依赖于“可验证的奖励”，即 AI 生成代码解决方案，将这些解决方案针对测试用例执行，并且模型接收一个简单的二元反馈：正确或错误。这个反馈循环，虽然概念上很简单，但需要大量的基础设施才能大规模执行。
Nous Research 使用云平台 Modal 来并行运行沙盒代码执行。24000 个训练问题中的每一个平均包含数百个测试用例。系统必须在严格的时间（15 秒）和内存（4 千兆字节）限制内，严格验证生成的代码是否产生正确的输出。
训练采用了称为 DAPO（动态采样策略优化）的技术，研究人员发现该技术比其他替代方法略好。一个关键的创新是“动态采样”——即丢弃模型在其中所有尝试都成功或所有尝试都失败的训练示例，因为这些示例不提供有用的学习梯度信号。此外，研究人员采用了“迭代上下文扩展”，最初使用 32,000 个 token 的上下文窗口进行训练，然后将其扩展到 40,000 个 token。在评估期间，将上下文扩展到大约 80,000 个 token 产生了最佳的准确率结果，达到了报告的 67.87%。
最重要的是，训练管道有效地重叠了推理和验证——一旦模型生成了一个解决方案，它就开始处理下一个问题，同时检查前一个解决方案。这种流水线处理与异步训练（其中多个模型实例并行工作）相结合，最大限度地提高了昂贵的 GPU 集群上的硬件利用率。
相关新闻
AI 发展中迫在眉睫的数据短缺问题
Li 的技术报告中的一项重要发现指向了未来 AI 发展的一个潜在瓶颈：NousCoder-14B 的训练数据集包含了“大量所有易于获得、可验证的竞争性编程问题（以标准化数据集格式）”。换句话说，在竞争性编程这个特定领域，高质量训练数据的可用性正接近极限。
Li 提到，在训练中使用的 24,000 个问题时说：“互联网上竞争性编程问题的总数大致在同一数量级。”“这表明，在竞争性编程领域，我们已经接近高质量数据的极限了。”这一观察反映了 AI 行业对数据限制的普遍担忧。虽然计算能力按照可预测的经济和工程原理不断扩展，但训练数据正变得越来越有限。
Li 总结道：“看来，未来需要进行的一些最重要研究将集中在合成数据生成以及数据效率高的算法和架构领域。”对于竞争性编程而言，这一挑战尤其严峻，因为它需要具有已知、可自动验证的正确解决方案的问题，这与自然语言处理不同，后者存在歧义和多种有效解释的情况很常见。
