Sapient 开源 HRM-Text 模型，以 1,500 美元的预算推进循环推理

一个花费约 1,000 至 1,500 美元训练的 10 亿参数模型正在发布基准分数，可与更大、更昂贵的替代方案竞争

总部位于新加坡的 AGI 研究公司 Sapient Intelligence 发布了 HRM-Text 的完整权重、预训练代码和数据管道，HRM-Text 是一种基于分层推理模型架构构建的语言模型。整个包可在 Hugging Face 和 GitHub 上的 Apache 2.0 许可下使用，这意味着任何人都可以使用它、修改它或在其上进行商业构建。

值得注意的部分不仅仅是开源的姿态。这是经济学。 HRM-Text 拥有约 10 亿个参数，在约 400 亿个令牌上进行了预训练，在普通硬件上的成本估计为 1,000 至 1,500 美元。就上下文而言，主要实验室的前沿模型通常使用数千万或数亿美元的计算预算来训练数万亿个代币。

它实际上是如何运作的

该模型使用该公司所描述的分层潜在循环架构。高级模块处理缓慢、抽象的推理，每次通过 2 个“H 循环”。低级模块可进行快速、详细的处理，每次运行 3 至 6 个“L 循环”。这些模块共同允许模型在生成输出之前多次迭代其自身的推理，同时保持参数计数固定。

HRM-Text 并没有生成消耗上下文窗口和推理成本的可见思想链标记，而是在内部进行迭代思考。推理发生在模型的隐藏状态中，而不是输出文本中。

强劲的基准性能

2026 年 4 月进行的独立评估用数字说明了这一点。 HRM-Text 在 MATH 基准上得分为 56.2%，在 DROP 上得分为 82.2%，在 ARC-Challenge 上得分为 81.9%，在 MMLU 上得分为 60.7%。据报道，预训练大约在一天内完成。

HRM-Text 建立在 Sapient 早期工作的基础上。最初的 HRM 模型于 2025 年 7 月开源，只有 2700 万个参数，并在仅 1000 个训练样本的复杂推理任务上表现出了强大的性能。 HRM-Text 的参数扩大了大约 37 倍，同时保持了相同的架构理念。

Sapient 为有兴趣探索该架构的开发人员建立了一个 Discord 频道。 Apache 2.0 许可证消除了法律摩擦。 1,500 美元的培训费用消除了大部分财务摩擦。