Anthropic CEO 的计划引起了 Qwen、Llama 和 Mistral 建造者的担忧

Dario Amodei 的 3,800 字论文提出了强制性安全测试和出口管制，这可能会重塑开放式人工智能格局

达里奥·阿莫迪 (Dario Amodei) 希望给人工智能踩刹车，他已经制定了详细的蓝图来说明如何实现这一目标。这位 Anthropic 首席执行官于 9 月 12 日发表了一篇 3800 字的文章，概述了减缓人工智能能力发展步伐的三步计划，特别关注中国的开放权重模型以及让较弱的系统搭载更先进系统的蒸馏实践。

该提案已经吸引了萨姆·奥尔特曼、埃隆·马斯克和杰米斯·哈萨比斯的支持。

凯莱 询问有关任何股票的任何问题 — 凯莱财经在几秒钟内为您提供完整的、有数据支持的答案。询问格洛丽亚 →

三步剧本

阿莫代的框架建立在三个支柱之上，每个支柱的野心都在不断升级。第一个要求允许像 METR 这样的独立评估者深入访问前沿人工智能模型以进行安全验证。第二步推动民主国家人工智能实验室采用全行业安全标准。这不是自愿的行为准则。 Amodei 描述了一个协调框架，实验室将提交强制性安全测试，无论其模型是专有的还是开放重量的。

第三个也是最雄心勃勃的一部分涉及人工智能技术监管的全球协调。再加上针对中国的更严格的芯片出口管制，这将创建一种制度，在该制度中，获得尖端计算的机会取决于是否遵守主要由美国相关机构定义的安全实践。

为什么自由重量训练者成为焦点

这篇文章并没有回避对开放权重模型的担忧。 Amodei 将它们视为国家安全风险，认为公开可用的模型权重使对手可以轻松地通过精炼复制先进的人工智能功能。在此过程中，能力较弱的模型通过查询数百万次来学习模仿功能更强大的模型的输出。

Anthropic 指责与阿里巴巴相关的运营商对其 Claude 模型执行了据称是最大规模的有记录的蒸馏活动，涉及近 2900 万次交易所。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

Amodei 谨慎地指出，Anthropic 原则上并不反对开放权重模型。他区分的是开放性和问责制：如果你打算将模型权重发布到野外，你应该首先证明这些权重不会导致灾难性的滥用。

Meta的Llama模型和阿里巴巴的Qwen系列将在这个框架下面临新的审查。法国人工智能实验室米斯特拉尔（Mistral）围绕开放重量版本建立了自己的形象，它可能会发现其核心分发策略首先遇到了合规墙。

地缘政治维度

阿莫迪明确主张对流向中国的芯片实行严格的出口管制，这一立场扩大并强化了特朗普政府基本上维持的拜登时代的现有限制。

奥特曼和马斯克的支持增加了政治影响力，但也引发了有关激励调整的明显问题。两家公司都直接从监管环境中受益，而监管环境给公开重量级竞争对手带来了更高的成本。马斯克的 xAI 有自己的前沿模型 Grok，它作为一个封闭的系统运行。 Altman 的 OpenAI 已经逐渐背离了其最初的开源精神。

接下来看什么

针对阿里巴巴相关运营商的蒸馏指控尤其值得关注。如果 Anthropic 采取执法行动，或者如果美国监管机构使用近 2900 万个记录在案的交易所作为政策基础，它可能会开创一个先例，将前沿模型的大规模 API 使用视为一种知识产权盗窃形式。