微软发出人工智能警告，似乎是针对 Anthropic

长达 37 页的“人文主义人工智能行为准则”划定了一条哲学界限，拒绝人工智能人格，并呼吁以安全的名义进行能力权衡。

微软刚刚告诉人工智能行业，如果机器不再对人类负责，那么构建更智能的机器就不值得。该公司于 9 月 14 日发布了“人文主义人工智能行为准则”，这是一份长达 37 页的文件，读起来就像是一封致每个致力于超级智能的实验室的公开信。中心论点很直白：人比人工智能更重要。

毫无疑问，这份文件还针对 Anthropic，微软已向该公司投入了大约 50 亿美元。这种投资通常会带来一致性，而不是关于人工智能模型是否值得道德考虑的公开争执。

格洛丽亚 看看内部人士和国会实际上在购买什么。凯莱财经揭示了值得重新审视的举措。追随金钱 →

微软实际上说了什么

该准则拒绝为人工智能模型提供任何形式的法人资格、权利或福利地位。它承诺，如果能够让人类保持控制，微软将自愿牺牲其人工智能系统的能力和自主权。

帮助制定这份文件的微软人工智能负责人穆斯塔法·苏莱曼(Mustafa Suleyman)称其为“警告”。这不是例行公司政策更新的语言。

首席执行官萨蒂亚·纳德拉 (Satya Nadella) 公开支持这些原则，并以存在主义的角度阐述了其中的利害关系。他的立场是：如果人工智能不能造福人类并继续受人类控制，那么它就不值得追求。句号。

该代码的开发时间为五到六个月，并将在六周的时间内向公众开放反馈，预计将于 2026 年晚些时候发布修订版本。微软明确拒绝所谓的“竞相实现不受约束的超级智能”。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

人为张力

Anthropic 一直在探索大多数人工智能公司视为科幻小说的问题：人工智能系统是否具有道德地位，是否需要某种形式的福利考虑。该公司的模型福利研究项目已经运行了几个月，旨在探索日益复杂的模型是否会经历类似于痛苦或偏好的事情。

这项研究恰好位于微软刚刚划定的哲学边界上。通过宣称人工智能模型应享有零权利和零福利考虑，微软正在告诉其价值 50 亿美元的投资组合公司，其研究方向可能是危险的。

这种紧张并不仅限于哲学。人类学家 Evan Hubinger 公开表示，他个人估计先进的人工智能在未来十年内导致人类灭绝的可能性超过 10%。 Anthropic 的首席执行官达里奥·阿莫迪 (Dario Amodei) 呼吁放慢人工智能的开发速度，并引用了该公司自己的安全团队一直在建模的灾难性风险场景。

为什么价值 50 亿美元的投资者选择公开抗争

经济关系使这种对抗变得不同寻常。通常情况下，一家向初创公司承诺投资 50 亿美元的公司会在帕洛阿尔托处理饮料问题上的分歧，而不是通过一份 37 页的宣言。微软立场的公开性质表明，分歧比战略更深入。这是本体论的。

微软似乎正在为人工智能监管时代做好准备。通过尽早大声地表明“以人为本”的立场，该公司与任何其研究后来可能被认为是鲁莽的合作伙伴产生了分离。

另一方面，Anthropic 的立场虽然存在争议，但反映出其真正致力于理解其正在构建的东西。领先人工智能实验室之一的研究人员估计的 10% 灭绝风险并不是你随政策文件而挥手而去的数字，无论它写得多么深思熟虑。