出于安全考虑，微软发布人文主义人工智能行为准则

这份长达 37 页的文件宣称，随着行业领导者推动前沿发展的协调放缓，“人比人工智能更重要”

9 月 14 日，微软为其 Microsoft AI 模型系列发布了一份长达 37 页的行为准则，该文件围绕一个看似简单的前提：人类至上。该守则明确指出，人工智能模型没有意识，“不应被设计为模仿意识”，同时拒绝任何对人工智能系统法人资格的追求。

时机并非偶然。 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 几天前发表了一封公开信，警告递归的自我改进和不可预测的人工智能行为会带来不断升级的风险，并呼吁整个行业协调放缓。这封信得到了萨姆·奥尔特曼和埃隆·马斯克的公众支持。

凯莱金融是华尔街的优势，现在是任何人的优势——凯莱财经是您的代理人工智能投资研究终端。获得优势 →

代码实际上说了什么

微软的行为准则针对的是该公司的 MAI 模型系列，涵盖推理、编码、图像识别、语音处理和转录功能。核心原则很简单：人工智能模型必须与人类目标保持一致并处于人类控制之下。

这意味着强制性的人类监督机制、透明度要求以及对有害应用程序的明确禁止。该文件位于微软更广泛的 Responsible AI 框架内，该框架于 9 月 1 日随着该公司发布的 2026 年 Responsible AI 透明度报告而得到更新。

首席执行官萨蒂亚·纳德拉（Satya Nadella）一直在“人文主义超级智能”的旗帜下制定公司的方法，该术语由微软人工智能负责人穆斯塔法·苏莱曼（Mustafa Suleyman）于 2025 年 11 月首次提出。其想法是，先进的人工智能系统应该针对人类利益进行优化，而不是追求不受控制的自主性，并将审慎的节奏和一致性作为基本设计目标。

该准则还支持监管合规，特别是围绕《欧盟人工智能法案》，该法案一直在重塑主要科技公司构建人工智能治理的方式。

更广泛的行业清算

阿莫迪于 9 月 12 日至 13 日发表的公开信并非凭空而来。具体关注点集中在验证和控制人工智能代理的行为，这些系统不仅生成文本，而且在现实世界中采取自主步骤。

递归的自我完善是特别的爆发点。当人工智能系统能够在无需人工干预的情况下有意义地提高自身能力时，传统的安全策略就会崩溃。

市场反应和投资者的计算

纳德拉的言论和更广泛的安全对话恰逢科技股估值下滑。纳斯达克 100 指数期货下跌，因为投资者正在思考协调性放缓可能对那些在激进的人工智能时间表上投入数十亿美元的公司的增长预测意味着什么。