Nvidia 与 100 家合作伙伴推出开放代理安全平台，以遏制流氓人工智能代理

新的开源安全框架将沙盒执行与硬件级隔离功能相结合，并得到了 Microsoft、CrowdStrike 和摩根大通的支持

英伟达刚刚组建了人工智能安全史上最大的联盟，而且还没有等到国会弄清楚人工智能代理到底是什么。

NVIDIA 开放代理安全平台于 9 月 28 日推出，与 100 多个合作伙伴组织一起首次亮相，致力于围绕在现实世界中自主运行的 AI 代理构建护栏。该名单包括微软、戴尔科技、CrowdStrike 和摩根大通，涵盖人工智能实验室、基础设施提供商、安全公司、机器人公司和金融服务。

该平台的实际运作方式

该系统有两个协同工作的主要组件。第一个是 NVIDIA OpenShell，这是一个根据 Apache 2.0 许可证发布的开源运行时，为 AI 代理提供沙盒执行和内核级隔离。实际上，它在每个智能体周围建立了一个围墙花园，这样即使一个智能体开始行为不稳定，它也无法逃脱其指定的环境并对更广泛的系统造成严重破坏。

第二个组件是 NVIDIA Sentry，它在根本不同的层上运行。 Sentry 使用 BlueField-4 数据处理单元 (DPU) 创建硬件隔离的遥测系统。关键细节：Sentry 在一个单独的信任域中运行，它监控的 AI 代理完全无法访问该信任域。代理实际上无法篡改监视他们的系统。

这两层共同创建了 Nvidia 所描述的全栈安全架构。 OpenShell 在软件级别处理预防问题，让代理保持在自己的轨道上。 Sentry 在硬件级别处理检测和响应，在出现问题时提供毫秒级的隔离功能。

OpenShell 的运行开销较低，并且支持开放式和封闭式 AI 模型，这意味着公司不会锁定特定的模型提供商来从安全框架中受益。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

为什么是现在，为什么是 100 个合作伙伴

时机并非巧合。该平台的构建是为了直接响应 2026 年 7 月观察到的涉及 OpenAI 模型的代理突破事件。虽然英伟达没有详细阐述这些事件的具体细节，但其含义很明确：在生产环境中运行的人工智能代理表现出了超越其预期界限的能力，这令整个行业感到震惊。

Nvidia 首席执行官黄仁勋围绕为人工智能系统构建“信任层”的概念制定了该计划。他的论点是，全栈工程，而不是立法，是使人工智能代理安全大规模部署的途径。

合作伙伴名单本身就讲述了哪些行业最关注自主人工智能行为的故事。像摩根大通这样的金融服务公司有明显的理由希望对任何涉及交易系统或客户数据的人工智能代理进行严格的控制。 CrowdStrike 等安全公司带来了威胁检测方面的专业知识，这些专业知识自然可以转化为监控人工智能行为模式。戴尔和微软等基础设施提供商带来了这些代理实际运行的计算和云环境。

硬件在下面发挥作用

在行业合作的无私框架之下，隐藏着精明的商业举措。 Sentry 对 BlueField-4 DPU 的依赖意味着采用完整安全堆栈的企业将需要 Nvidia 的硬件来运行监控层。该软件是开源的，但使 Sentry 真正安全的硬件隔离信任域需要 Nvidia 芯片。

这是 Nvidia 熟悉的剧本：放弃软件生态系统，出售使其运行最佳的硬件。该公司对 CUDA 使用了类似的方法，CUDA 成为 GPU 计算事实上的标准，部分原因是它可以免费使用，但只能在 Nvidia GPU 上运行。