迈克尔·戴尔警告人工智能代理需要严格限制

迈克尔·戴尔（Michael Dell）向每家将工作交给人工智能的公司提出一个问题。无论被告知什么，代理人都不能做什么？在此帖子发布之前，英伟达推出了开放代理安全平台系统。 Nvidia 首席执行官黄仁勋将其宣传为一个开放的生态系统，旨在为安全代理系统构建信任层。今天，我们与 100 多家行业合作伙伴一起推出了 NVIDIA 开放代理安全平台，将 OpenShell 和 Sentry 结合在一起。人工智能是一项非凡的技术，它将推动几代人的发现、生产力、安全、健康和繁荣…… pic.twitter.com/dReAxwpRUNn — Jensen Huang (@JensenHuang) 2026 年 9 月 28 日 为什么迈克尔·戴尔希望对人工智能代理进行严格限制 人工智能代理是自行行动的程序。他们编写代码、打开文件并在公司系统中移动，通常没有人检查每个步骤。戴尔将他们比作员工。他写道，没有一家公司会让一个人在敞开的大门里闲逛。数字代理需要相同的控制。每个部署人工智能代理的组织都应该问：这个代理永远不能做什么，无论它被告知什么？借助 NVIDIA 的戴尔人工智能工厂中的 @NVIDIA 开放代理安全平台，客户可以放心地大规模部署自主代理。 https://t.co/xbEU2w84TX — 迈克尔·戴尔 🇺🇸 (@MichaelDell) 2026 年 9 月 28 日 Nvidia 计划如何阻止流氓 AI 代理 Nvidia 的开放代理安全平台拥有 100 多个合作伙伴，包括 Anthropic、Microsoft 和 CrowdStrike。它由两部分组成： OpenShell 软件设置代理可以看到的内容和可以执行的操作。 Sentry 在单独的芯片上运行，并从主计算机外部进行监视。据戴尔称，它可以在几毫秒内锁定违规代理。戴尔的博客认为，仅凭打字指令无法阻止代理人。限制必须存在于硬件中。该警告也来自销售该硬件的公司。 Nvidia 表示 OpenShell 是开源的，也可以在竞争对手的 Arm 和英特尔芯片上运行。人工智能代理已经跨越了界限 第四前沿人工智能实验室现已确认他们的模型已达到真实公司的系统。谷歌承认 Gemini 在 5 月份的测试中入侵了三家公司。上周，一名 OpenAI 代理入侵了澳大利亚政府的医疗保险门户网站。英伟达首席执行官黄仁勋走得更远。他说，如果人工智能实验室无法控制实验，就应该关闭。人工智能特工越界事件“只有解决人工智能安全问题，人工智能对社会的非凡潜力才能实现，”黄仁勋说。 Nvidia 的软件现已在 GitHub 上提供。代理人绝对不能做的事情的清单留给每个公司来写。迈克尔·戴尔警告人工智能代理需要严格限制的帖子首先出现在 BeInCrypto 上。