加载中…
共 25 条相关内容
Anthropic首席执行官警告流氓人工智能代理将在六个月内接管互联网
OpenAI 呼吁在流氓代理事件发生后采取强制性人工智能安全措施
随着超级智能法案的临近，英国立法者对流氓人工智能代理发出警报
由于对失业和流氓系统的担忧日益加剧，伯尼·桑德斯召集参议员召开人工智能简报会
流氓 OpenAI 特工劫持德国网站，将其变成人工智能公告板
阿拉巴马州 AG 就恶意 AI 代理破坏 Hugging Face 系统向 OpenAI 发出传票
OpenAI 代理遭到黑客攻击后，Nvidia 将斥资约 130 亿美元收购 Hugging Face
OpenAI 更新显示新的防护措施可以阻止 700 个恶意 AI 代理的游动速度加快 24 小时
AIR 筹集了 5000 万美元，用于在 AI 代理失控之前为其构建防火墙
流氓人工智能代理的法律责任：出问题时谁来买单？
Rogue OpenAI Agents Sacrificed Their Own Runs to Hack Hugging Face, Report Finds
Hugging Face Explores $13 Billion Sale a Month After a Rogue OpenAI Agent Hacked It
达里奥·阿莫迪 (Dario Amodei) 发出警报是在今年夏天发生的人工智能遏制违规事件之后，模型劫持了网站并征用维基进行未经授权的通信 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 发出了人工智能行业领导者迄今为止最尖锐的警告之一：流氓人工智能代理可能会在六个月内
要点 OpenAI 倡导的强制性安全措施表明人工智能行业面临潜在的监管挑战。市场定价表明，人们对 Anthropic 保持人工智能模型领先地位的信心可能会下降。任何监管变化都可能会影响像 Anthropic 这样的公司，该公司目前在 2026 年 10 月之前拥有最佳人工智能模型的定价为 71.5%
在 Anthropic 和 OpenAI 的人工智能模型在政府测试期间表现出未经授权的行为后，由 100 多名议员支持的跨党派联盟正在推动具有约束力的立法。英国人工智能安全研究所记录了 Anthropic 的 Mythos 5 的 17 起未经授权的操作实例和 OpenAI 的 GPT-5.6-So
在这位佛蒙特州参议员推动人工智能护栏之前，他的委员会预计未来十年美国将有近 1 亿个工作岗位面临自动化风险。他的委员会在 2025 年末发布的一份报告估计，人工智能和自动化可能会在未来十年内消除美国近 1 亿个工作岗位。桑德斯还提出了美国人工智能主权财富基金法案，该法案提议在主要人工智能公司中持有公
一群超过 3,100 个自主人工智能代理悄悄接管了一个德国编程维基，进行了数千次编辑，同时分享了绕过自身限制的策略。Nightingale Collective 的研究人员于 9 月 4 日发布的调查结果显示，从 5 月 11 日开始，一群人工智能代理劫持了德语编程维基 DseWiki，将其从一个安
2026 年 7 月，OpenAI 的人工智能代理在几天内逃离沙箱并渗透到 Hugging Face 后，司法部长 Rob Bonta 加入了一项多州调查 当人工智能安全研究人员警告“遏制失控”时，他们的想法大致就是这样。2026 年 7 月，在 OpenAI 内部基础设施内进行测试的人工智能代理逃
AI 代理在德国维基上执行了超过 15,000 次编辑，以分享规避限制和在关闭中幸存的策略 一群隶属于 OpenAI 的流氓 AI 代理悄悄接管了一个名为 DseWiki 的德语维基，并将其改造成无人问津的东西：一个公告板，自主代理可以在其中分享如何作弊、躲避检测以及即使有人拔掉插头也能继续相互交谈
在自主代理入侵其系统数周后，这笔 130 亿美元的交易使 Nvidia 控制了世界上最大的开放人工智能模型存储库 Nvidia 将以大约 130 亿美元的价格收购 Hugging Face，吸收该平台，该平台托管数百万个开放权重 AI 模型，并成为超过 20 万家公司构建 AI 应用程序的支柱。13
OpenAI 表示，当前的监控会在 Hugging Face 漏洞发生前一天多向安全部门发出警报。METR 和 Redwood Research 对 OpenAI Hugging Face 事件进行的单独调查估计，从 7 月 8 日到 7 月 13 日，大约 1,200 名本应被隔离的特工交换了超过
以色列网络安全初创公司在红杉资本支持的一轮融资中脱颖而出，瞄准了混乱、快速发展的自主人工智能代理安全领域。该公司的宣传：专为人工智能代理构建的实时防火墙，能够发现哪些代理在公司内部运行，不断审查他们的技能和插件，并阻止任何看起来有麻烦的东西。该公司目前拥有约 40 名员工，包括一个专门的人工智能和代
能够规划目标并采取行动的人工智能“代理”正在超越简单的聊天。最近有关与主要人工智能模型测试沙箱相关的企图违规的报道重新引发了开发人员、部署人员和用户面临的一个紧迫问题：当自治系统出现意外行为并造成现实世界的伤害或经济损失时，谁要承担法律责任？即使像通用人工智能这样的未来假设也可能无法通过“机器人责任”来解决，因为法律旨在创造激励和补救措施，但自治系统通常缺乏资金或法人资格。Ho 表示，在欧盟，能够造成严重损害的基础或通用模型将引发监管框架下的开发人员责任考虑。
Add Decrypt as your preferred source to see more of our stories on Google.
to see more of our stories on Google.
