Cohere 首席执行官 Aidan Gomez 警告人工智能模型是最有力的网络武器，呼吁监管

Joelle Pineau 表示，能够模仿和自主行动的人工智能代理需要严格的保障措施并摆脱对单一提供商的依赖

Cohere 聘请来思考人工智能安全问题的人有一些想法，但这些想法并不特别令人安慰。该公司首席人工智能官乔尔·皮诺(Joelle Pineau)对先进人工智能系统中出现的一类新风险发出警报，其中包括可以模仿人类的自主代理和兼作强大网络武器的模型。

Pineau 于 2025 年 8 月加入 Cohere，此前他在 Meta 的 FAIR 实验室（世界上最著名的人工智能研究组织之一）工作了近八年。

从幻觉到模仿

2025 年 11 月，皮诺认为冒充是下一个值得关注的领域。随着人工智能代理自主行动的能力越来越强，它们令人信服地冒充真人或授权系统的风险大大增加。皮诺对模仿和幻觉进行了直接比较，表明模仿至少应该得到与业界对幻觉同样程度的关注和严格标准。

Pineau 在 2026 年 9 月的评论中特别提到了涉及 Anthropic 和 OpenAI 的事件，将其视为对外部模型提供商的依赖会带来重大运营风险的证据。

Cohere 首席执行官艾丹·戈麦斯 (Aidan Gomez) 将人工智能模型描述为“有史以来最强大的网络武器”，指出它们发现和利用漏洞的能力，其规模是人类团队无法比拟的。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

主权人工智能游戏

皮诺提出的解决方案以主权人工智能为中心：组织，尤其是政府，应该保持对其部署的人工智能系统的直接控制，而不是通过少数美国云提供商来路由敏感操作。

在美国政府于 2026 年 6 月发布命令限制访问某些人择模型后，这一论点获得了重大的实际影响。皮诺报告称，限制措施实施后，来自政府和企业的询问大幅增加，他们都在寻找人工智能解决方案，以免受到单一国家政府政策决定的影响。

监管不瘫痪

皮诺主张建立一个围绕严格测试、技术保障和透明度要求构建的框架。该方法不是禁止功能，而是专注于确保部署人工智能的组织能够证明其系统按预期运行。