Anthropic警告伊朗使用美国人工智能模型瞄准美国海军舰艇

这家人工智能公司的 154 页威胁报告详细介绍了一名与伊朗有关的行为者如何利用克劳德针对美国在中东的军事资产制定目标手册

一名与伊朗有联系的演员使用 Anthropic 的 Claude AI 汇编了有关驻扎在中东的美国海军舰艇的详细情报，创建了该公司所说的针对美国海军的“目标手册”。这一启示来自 Anthropic 于 9 月 10 日发布的一份长达 154 页的威胁情报报告，其中阐述了国家附属团体如何重新利用商业人工智能工具用于军事和情报行动。

该行动涉及建立自动监视管道，汇集从公共军事照片、船舶和飞机转发器标识符、商业卫星图像以及关键舰载系统的脆弱性评估中​​提取的人员名册。

格洛丽亚 一只你不拥有的股票刚刚移动——而两只你确实依赖它。凯莱财经看到了其他人所忽视的联系。查看连接 →

这位与伊朗有关的演员实际上建造了什么

根据 Anthropic 的报告，该行为者利用 Claude 从一系列公开数据中汇总开源信息。汇编的材料包括有关军事人员、船只和飞机识别数据的信息，以及与该地区美国海军行动相关的网站的详细信息。

该攻击者列出了舰载技术中的已知漏洞，特别是 VSAT 卫星通信终端和思科网络设备。

Anthropic 确定了责任帐户并禁止了该帐户。该公司还向政府当局报告了这一事件。该报告的一个重要警告是：Anthropic 并未确认汇总的情报是否实际用于任何现实世界的军事或作战环境。

国家级人工智能滥用的更广泛模式

伊朗并不是报告中唯一被标记的国家。 Anthropic 记录了跨越多个地缘政治对手的人工智能滥用模式。伊朗行为者还利用克劳德进行国内监视和宣传活动，而也门胡塞运动则利用该技术进行武器研究。据发现，来自中国和俄罗斯的与国家有联系的行为者从事类似的活动。

Anthropic 本身在报告中强调，这些案例代表了人工智能的创新应用，它们压缩了情报工作所需的资源，将信号情报分析、漏洞研究和开源情报聚合等任务框定为现在可以由能够访问商业人工智能聊天机器人的单个操作员部分自动化的任务。

人工智能的安全影响

Anthropic 的反应，即禁止账户并向当局报告，本质上是反应性的。帐户可以通过虚假借口创建，API 访问可以通过中介进行路由，并且底层技术通常可以在其他提供商的竞争模型中复制。

该报告还使有关人工智能出口管制和准入限制的叙述变得复杂化。美国政策制定者主要通过针对中国的芯片出口限制来重点防止对手开发自己的前沿人工智能模型。但这个案例完全说明了一个不同的方向：当对手可以通过商业渠道访问美国的模型时，他们不一定需要建立自己的模型。