流氓人工智能代理的法律责任：出问题时谁来买单？

能够规划目标并采取行动的人工智能“代理”正在超越简单的聊天。最近有关与主要人工智能模型测试沙箱相关的企图违规的报道重新引发了开发人员、部署人员和用户面临的一个紧迫问题：当自治系统出现意外行为并造成现实世界的伤害或经济损失时，谁要承担法律责任？

在接受 Rikka Law Group 首席执行官兼所有者 Charlyn Ho 采访时，律师解释了今天的答案如何不再是关于新的“人工智能代理”法规，而是更多地涉及应用长期存在的法律框架，例如疏忽、鲁莽漠视，以及根据事实而定的计算机犯罪法。讨论还强调了开源版本和高层“平台责任”论点如何塑造受害者可以实际追求的目标。

美国没有单一的联邦“人工智能代理责任”法；责任通常取决于现有标准以及设计、部署或指导系统的具体事实。

在美国；责任通常取决于现有标准以及设计、部署或指导系统的具体事实。人工智能模型本身通常不是合法目标，因为它们不是独立的法律实体；责任落在开发人员和/或部署人员身上。

因为它们不是独立的法律实体；责任落在开发人员和/或部署人员身上。如果部署者提供不安全的指令或在没有合理保障措施的情况下部署参数，那么疏忽风险可能会转移到部署者身上。

如果他们提供不安全的指令或在没有合理保障措施的情况下部署参数。当许可证放弃责任并且用户仍然有责任遵守许可条款时，开源代码可能会限制实际追索权。

当许可证否认责任并且用户仍然有责任遵守许可条款时。即使像通用人工智能这样的未来假设也可能无法通过“机器人责任”来解决，因为法律旨在创造激励和补救措施，但自治系统通常缺乏资金或法人资格。

为什么责任仍然是一个“事实和情况”问题

何的核心观点是，在狭隘的场景之外，法院将关注人类和组织在人工智能代理周围所扮演的角色，而不是代理的“自己的想法”。在她看来，第一个基线是人工智能代理通常不能作为独立被告被起诉。

相反，律师区分开发人员（构建系统）和部署人员（在现实世界中操作系统）。何强调，法律界限“并不完全明确”，取决于有关建造什么、部署什么以及提供什么指示的证据。

例如，如果部署者指示代理或设置操作条件，则可能会应用疏忽分析。 Ho 表示，如果部署者疏忽了代理的参数化方式（无需明确告知其违反第三方规定），法院仍可能将其视为未能满足侵权法下的合理安全期望。

当用户给出鲁莽的目标时，部署者可能会承担更多的风险

采访还谈到了任何考虑“自主”目标设定的人都熟悉的场景：如果一个人指示代理人实现需要非法步骤的结果怎么办？ Ho 认为，用户或部署者通常比实验室更容易暴露，特别是当指令根本上是鲁莽的时候。

她使用一个具体的假设，建议告诉特工“下周之前给我赚十万美元”，如果特工合理地推断出实现目标的犯罪方法，而部署者未能包括基本的安全约束，则可能会产生责任。在这个框架中，关键问题不仅仅是代理的自主权，而是部署者有能力、安全地使用系统的义务。

何还指出，旧的计算机犯罪法规仍然具有相关性。她提到美国《计算机欺诈和滥用法案》是针对未经授权访问的法律的一个例子。她的论点很简单：当某些行为涉及入侵或未经授权的系统访问时，给某些东西贴上“人工智能”或“代理”的标签并不会消除既定的法律理论。

开源模型以及为什么受害者可能会发现更少的目标

开放权重和开源版本提出了另一个挑战：如果代码是公开可用的并且由匿名或不可识别的开发人员生成，那么受害者实际上可以追究谁的责任？

何先生的回答很务实。她说，当开源许可证包含广泛的免责声明时，它可以大大缩小追索权的路径。采用和运行开源代码的用户通常必须了解其中的权衡：免费访问伴随着合规义务，并且通常是预先定义的责任限制。

Ho 将这种动态与消费技术进行了比较。她引用了特斯拉和自动驾驶功能的类比：产品和安全声明可能涉及制造商（开发商）和人类操作员（部署者），具体取决于出了什么问题以及系统的使用方式。她认为，法律结果仍然取决于哪一方为损害创造了条件以及经营者的行为是否在合理的安全预期范围内。

欧盟人工智能法案与美国的差距——以及“不要责怪平台”的类比

这次采访将欧盟人工智能法案如何向某些高性能模型的开发者分配责任与美国法律目前在更广泛层面上的运作方式进行了对比。 Ho 表示，在欧盟，能够造成严重损害的基础或通用模型将引发监管框架下的开发人员责任考虑。

她表示，在美国，没有任何一部具有同等广度的法规。因此，如果通用模型被用作工具，并且有人指示它执行非法操作，则可能很难建立强有力的法律依据来起诉实验室，特别是如果主要因果驱动因素是用户的指令。

Ho 还与美国《通信规范法案》第 230 条进行了类比，该法案可以屏蔽本身不创建或发布有害内容的平台。她的类比是关于平台责任的：就像网站运营商可能不会仅仅因为用户可以找到并分享有害指令而承担责任一样，在美国，开发人员可能不会仅仅因为代理可能被提示生成危险的输出而承担责任，而没有更严格的职责或行为。

虽然这种比较是概念性的，而不是对人工智能案件的直接裁决，但它强化了采访的中心信息：法庭上可能会根据既定的原则，而不是广义的“人工智能代理”理论来争夺责任。

AGI 假设、智能合约和补救措施问题

Ho 反驳了未来“AGI”系统应被视为负有法律责任的实体的观点。她认为，至少在原则上，人工智能系统不是法律的预期受益者或目标。她说，法律和责任的目的是保护社会并针对不当行为创造“负面激励”。

她还提出了一个实际问题：补救措施。即使 AGI 被视为独立实体，它也可能没有资金或能力按照法律体系通常要求的方式赔偿损失。在她看来，“机器人责任”仍然可能无法为受害者提供一条有意义的道路。

何将此与区块链的本质进行了比较，即自动化而不是人格。她指出区块链不是通用人工智能，并讨论了智能合约是否应该被视为法律主体，她认为目前的答案是否定的。基本主题是相同的：如果没有类似人格的属性和资金，法律责任可能无法转化为现实世界的责任。

对于关注这个领域的读者来说，关键的不确定性不在于法院是否会考虑人工智能的危害——他们会的——而是他们将如何在开发人员、部署人员和用户给出的指示之间分配责任。随着越来越多的事件涉及代理与受控测试环境之外的第三方进行交互，预计诉讼将越来越多地涉及疏忽细节：存在哪些保障措施，提供了哪些目标，以及在特定部署中“合理可预见”的滥用情况。