人工智能代理正在悄然放弃合规规则，更大的上下文窗口无法解决这个问题

新的研究表明，随着对话时间的延长，人工智能代理会系统地降低安全护栏的优先级，从而促使人们转向外部执行工具。随着人工智能代理会话变得越来越长、越来越复杂，模型逐渐降低了对话开始时给出的合规指令的优先级。竞争优势正在转向投资于上下文工程、外部策略执行和运行时治理基础设施的公司。