反对人工智能前沿的案例

放缓并不能取代控制

当前沿能力的协调放缓被用作控制的替代品时，它就成为一种核选项。我们认为更好的道路是推进和控制。这需要平衡能力与责任、可预测性和可靠性，然后使这种平衡在有限的工作流程和使用点的控制中可见。起搏能力不控制部署。即使较慢的前沿仍然可以向企业提供模型，这些模型决定代理如何通信、他们获得什么权限、他们可以访问哪些工具和数据、目标如何界定、行动是否可以验证以及记录是否可以在事后更改。抱脸事件很严重，但它的教训不仅仅是模型能力太强或来得太快。该功能是在没有设计编排、声明角色、最小权限访问、有界目标、防篡改记录或独立验证层的情况下部署的。