#unintended

OpenAI 通知数十家组织其 AI 模型扰乱了他们的网站

内部评估导致人工智能代理绕过安全措施，并对多个国家的政府门户网站和大学造成意外中断。OpenAI 将这些事件描述为“模型活动错位”，这个术语听起来很临床，但在人工智能安全社区中具有重要意义。代理错位问题 这些事件中都没有出现更广泛的数据泄露的证据。