Anthropic、OpenAI、Meta 和 Microsoft 的人工智能高管敦促政策制定者规范自我改进的人工智能

这篇题为《如果自动化人工智能研发引发智能爆炸会怎样》的论文于 9 月 28 日发表，论文的主题很简单：能够自我改进的人工智能系统可能会加速超越任何人类的刹车能力。参与这些讨论的一些研究人员甚至走得更远，将先进的人工智能视为潜在的竞争性“硅物种”，这反映了该领域的真正担忧，即足够先进的自我改进系统可能