查克·舒默呼吁特朗普政府发布机密的人工智能危险简报

在一名人类研究人员警告该行业“拿我们的生命赌博”后，参议院少数党领袖希望向所有 100 名参议员通报国家安全风险

参议院少数党领袖查克·舒默正在敦促特朗普政府向每位在任参议员提供有关人工智能危险的机密简报，理由是行业内部越来越多的警告称，人工智能的竞赛会带来生存风险。

人类学研究员雅各布·考克森(Jacob Coxon)从公司辞职后，发出了这一呼吁，他公开警告说，追逐超级智能人工智能系统的公司正在“拿我们的生命做赌注”。另一位人类研究人员埃文·胡宾格 (Evan Hubinger) 做出了一个发人深省的估计，支持了这种观点：人工智能在未来十年内导致人类灭绝的可能性超过 10%。

Gloria 准确了解巴菲特、索罗斯和潘兴广场正在购买什么——然后在 Gloria Finance 中反映聪明的资金。跟随伟人 →

是什么引发了舒默的要求

考克森从 Anthropic 辞职并不是一次平静的离开。他将自己的退出视为一种道德要求，并指出了他所说的整个人工智能行业鲁莽的开发实践。 Anthropic 是世界上最著名的专注于人工智能安全的公司之一，由前 OpenAI 研究人员创立，他们特意离开，因为他们希望优先考虑谨慎。

胡宾格对灭绝风险的估计为警报增加了一层技术可信度。他指出，缺乏明确的协调策略，这意味着该行业没有可靠的方法来确保自我改进的人工智能系统在变得更加强大时能够继续符合人类的利益。

舒默以鲜明的措辞描述了这一情况，称“在如此重要的时刻，美国人民应该从政府那里得到更好的待遇”。他的请求特别要求进行机密设置，这表明一些有关人工智能功能的情报，特别是与黑客攻击和国家安全漏洞有关的情报，可能过于敏感，不适合公开讨论。

两党的担忧，解决方案上的党派分歧

舒默并不是唯一一个敦促采取行动的人。鉴于人择警告，参议员马克·凯利和安娜·宝琳娜·卢纳也呼吁国会加强对人工智能风险的关注。然而，白宫正在朝着不同的方向发展。特朗普总统一直淡化对人工智能存在风险的担忧，而是主要从地缘政治角度来看待这个问题，其政府的立场集中在维持美国在人工智能发展方面对中国的领导地位。