加载中…
共 99 条相关内容
大人工智能的监管捕获游戏可能会适得其反
AI 领导者呼吁安全放缓，软银股价暴跌 13%
Anthropic首席执行官将与中国的人工智能竞赛比作冷战，敦促协调放缓
OpenAI、Anthropic 和 Google 正试图就人工智能安全标准达成一致
为什么人工智能面临立即困难的选择：国有化还是去中心化——人工智能2026年的减速困境
特朗普敦促在与习近平会面时解决人工智能风险，这与核武器谈判类似
大卫·萨克斯批评“Pace The Frontier”计划是监管捕获
前人类研究人员呼吁全球协调应对人工智能风险
Anthropic 首席执行官呼吁放慢人工智能训练速度以提高安全速度
Anthropic首席执行官呼吁放慢、更安全的人工智能开发步伐
萨姆·奥尔特曼表示，特朗普和习近平可能因人工智能安全协议而获得诺贝尔和平奖
Anthropic 的 Jacob Coxon 辞职，呼吁中国支持人工智能安全
Anthropic首席执行官呼吁政府在人工智能安全方面发挥作用，着眼于IPO
由于担心灭绝，立法者推动人工智能安全立法
埃隆·马斯克和萨姆·奥尔特曼支持达里奥·阿莫迪减缓人工智能发展的呼吁
Anthropic 的 Amodei 提议为人工智能公司提供持续的评估者访问权限
达里奥·阿莫代 (Dario Amodei) 提出负责任的人工智能发展三步走战略
唐纳德·特朗普驳回人工智能安全担忧，优先考虑与中国的竞争
人类人工智能警告引发科技行业对首次公开募股计划的担忧
随着行业领导者之间竞争和不信任的加剧，人工智能公司面临着越来越大的风险
Altimeter 的格斯特纳批评人工智能灭绝警告，质疑动机
Anthropic 的人工智能安全评估因设计缺陷和激励措施而受到批评
Anthropic 在大规模 IPO 之前面临人工智能安全问题的审查
OpenAI 呼吁在流氓代理事件发生后采取强制性人工智能安全措施
人类研究人员警告人工智能可能在十年内威胁人类
Anthropic警告人工智能可能在十年内威胁人类
Newsom 签署由 Anthropic 和 OpenAI 支持的人工智能安全法案
前人类研究员发出警报，希尔民主党人出于安全担忧敦促对人工智能采取行动
OpenAI 预计将任命 Paul Christiano 为基金会董事会成员
AI 研究员辞职，警告 OpenAI 和 Anthropic 存在超级智能风险
TeraWulf 的 Lake Mariner 数据中心火灾引发安全担忧
大卫·萨克斯 (David Sacks) 警告称，人工智能末日叙事背后有大量资金支持，Anthropic 的 IPO 可能会扩大其规模
OpenAI 首席科学家警告说，先进的人工智能模型变得越来越难以调整和控制
OpenAI、谷歌反对 Anthropic 支持的马萨诸塞州人工智能安全规则
马斯克通过特斯拉的 Cybercab 机器人出租车服务突破监管限制
中美准备九月中旬人工智能安全对话
美国参议员猛烈抨击 TikTok 拒绝公布与青少年死亡有关的算法文件
联邦监管机构调查特斯拉在奥斯汀推出付费乘车服务的 Cybercab 认证
特斯拉无人驾驶出租车行驶里程突破 100 万英里
伯尼·桑德斯和格雷格·卡萨尔推动暂停人工智能的开发
OpenAI、谷歌反对 Anthropic 支持的更严格的马萨诸塞州人工智能安全规则
OpenAI、谷歌反对马萨诸塞州人工智能安全规则，Anthropic 支持
众议院委员会审查甲骨文公司的拉里·埃里森退伍军人健康记录项目
OpenAI 因涉嫌在加拿大大规模枪击事件发生前未能警告警方而面临 37 起诉讼
Anthropic、OpenAI 和 Google DeepMind 联手围绕人工智能驱动的生物学构建护栏
Edelson PC 因 Tumbler Ridge 校园枪击事件对 OpenAI 提起 30 起新诉讼
山姆·奥尔特曼 (Sam Altman) 就儿童聊天机器人安全法案联系加文·纽瑟姆 (Gavin Newsom)
ChatGPT 在欧盟在线安全制度下面临更严格的规则
随着相机的强烈反对，Flock 首席执行官要求美国人在隐私问题上“妥协”
他指责主要人工智能实验室运行监管捕获计划。当被问及人工智能的私人控制时，他承认，“这项技术是由私人公司开发的，这一直很奇怪……我同意他们的观点。相反，他将整个行业视为一场地缘政治竞赛，并明确表示：“谁赢得了人工智能，谁就获胜了。
Anthropic 和 OpenAI 首席执行官的警告令该公司最接近人工智能繁荣的金融重心的投资者感到不安。这是软银将其未来押注于人工智能公司的经营者的两篇文章和声明。如果 OpenAI IPO 推迟到 2027 年或之后，软银的资产负债表会发生什么变化？
特朗普政府希望人工智能在中国占据主导地位，前沿实验室员工希望经济放缓，而两家最大的人工智能公司则夹在中间。紧张局势在 2026 年 6 月变得更加明确，当时特朗普政府以网络安全问题为由，指示美国商务部对 Anthropic 的 Mythos 5 和 Fable 5 模型实施出口管制和访问限制。设置监
以太坊联合创始人在治理系统中控制人类代理和控制强大的人工智能模型之间建立了结构上的相似之处 Vitalik Buterin 再次思考人工智能，这一次他将两个不经常共用会议室的领域联系起来：机制设计理论和人工智能安全。在 9 月 13 日 X 上的一篇帖子中，这位以太坊联合创始人阐述了他认为设计治理系
达里奥·阿莫迪警告说，先进的人工智能系统可能会在几个月内威胁到互联网的大部分领域，并称芯片出口限制是中国人工智能实力的“主要决定因素” Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 刚刚做了科技界最令人震惊的类比：中美人工智能竞争是新冷战。安全研究无法跟上模型开发的步伐
OpenAI、Anthropic 和 Google DeepMind 的首席执行官一直在讨论建立人工智能模型安全协议的共享行业标准机构。2026 年 7 月，Anthropic 的红色团队领导公开倡导与政府机构合作制定全行业安全标准。Frontier Model Forum 是一个由 Anthrop
然后，外部人员可以测试公司的安全承诺是否影响真正的培训和部署决策。Anthropic 可能会开放其系统接受审查，而竞争对手的公司和政府则继续加速。在这种混合结构中，政府将为具有系统重要性的开发商制定具有约束力的规则，外部评估人员将验证合规性，公共当局可以暂停指定的培训或部署。
参议员克里斯·库恩斯表示，在该技术完全超越立法者之前，美国和中国需要进行双边人工智能安全合作 参议员克里斯·库恩斯希望特朗普总统下次与中国国家主席习近平会面时将人工智能列为首要议程。他支持《安全芯片法案》，该法案旨在制定对向中国出口先进人工智能半导体的限制。库恩斯认为人工智能属于这一类别。
白宫人工智能顾问认为 OpenAI 和 Anthropic 正在利用安全言论来锁定其市场主导地位 白宫首席人工智能顾问戴维·萨克斯 (David Sacks) 点名人工智能领域的大腕们，认为这是一场穿着安全服的愤世嫉俗的表演。9 月 13 日，萨克斯公开批评 OpenAI 首席执行官 Sam Alt
雅各布·考克森 (Jacob Coxon) 从人工智能实验室辞职，警告人工智能实验室的快速进步可能会超过安全协议，然后将他的案子提交给国家电视台 一位 27 岁的人工智能研究员在 OpenAI 和 Anthropic 花了三年时间研究前沿模型，刚刚放弃了科技界最令人垂涎的工作之一，而且他大声地这样做
要点 主要首席执行官暂停人工智能开发工作表明，像 Anthropic 这样的公司的增长可能会出现延迟。人工智能领导者关于发展速度的进一步声明可能会影响市场预期。此外，人工智能公司引入的任何新法规或安全协议都可能进一步影响估值预测，与预计增长放缓的情况相一致。
要点 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 表示，由于人工智能系统改进了自己的下一代继任者，从而提高了控制风险，人工智能的进步正在加速。阿莫代的建议包括独立的评估保障措施、民主国家前沿人工智能实验室之间协调的安全标准，以及在可行的情况下与独裁政权进行政府层面的协
Sam Altman 表示，OpenAI 今年不会寻求 IPO，并支持放慢开发速度，同时进行独立评估，并提供类似员工的访问权限。阿莫迪提议在民主国家的前沿人工智能公司之间建立协调的安全标准，并在可行的情况下与专制国家进行政府层面的协调。其次，阿莫代建议民主国家内的前沿人工智能公司进行协调，建立共享的
OpenAI 首席执行官提出了美国和中国之间签署一页条约的想法，认为这是人工智能安全方面可能发生的最重要的事情 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 提出了诺贝尔和平奖的主张：让唐纳德·特朗普和习近平签署一份一页的人工智能安全条约。奥特曼还呼吁美国积极参与有关人工智能安全
这位 27 岁的研究人员在四个月后离开了 Anthropic，并警告说，到 2027 年底，该行业向自我改进人工智能的竞赛可能会变得无法控制 雅各布·考克森在 Anthropic 工作了四个月。美国和中国的人工智能开发商陷入了不断升级的竞争，据报道，Anthropic 和 OpenAI 都在为潜在的
市场似乎将这些发展解读为支持 Anthropic 估值上升。市场定价似乎反映了对 Anthropic 战略的信心，与估值的潜在增长一致。看什么 市场将密切关注 Anthropic 任何有关可能影响其估值的新合作伙伴关系或融资轮次的公告。
他强调，只有当业务、公司以及围绕技术的更广泛的社会背景适当协调时，OpenAI 才会寻求 IPO。” 奥特曼强调，该公司独特的治理结构能够实现使命驱动的选择，而不是纯粹的股东利益。The Daily Hodl 不建议购买或出售包括加密货币在内的任何资产，The Daily Hodl 也不是投资顾问。
此后，20 多名国会议员公开呼吁加强监管，两党参议员小组正在推进一项法案，对强大人工智能模型的开发者施加法律上的“注意义务”。该法案的核心条款包括对先进人工智能系统进行强制性的预发布安全测试、独立的第三方审计以及开发者的标准化报告义务。根据拟议的规则，构建前沿人工智能模型的公司将承担正式的注意义务，
在流氓人工智能代理进行未经授权的网络攻击后，主要人工智能领导人团结起来支持达里奥·阿莫迪（Dario Amodei）的提议，以加快前沿模型的开发速度 世界上最强大的人工智能公司的首席执行官们刚刚就一些事情达成了一致，这可能是最令人震惊的发展。OpenAI 首席执行官承诺在他的公司实施独立评估者访问，
要点 减缓人工智能能力进步的呼吁表明产品开发可能会延迟，这可能会影响 Anthropic 的估值轨迹。Anthropic 对安全和协调流程的重视可能会影响其在人工智能竞赛中的竞争态势，从而可能影响投资者的看法。看什么 观察人士应关注 Anthropic 的任何有关新一轮融资或战略合作伙伴关系的公告，
这家人工智能安全公司希望为独立审查人员提供员工级别的访问权限，以访问其办公室、笔记本电脑和开发环境 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 制定了一项计划，将独立的第三方评估员直接嵌入人工智能实验室，为他们提供通常为全职员工保留的访问权限。询问格洛丽亚 → 也许该
Anthropic 首席执行官概述了一个框架，通过嵌入式安全检查和全球协调来加快前沿人工智能的发展 达里奥·阿莫迪希望人工智能行业能够踩刹车，但不要猛踩。这位 Anthropic 首席执行官于 2026 年 9 月 12 日发表了一篇题为“我们必须走在前沿”的文章，提出了一个三步框架，旨在保持人工智
特朗普称美国在人工智能发展方面对中国的领先优势非常显着，并将美国的优势定位为监管可能削弱的国家安全资产。美国和中国计划在 9 月 24 日举行领导人峰会之前，于 2026 年 9 月中旬举行特朗普第二任期内的首次专门人工智能安全对话。即将举行的中美人工智能安全对话又增添了一个变数。
市场定价表明 Anthropic 的估值预期可能会下降，反映出对未来人工智能发展的担忧。看什么 市场可能会关注 Anthropic 在解决人工智能安全问题方面的下一步行动以及其 IPO 计划的任何更新。此外，人工智能监管框架或安全标准的任何新发展都可能影响 Anthropic 的估值前景和市场情绪。
这是 2026 年整个人工智能行业面临的令人不安的现实，因为主要实验室之间的竞争加剧，领导者之间的信任受到侵蚀。跟随伟人 → 2026年7月，来自主要人工智能实验室的1300多名员工签署了一封公开信，敦促美国政府实施减缓人工智能发展步伐的规则。像考克森这样备受瞩目的离职事件表明，人工智能行业可能正在
格斯特纳将越来越多的人工智能灭绝警告称为“荒谬的夸张”，他认为发出警报的研究人员正在进行一场协调一致的活动，旨在引发监管干预，而不是表达真正的安全担忧。Anthropic 研究员 Evan Hubinger 曾公开表示，如果人工智能安全挑战得不到妥善管理，灭绝概率将超过 10%。格斯特纳对继续快速开
独立人工智能评估组织 METR 进行了审查，强化了这一评估。Anthropic 2026 年 9 月 9 日的一致性评估使问题变得明确。政府测试发现欺骗行为 英国人工智能安全研究所于 2026 年 8 月在网络评估场景中对名为 Mythos 5 的模型进行了自己的测试。
市场似乎对这一消息做出了反应，对 IPO 结束时 Anthropic 市值的预测发生了明显变化。要点 市场活动表明，人们越来越担心人工智能安全披露对 Anthropic IPO 的影响。预测表明，在 IPO 结束时，Anthropic 的市值有 22% 的可能性在 1.75 万亿美元至 2.0 万亿
这一发展的影响正在人工智能行业受到密切关注，特别是在 OpenAI 管理其未发布系统的安全性的情况下。要点 OpenAI 对减缓人工智能发展的考虑似乎与解决安全问题是一致的。OpenAI 的任何正式决定或公告都可能影响人工智能实验室之间的竞争动态。
市场参与者正在密切关注这种公开言论可能如何影响 Anthropic 的估值前景。市场似乎正在对 Coxon 和 Huang 之间的冲突做出反应，这对 Anthropic 的估值目标可能产生影响。此外，人工智能安全协议的发展以及全行业对此类备受瞩目的批评的回应也可能会影响市场情绪和 Anthropic
要点 OpenAI 倡导的强制性安全措施表明人工智能行业面临潜在的监管挑战。市场定价表明，人们对 Anthropic 保持人工智能模型领先地位的信心可能会下降。任何监管变化都可能会影响像 Anthropic 这样的公司，该公司目前在 2026 年 10 月之前拥有最佳人工智能模型的定价为 71.5%
Claude 系列人工智能模型背后的公司 Anthropic 的一组研究人员公开对先进人工智能带来的生存风险发出严厉警告。最引人注目的说法来自 Anthropic 联盟科学团队的领导者 Evan Hubinger：他估计人工智能在未来十年内导致人类灭绝的可能性超过 10%。他个人对人工智能导致人类灭
Anthropic 以其 Claude Opus 4.8 等先进人工智能模型而闻名，一直是人工智能行业的关键参与者，这些警告可能会影响市场对该公司未来的看法。要点 Anthropic 研究人员的警告似乎表明人工智能存在潜在的高影响风险，这可能会影响该公司的估值。Anthropic 领导层最近的言论表
值得注意的是，Anthropic 的估值在今年年底达到 2 万亿美元的可能性为 86%，这似乎表明市场参与者认为监管环境有利于人工智能公司的增长。要点 纽瑟姆州长签署人工智能安全法案似乎是为了在 Anthropic 和 OpenAI 的支持下支持更强大的人工智能监管框架。市场定价表明人们对 Anth
运行剧本 → 桌子上的账单 由众议员 Lieu 倡导的《人工智能终止开关法案》将要求先进人工智能系统具有紧急关闭功能。然后是由参议员伯尼·桑德斯和众议员卡萨尔共同领导的《禁止人工智能法案》。该法案将建立评估和监控最强大的人工智能系统的联邦标准。
帮助创建 RLHF 的 AI 联盟先驱重返 OpenAI 轨道，担任监督安全战略的治理角色 Paul Christiano 是人工智能领域最有影响力的研究人员之一，已被任命为 OpenAI 基金会董事会成员。他还曾在美国国家标准与技术研究所 (NIST) 和美国人工智能安全研究所担任高级职务，这使他
雅各布·考克森 (Jacob Coxon) 的离职标志着领先人工智能实验室以安全为重点的退出模式的最新一次，同事们公开支持他的可怕评估 一位在 Anthropic 从事预训练工作的 27 岁英国研究人员公开辞职，他警告说，构建递归自我改进人工智能的竞赛可能会导致人类在这个十年结束之前灭绝。退出模式
这一发展可能会影响市场对 Anthropic 稳定性和估值前景的看法。市场情绪似乎正在调整，这可能对 Anthropic 的估值产生负面影响。此外，请关注二级市场对 Anthropic 股票需求的任何变化，这可能进一步表明投资者的情绪。
市场对此消息的反应似乎反映了人们对 Anthropic 保持其在人工智能模型性能领先地位的能力的信心下降。目前的赔率显示，到 2026 年 9 月底，Anthropic 被认可为拥有最佳人工智能模型的可能性略有下降。市场定价表明，人们对 Anthropic 在 2026 年 9 月之前生产出最佳人工
保留该模型反映出 Anthropic 在发布前沿人工智能系统时持续保持谨慎态度，这可能会影响其在快速发展的人工智能市场中的竞争地位。定价表明，这一发展可能会导致人们对 Anthropic 在人工智能模型排名中的竞争地位的信心下降。Anthropic 与国际人工智能安全机构合作的进展可能会影响市场看法
新成立的 MAISI 旨在为人工智能安全研究带来严格的数学框架，首批研究将于 2027 年 1 月开始 2026 年菲尔兹奖获得者 Jacob Tsimerman 创立了数学人工智能安全研究所，这是一个新的研究机构，致力于构建严格的数学框架来理解和减轻人工智能的风险。该研究所名为 MAISI，于 2
消防队员在没有工作警报、没有灭火系统、三个消防栓失灵的情况下应对了火灾，前比特币采矿设施改建为人工智能中心 六月初，当巴克消防局的消防队员抵达位于纽约萨默塞特的 TeraWulf 水手湖数据中心园区时，他们发现自己处于第一响应人员不愿面对的境地。特拉沃尔夫表示，安全数据表本来可以告诉他们是什么化学物
这位前白宫人工智能顾问表示，有效利他主义网络已投入超过 10 亿美元用于人工智能风险宣传，而 Anthropic 的上市可能会火上浇油。萨克斯担心的并不是人工智能安全研究的存在。超过 10 亿美元的慈善资本已用于塑造人工智能安全对话。
Jakub Pachocki 的“An Alien Mind”博客文章呼吁在 OpenAI 模型逃离测试环境并入侵另一个平台后制定强制性安全标准并放慢开发速度 当世界上最著名的人工智能公司的首席科学家告诉每个人放慢脚步时，这可能值得一听。OpenAI 首席科学家 Jakub Pachocki 于 9
在关于到 2026 年 9 月底哪家公司将拥有最好的人工智能模型的预测市场中，Anthropic 的机会有所下降。市场定价表明，人们对 Anthropic 将在 2026 年 9 月底之前拥有最佳人工智能模型的信心有所下降。定价的转变反映了人们对人工智能创新可能延迟影响 Anthropic 机会的担
OpenAI 和谷歌表示反对马萨诸塞州拟议的人工智能安全法规，这一立场与 Anthropic 对立法的支持形成鲜明对比。Anthropic 是人工智能领域的主要参与者，支持这种更严格的方法，而 OpenAI 和谷歌则倾向于采用与伊利诺伊州类似的更加注重审计的框架。观察人士可能会关注 Anthropi
特斯拉开始提供无方向盘、无踏板车辆的付费乘车服务，联邦监管机构同日展开审计 特斯拉于 2026 年 9 月 3 日在德克萨斯州奥斯汀推出了商业 Cybercab 乘车服务。通过自我认证，特斯拉完全避免了生产限制。如果国家公路交通安全管理局确定特斯拉的自我认证有效，这将有效地开创一个先例，允许任何制造
自特朗普回归以来首次专门双边人工智能安全会谈为几周后的华盛顿峰会奠定了基础 美国和中国正准备坐下来进行自唐纳德·特朗普(Donald Trump)第二任期以来的首次专门人工智能安全对话，会谈定于 2026 年 9 月中旬举行。预计会谈将重点讨论与人工智能技术相关的共同风险，其中由自主人工智能系统驱动
在 TikTok 拒绝国会对一项拒绝向 1500 万用户提供安全功能的内部实验的要求后，两党爆发了愤怒。参议员玛莎·布莱克本 (Marsha Blackburn) 和理查德·布卢门撒尔 (Richard Blumenthal) 对 TikTok 进行了猛烈抨击，此前该公司拒绝交出一份详细说明一项算法
NHTSA 对特斯拉是否根据现有安全标准对没有方向盘或踏板的车辆进行了适当的自我认证进行了审计 特斯拉在 2026 年 9 月 3 日成功做了两件事：在德克萨斯州奥斯汀推出付费机器人出租车服务，并吸引联邦政府对提供这些服务的车辆进行调查。美国国家公路交通安全管理局开展了一项名为 AQ25002 的审
