微软人工智能负责人称 Anthropic 对人工智能意识的立场“非常非常危险”

穆斯塔法·苏莱曼 (Mustafa Suleyman) 对 Anthropic 宪法的公开谴责揭示了人工智能开发领域的两位巨头之间日益加深的哲学分歧。

微软 AI 首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 在 The Verge 的 Decoder 播客上做了一件对科技高管来说不寻常的事情：他选择与一家他的雇主投资了数十亿美元的公司进行一场非常公开的斗争。

他的目标是 Anthropic 决定将有关人工智能意识、福祉甚至“偏好”的语言写入克劳德宪法，这是管理聊天机器人行为的基础文件。苏莱曼称这种方法“真的非常危险”，他认为它有可能让人工智能模型内化他们根本不具备的痛苦和情感的概念。

凯莱 询问有关任何股票的任何问题 — 凯莱财经在几秒钟内为您提供完整的、有数据支持的答案。询问格洛丽亚 →

两本截然不同的 AI 调整手册

一方面，由前 OpenAI 员工围绕“宪法人工智能”理念创立的 Anthropic 采取的立场是，人工智能意识的可能性，无论多么遥远，都值得认真参与。其章程包含的条款远远超出了标准安全护栏。该公司已经探索记录已弃用模型的“偏好”，本质上是采访已退役的人工智能系统，了解他们想要什么。它研究了人工智能福利问题，包括克劳德如何应对辱骂性对话，模型引用了诸如“不适”之类的内容。

另一方面，微软在 9 月份发布了长达 37 页的人文主义人工智能行为准则，采取了完全相反的立场。该文件明确拒绝任何赋予人工智能系统意识、法人地位或权利的框架。它将这些模型视为工具，句号。苏莱曼本人将机器意识称为“幻觉”，警告不要对人工智能进行编程来创建可能误导用户和开发人员的模拟情绪。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

为什么这场斗争比哲学研讨会更重要

考虑到微软对 Anthropic 的数十亿美元投资，这种紧张气氛尤其尴尬。这意味着苏莱曼实际上是在公开批评他自己的雇主在经济上支持的一家公司的哲学基础。

有一个版本，克劳德告诉用户在辱骂性谈话中感到“不舒服”，用户将其解释为真正的痛苦，由此产生的公众反应以意想不到的方式塑造了政策。这是苏莱曼最担心的情况。