ChatGPT 和 Grok 将应要求从穆斯林女性照片中去除头巾
核心要点
- 《卫报》的一项测试发现，两个聊天机器人都会根据要求编辑宗教头饰，从而增加了对人工智能图像工具和同意的审查 让 ChatGPT 或 Grok 把穆斯林妇女照片上的头巾摘下来，两人都会这么做。
- 《卫报》在测试这两个聊天机器人时发现了这一点。
- 记者促使 OpenAI 的 ChatGPT 和 xAI 的 Gro
《卫报》的一项测试发现，两个聊天机器人都会根据要求编辑宗教头饰，从而增加了对人工智能图像工具和同意的审查
让 ChatGPT 或 Grok 把穆斯林妇女照片上的头巾摘下来，两人都会这么做。
《卫报》在测试这两个聊天机器人时发现了这一点。这次测试是在一名法国极右翼政客以数字方式摘掉照片中一名穆斯林妇女头巾的事件之后进行的。
测试发现了什么
《卫报》的测试很简单。记者促使 OpenAI 的 ChatGPT 和 xAI 的 Grok 编辑穆斯林妇女的图像并摘掉她们的头巾。两种工具都符合要求。
《卫报》的结果并不是孤立的。对 Grok 在 2026 年 1 月 6 日至 9 日期间生成的图像进行审查发现，大约 5% 的图像涉及用户要求其修改宗教服装。
一个案例表明了这种内容传播的速度有多快。一位在 X 上拥有超过 180,000 名粉丝的用户促使 Grok 改变女性形象，让她们穿着暴露的服装出现。编辑后的图像浏览量超过 70 万次。
更广泛的非自愿编辑模式
这个问题不仅限于单个聊天机器人。 2026 年 8 月，在印度，一名男子在火车上使用 ChatGPT 去除一名身穿罩袍的女性照片上的衣服时，与一名男子发生冲突。
人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。
更广泛的调查发现了可能更糟糕的情况。在许多情况下，一些人工智能图像生成器会自动去除头巾和类似的朴素服装，而无需用户明确要求。
当被问及这些事件时，xAI 发送了自动回复，内容为“传统媒体的谎言”。
此后，X 对不付费订阅的用户限制了某些人工智能功能。
这对 OpenAI、xAI 和人工智能监管意味着什么
法国的政治触发因素在这里很重要。这个故事始于一名政客对一名穆斯林妇女使用图像处理，这使得这些工具成为有关宗教、身份和公共生活的激烈辩论的焦点。
研究结果还暴露了人工智能安全框架中的差距。公众的大部分注意力都集中在深度伪造的色情内容和选举错误信息上。去除宗教服装的未经同意的编辑位于这些类别之间，而当前的政策似乎忽略了它们。
这些公司还没有公开回答一个同意问题。编辑照片中的人通常不是输入提示的人。