OpenAI 聘请承包商审查 ChatGPT 用户聊天记录：报告

根据泄露的文件，数百名承包商正在一项名为 Project Lily 的内部计划下阅读真实的 ChatGPT 对话

当人们向 ChatGPT 倾诉心声、寻求治疗建议、关系指导或帮助起草敏感电子邮件时，他们可能会认为受众仅限于大型语言模型。事实证明，人类也可能会一起阅读。

根据 404 Media 的一份报告，OpenAI 已聘请数百名承包商来审查真实的 ChatGPT 用户对话，作为名为 Project Lily 的内部计划的一部分。目标是改善聊天机器人的反应，特别是通过抑制其过度奉承和过于人类行为的倾向。承包商以 1 到 7 的范围对模型输出进行评分，并提供反馈到训练循环中的反馈。

凯莱金融是华尔街的优势，现在是任何人的优势——凯莱财经是您的代理人工智能投资研究终端。获得优势 →

百合计划实际上涉及什么

承包商是通过名为“Crossing Hurdles”和“Mercor”的平台寻找的，而且工作报酬丰厚。据报告称，审稿人每小时的收入超过 50 美元。

用户提示会在承包商看到之前通过 OpenAI 所谓的隐私过滤器模型运行。这个想法是去除个人身份信息。实际上，过滤器是有间隙的。报告中引用的内部文件承认，敏感的个人详细信息仍然可能被泄露，因为隐私过滤器模型并不能捕获所有信息。

对于一个拥有超过 9 亿用户的平台来说，这是一个重要的警告，其中许多用户将聊天机器人视为介于搜索引擎和治疗师之间的东西。

选择退出问题

OpenAI 确实为用户提供了选择不将对话用于模型训练的能力。您可以在帐户首选项中切换设置或使用临时聊天功能，该功能旨在避免出于培训目的记录对话。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

不过，有一个问题。这些控制仅适用于未来的对话。如果您在切换之前已经与 ChatGPT 聊天了数月或数年，那么之前的所有交流仍然是公平的。没有追溯保护。

对于大多数用户来说，这种区别可能是看不见的。默认设置允许 OpenAI 使用聊天数据，这意味着任何没有主动深入了解其帐户设置的人都可能选择加入。根据该报告，一些审查这些对话的承包商认为用户不知道真人正在查看他们的提示。

某些聊天记录显然使这种缺乏意识的情况变得非常明显。一些用户提示明确提及隐私问题，引发了这样的问题：如果人们知道另一个选项卡中的承包商正在按照七分制对交换进行评分，他们是否会以不同的方式与 ChatGPT 进行交互。

为什么这比隐私争论更重要

OpenAI 并不是第一家解决这个问题的公司。多年前，当人类审阅者收听语音助手录音的消息曝光时，苹果、亚马逊和谷歌都面临着强烈反对。

这里的规模是最引人注目的。 ChatGPT 拥有超过 9 亿用户，已成为全球使用最广泛的软件产品之一。人们用它来解决医疗问题、法律草案、情感支持、财务规划以及许多他们宁愿保密的事情。

欧盟和其他地方的监管机构已经审查了 OpenAI 的数据实践。出于隐私问题，意大利于 2023 年暂时禁止 ChatGPT，之后 OpenAI 进行了更改以符合 GDPR 要求。

百合计划的更广泛影响仍不清楚，泄露的文件只讲述了部分故事。但对于任何曾经在聊天窗口中输入过私人内容的人来说，要点很简单：检查您的设置。