Jev 作为主要人工智能模型的更快、更便宜的替代品而受到欢迎

TypeSafe AI 的新模型可以在几毫秒内处理决策，而成本却只是其一小部分，开发人员已经对其服务器造成了压力

大多数人工智能公司都在竞相构建更大、更智能的语言模型。 TypeSafe AI 决定构建一个更快、更笨的机器。这不是侮辱。这就是重点。

Jev 是这家初创公司的新人工智能模型，于 9 月 15 日推出，立即吸引了众多开发人员的兴趣，以至于它超载了自己的 API。该模型不会写诗或生成代码。相反，它会做出结构化决策，例如对电子邮件进行分类、路由支持票证或标记交易，其速度和价格使传统的大型语言模型看起来就像雇用外科医生来贴创可贴。

速度和价格差距难以忽视

Jev 在 70 到 500 毫秒内处理请求，中位响应时间徘徊在 0.44 到 0.48 秒左右。定价更加惊人：每百万输入代币 0.042 美元，输出完全免​​费。

在 Vercel 进行的基准测试中，Jev 被证明在特定分类任务上比某些 OpenAI 模型快 5 到 18 倍。对于电子邮件分类，它比 Google 的 Gemini 模型便宜 10 到 20 倍。

TypeSafe AI 将其描述为“系统一模型”，借用了行为心理学的术语。系统一思维是快速、自动、直观的思维。系统二是缓慢的、深思熟虑的、分析型的。大多数大型语言模型都渴望系统二。 Jev 是为系统一而构建的。

这意味着它擅长针对明确的问题执行快速、结构化的概率决策。如果您的工作流程涉及通过决策树路由数百万个输入，Jev 旨在大规模处理该问题，而不会消耗您的计算预算。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

模型背后的团队

TypeSafe AI 由 Diogo Almeida、Erik Gafni 和 Sasha Shen 于 2024 年创立。 Almeida 在 OpenAI 工作了大约四年，为实验室的一些最重要的项目做出了贡献：RLHF（根据人类反馈进行强化学习）、InstructGPT、ChatGPT 和 GPT-4。

该初创公司获得了由深科技风险投资公司 DCVC 牵头的 4000 万美元种子资金。

Jev 使用 TypeSafe 称为校准决策强化学习 (RLCD) 的方法专门进行合成数据训练。目标是产生高度确定性和可靠的输出，而不是创造性或令人惊讶的。

开发人员的早期反馈强调了 Jev 置信度得分的可靠性，这是自动化管道的一项关键功能。如果模型告诉您它对分类的置信度为 95%，那么您需要这个数字才能真正有意义。不可靠的置信度是重新利用通用语言模型进行生产自动化的持续令人头痛的问题之一。

Jev 告诉我们人工智能的发展方向

Jev 是闭源的，这已经在开发者社区中引发了关于开放式“Jev 型”适配器是否可能出现来填补类似领域的讨论。

一些早期测试表明，Jev 在原始准确性方面并不总是表现出色，这意味着制作团队需要评估其特定用例的速度、成本和准确性之间的权衡。

发布后的 API 过载表明开发人员已经在进行这样的评估。