Jev:基于RLCD算法,专为程序自动化场景打造的快速决策模型

AI新闻 97ai
99

一、Jev是什么

Jev是TypeSafe AI发布的首款System One Model(系统一模型),灵感来源于《思考,快与慢》中系统一的快速直觉决策理念。

它区别于传统大语言模型,不生成自然语言文本,核心能力是接收程序结构化状态输入,输出带可信概率置信度的类型安全结构化数据,专门用来解决AI嵌入软件开发时,大模型延迟高、成本贵、输出文本需要解析、容易发生类型错误与幻觉的痛点。

Jev采用RLCD校准决策强化学习算法训练,目标不是模仿人类对话,而是输出置信度与真实准确率匹配的决策结果,当前处于早期开发者访问阶段。

二、功能特色

  1. 类型安全输出:输出严格遵循预定义Schema,数学层面保证不会出现类型错误,消除结构化调用场景下的解析异常。

  2. 并行一次性生成:抛弃传统LLM逐Token串行自回归生成方式,一次请求并行输出全部决策结果,大幅降低响应延迟。

  3. 校准概率置信度:输出附带真实可信概率,模型不会盲目自信,置信度数值和实际预测准确率保持匹配。

  4. 独特计费模式:仅对输入Token计费,输出内容不计费,显著降低高频自动化场景的调用成本。

  5. 面向程序状态输入:优先接收结构化业务/系统状态,而非人类对话消息,适配代码、工作流、机器人状态等机器侧信息。

Jev(图1)

三、技术细节

  1. RLCD(Reinforcement Learning for Calibrated Decisions,校准决策强化学习)
    传统LLM训练依靠RLHF人类偏好、RLVR可验证奖励;RLCD的优化目标是让模型输出的概率置信度贴合真实事件发生概率,重点提升决策可信度,而非文本流畅度。

  2. 并行采样架构
    无逐Token解码流程,收到结构化输入后并行完成全部候选选项打分,一次性返回完整结构化结果,响应区间70–500ms。

  3. Schema约束机制
    开发者预先定义输出数据结构,模型只能输出符合该类型定义的数据,杜绝非法字段、格式错乱这类工程上的幻觉问题。

  4. 两阶段打分机制
    当可选候选数量上限较高(最高支持255个候选选项)时,启用两阶段打分,先粗筛候选集合,再精细评估,平衡推理速度与决策精度。

四、应用场景

  • 软件自动化工作流:业务规则智能分支判断、批量数据分类筛选,高频低延迟业务决策。

  • AI机器人实时控制:例如Doom游戏AI Bot,基于游戏状态高频做实时动作决策,支持每秒多次AI调用。

  • 路径搜索与候选择优:Wikiracing维基链接寻路,在大量候选链接中做最优路径选择。

  • 系统校验与防护:作为后端校验组件,做风险判断、客户流失概率分级等确定性业务评估。

    不适用场景:聊天对话、文案写作、长文本生成、多模态图文创作这类需要自然文本输出的任务。

五、使用方法

  1. 申请TypeSafe AI早期访问权限,获取开发者接口密钥。

  2. 定义输出结果的Schema结构,约定返回字段类型、候选选项集合。

  3. 将业务系统、机器人或者工作流的结构化状态数据组装为请求输入。

  4. 调用Jev接口,模型一次性返回带概率置信度的结构化决策数据。

  5. 业务代码直接读取结构化结果,无需文本解析、正则清洗,直接执行后续逻辑。

六、竞品对比

选取GPT-4o、Claude 3.5 Sonnet作为传统大模型竞品对比:

对比维度 Jev(System One Model) GPT-4o Claude 3.5 Sonnet
核心输出 结构化类型数据,附带概率,不输出自然文本 自由文本字符串,附带结构化输出能力 自由文本字符串,附带结构化输出能力
生成方式 并行一次性输出 逐Token串行自回归 逐Token串行自回归
延迟 70–500ms 数秒级别 数秒级别
训练目标 校准决策,置信度匹配真实准确率 人类偏好对齐 人类偏好对齐
类型错误风险 理论0类型错误,Schema约束 存在幻觉、字段格式错误风险 存在幻觉、字段格式错误风险
计费规则 仅输入Token收费,输出免费 输入+输出双向计费 输入+输出双向计费
最佳场景 后端自动化、实时决策、高频调用 人机对话、文本生成、复杂Agent 长文本处理、Agent工作流

七、常见问题解答

Q:Jev可以用来写文章、做聊天机器人吗?

A:不可以。Jev不会生成自然语言文本,它的定位是结构化决策引擎,适合嵌入程序内部做判断,不是面向人类交互的对话模型。

Q:Jev宣称的百倍提速、数百倍降本是所有场景都能达到吗?

A:不能。该数据来自官方内部评测集的最优结果,真实业务场景的收益会低于宣传上限,实际效果取决于候选数量、业务复杂度。

Q:Jev消除了所有幻觉吗?

A:Jev能够保证输出数据符合预定义Schema,不会出现格式、类型幻觉;但是事实层面的决策判断依然会出错,只是它会给出匹配真实准确率的置信概率,方便业务做容错。

Q:System One Model是什么含义?

A:命名取自卡尼曼《思考,快与慢》,System One代表快速、直觉式的即时决策,和传统大模型慢速思考、生成文本的模式做区分。

Q:Jev的两阶段打分什么时候会触发?

A:当候选选项数量较多,最高支持255个候选时,模型会开启两阶段打分,先粗筛候选,再精细打分,会小幅增加延迟。

八、相关链接

九、总结

Jev作为首款System One模型,跳出了传统大模型生成文本的路线,通过RLCD算法与并行推理架构,为软件自动化场景提供类型安全、低延迟、带可信概率的结构化决策能力,把AI从文本生成器转变为可直接嵌入后端程序的决策组件,在高频机器调用场景下解决传统LLM解析成本高、类型不稳定、响应慢的工程痛点,同时也明确限定适用边界,不适合需要自然语言输出的任务。

打赏
THE END
作者头像
97ai
我不是在训练模型,而是在与未来的自己对话。