Jev 与 LLM 对比：什么时候该用判断模型
“这一步该调聊天模型，还是该调 Jev？“已经成了一个真实的架构问题。TypeSafe AI 在 2026 年 9 月发布了 Jev——专注判断题、选择题、打分题的 System One 判断模型之后，跑 LLM 管线的团队在”有界决策”环节多了一个更便宜、更确定的选择。这篇 Jev 与 LLM 对比，帮你想清楚管线的每一步分别该给谁。
TL;DR： 输出是散文就用 LLM，输出是决策就用 Jev。Jev 覆盖判断题（yes/no/unclear）、选择题（N 选一）、打分题（量表分数），直接返回带 confidence 的结构化答案。聊天模型赢在生成、对话和开放式推理；Jev 赢在单次决策成本、输出稳定性和解析难度。多数生产系统最后是两个都用。
能力边界对比
| 维度 | 通用 LLM（聊天） | Jev（判断模型） |
|---|---|---|
| 核心强项 | 生成文本、开放式推理 | 有界决策：判断、选择、打分 |
| 输出形态 | 自由文本，需要自己解析 | 结构化 JSON：answer + confidence + rationale（示例数据，example fixture） |
| 对下游代码的确定性 | 低——每次措辞都可能变 | 高——答案空间由题型固定 |
| 成本结构 | 输入 + 生成输出都按 token 付费 | 按 token 计价但输出极短；实时价格见 OpenRouter |
| 多轮对话 | 支持 | 不支持——不是聊天产品 |
| 长文写作 | 支持 | 不支持 |
| confidence 信号 | 要靠 prompt 诱导，且格式不可靠 | 响应结构自带 |
| 需要处理的失败模式 | 跑题、格式漂移、拒答 | 低置信度、unclear 答案 |
实战里最关键的是”输出形态”和”成本结构”两行。用聊天模型问”这条评论是不是垃圾信息”，你要付生成 token 的钱，还要跟正则或 JSON 模式斗智斗勇；用 Jev，答案是带 confidence 的有界字段——这是可以直接写代码对接的示例数据形态。
成本的直觉（不是账单）
聊天模型回答”这条评论是不是垃圾信息”，会生成一句话甚至一段话，来传递一个比特的信息，你为此按生成 token 付费再乘以调用量。判断模型则被设计成”载荷就是决策本身”：答案是一个很短的结构化对象，交互中最贵的部分（生成）被大幅压缩。
写作本文时，第三方列表数据显示 Jev 在 OpenRouter 上约 $0.0462 / 1M input tokens——这是指示性数字，请以 OpenRouter 模型页的实时价格为准。但结构性结论不随价格波动：任务是一次决策时，为散文付费就是浪费。
聊天模型仍然赢的场景
也要诚实列出另一边：
- 一切生成类任务。 起草回复、写代码、摘要、改写语气——Jev 不做这些。
- 开放式推理。 如果答案空间枚举不出来、量表定义不出来，就没有可用题型。
- 面向用户的丰富对话。 Jev 没有聊天人格，答完即止。
- 探索性工作。 你还不知道正确的问题是什么时，对话模型帮你把它找出来。
选型决策清单
把管线里的每个环节过一遍这些问题：
- 我能说清答案空间吗？（yes/no/unclear、一组选项、或一个数字量表。）
- 产出是给代码用的，还是给人读的散文？
- confidence 分数会不会改变系统下一步的行为（比如低置信度转人工）？
- 这个环节是高频重复的，还是创造性的？
四个”是”：用 Jev。前两问有任何”否”：用聊天模型。混合情况：串起来——LLM 负责产出内容，Jev 负责给内容做判断。典型例子是 RAG chunk 重排：检索管线不变，每个 chunk 拿到的是相关性判断而不是生成的解释，RAG chunk 批量重排那个 case 完整走了一遍这个模式。
混用才是默认答案
最常见的生产形态不是”用 Jev 替代 LLM”，而是”LLM 管生成，Jev 管决策点”。客服流程用聊天模型起草回复，再用 Jev 打分确认草稿真的回答了工单；审核管线在每道闸口用 Jev，置信度下降就升级人工。如果你具体是在评测场景里权衡 Jev 和 LLM-as-a-judge，那值得单独展开，见《Jev 与 LLM-as-a-Judge 对比》；要算钱，看《Jev 成本与延迟》把两边的数字都摆出来。
本文适用版本 Jev 1.13。