Jev（TypeSafe AI 的 System One Model）

Jev 是前 OpenAI 研究员（ChatGPT/RHFL 核心发明人）Diogo Almeida 创立的 TypeSafe AI 发布的决策型AI模型，不生成自由文本、不写对话、不写代码，专门给程序做快速结构化判断，不是聊天大模型（LLM）。

名字来源：卡尼曼《思考，快与慢》里的系统1（快思考），对应快速、高频、固定选项的自动化决策；而普通大模型是系统2（慢思考，生成文本、深度推理）

✅ 核心原理

训练方法：RLCD 校准决策强化学习 它接收非结构化文本/数据 + 你预先定义好的可选答案，并行计算直接输出结构化结果+置信概率，没有自回归逐token生成文本的过程，所以延迟极低、成本极低。

输出只有3种固定类型：

1. Choice（多选）：从最多255个预设选项里选出一项，附带各选项概率
2. Score（打分）：在指定区间输出评分，附带置信度（如0~1风险分）
3. Noul（布尔概率）：是/否类判断，返回概率值（比如92%概率违规）

✅ 有什么优势

1. 速度极快：端到端延迟 70–500ms，同类任务比大模型快 20~200倍
2. 成本极低：输入 $0.042 / 百万token，输出免费；成本是大模型的 1/40 ~ 1/400
3. 输出结构化：返回结果可以直接被代码读取，不用写正则/JSON解析、不用处理大模型输出乱码、幻觉文本
4. 概率校准：置信度和真实正确率匹配，置信低时可以自动转人工审核

⚠️ 局限

• 不能写文章、对话、生成代码，不能做开放式创作
• 上下文窗口比主流大模型小很多
• 只能在你给定的候选集合内做判断，不能凭空创造新答案
• 只能做分类、打分、路由这类固定选项任务，不是用来替代LLM，而是和LLM搭配使用

✅ Jev 可以做什么（场景）

简单一句话：把业务里高频、简单的分支判断交给Jev，复杂推理交给大模型

1. 请求/工单分流（路由）

客服工单自动分类：售后/投诉/咨询，自动分配到对应部门；安全告警判断：直接关闭、升级人工、隔离；发票审核：通过/挂起/退回

2. 风险评分

反欺诈、用户流失预测、内容风险打分；对输入内容打0~1风险分，超过阈值触发人工复核

3. LLM输出校验（护栏/Guardrail）

检查大模型返回结果是否违规、是否符合业务规则；判断Agent工具调用是否危险，拦截高风险动作，作为AI Agent工作流里的决策控制器

4. 批量数据标注、内容审核

海量文本做二分类/多分类，低成本批量打标签；判断消息是否属于垃圾信息

5. Agent流程内快速决策

AI智能体循环里：判断下一步调用哪个工具、是否继续执行还是交给人工；游戏内AI快速动作选择等

✅ 典型架构搭配

用户输入 → Jev快速判断：简单任务自己处理，复杂任务路由到大模型LLM → LLM生成内容 → Jev校验输出是否合规 Jev负责判断、分支、校验；LLM负责写作、推理、生成

✅ 接入方式

目前是 Early Access，提供 HTTP API、Python / JS SDK，可接入LangChain等Agent框架

如果你需要，我可以给一段极简 Python 伪代码，演示 Jev 的调用逻辑，对比普通LLM实现分类的写法差异。

本作品采用《CC 协议》，转载必须注明作者和本文链接