前 OpenAI 研究员创办的 TypeSafe AI 发布 Jev:不聊天、只做「可靠决策函数」的 System One 模型
配图:AI 生成的要点可视化;图中人物肖像为 AI 绘制,并非本人照片。
TL;DR:TypeSafe AI 当地时间 9 月 15 日发布新的模型类别 System One Models,并推出首个模型 Jev,以早期访问形式开放。公司由前 OpenAI 研究员 Diogo Almeida 创立,他是 2022 年 InstructGPT 论文的合著者之一,参与过早期 RLHF 相关工作。与 ChatGPT、Claude 这类生成式模型不同,Jev 不生成自然语言,而是直接根据输入返回类型安全的结构化决策、概率分布和置信度。公司宣称其速度比现有 LLM 快 20 到 200 倍、成本低 40 到 400 倍,输出 token 免费——这些数字目前主要来自公司自己的基准测试,尚待独立验证。
TypeSafe 把 Jev 定位为可直接嵌入软件系统的「智能判断模块」:把状态和带类型的问题发给它,它返回代码能直接消费的结构化答案,而不是一段需要再解析的文本。典型场景是客服意图路由、文档与内容分类、风险与安全检测,以及自动化流程里的规则判断。公司给的说法是,模型的置信度应当匹配它的正确率——如果它把 100 条客户消息标为「90% 可能表达愤怒」,那么其中大约 90 条应当确实如此;软件据此设定阈值,置信度高时自动执行,不够高时转人工。
为训练这类模型,TypeSafe 提出了一套新的训练方法 RLCD(Reinforcement Learning for Calibrated Decisions),目标是让模型输出的概率更准确地反映自身的不确定性;公司称配套的还有新的模型架构和并行采样器。Jev 放弃了字符串生成,公司据此宣称它「不会幻觉」——严格说这是对输出形式的约束:一个只能在给定选项里给概率的模型,确实不会编造不存在的东西,但判断本身仍可能错,这也是它附带置信度的原因。
价格与延迟方面,官方给出的数字是每百万输入 token 0.042 美元、输出免费,单次调用延迟约 150 毫秒,多个决策可以并行运行。Almeida 在发布帖里说,自己两年前离开聊天模型方向转入隐身创业,出发点是「模型早就在聊天上超过人类了,自动化在哪里」——他认为大量 AI 自动化任务并不需要一个会说话的通用模型,而更需要能像函数一样被程序可靠调用的 AI。