← 返回博客

Jev为啥刷屏:前OpenAI研究员把Agent的判断题做成了生意

技术深度

火成这样,我是真没想到

一个不能聊天、不能写代码的模型,几天刷屏X、GitHub和Agent圈。相关推文据说 3700万人 围观。有人拿它 40秒扫724条广告,有人塞进Claude Code清上下文,有人拿它给Agent改卷,还有人拿它决定浏览器下一步点哪

连OpenAI那位”重置之神”Tibo都下场转了。LangChain 9月20日直接发了篇Jev-as-a-Judge实验

这篇说三件事:Jev到底是个啥?火,真的是因为强吗?咱能抄啥作业

先给结论,不绕弯

Jev火,不是因为更聪明,是因为把Agent里最烦的那堆判断题,做成了一个敢写进代码的便宜货

先说人:前OpenAI研究员,憋了两年

TypeSafe创始人Diogo Almeida,之前在Google Brain和OpenAI,InstructGPT和GPT-4报告都有他。原话挺扎心:在OpenAI做了让人跟机器聊天的方法,结果发现聊天离自动化还差一大截

然后 stealth 两年,9月15日扔出Jev,还融资了 4000万美元,DCVC领投

名字有意思。System One取自卡尼曼《思考,快与慢》,快思考。Jev取自经济学家Jevons,杰文斯悖论那个Jevons:蒸汽机越省煤,煤用得越多。TypeSafe赌的是智能越便宜,用量越大

这饼画得大不大

大。但这次人家带了收据来,虽然收据也有水分,后面细说

这玩意儿到底啥:判断题机器,不写作文那种

一句话:非结构化 state 进,带概率的类型化判断出

三个原语,贼简单:

choice 选一个,返回选项加概率加置信度。比如这条搜索算啥:搜对了、瞎搜了、根本没搜

score 打个分,有序量表。比如回答有用没用,1到5

noul 是或否,直接给 P(true),0到1。比如最终答案有没有依据

客服邮件那个例子,机器之心写得很形象,我借用一下:

state = "客户邮件全文 + 订单JSON"
questions = {
    "is_lead": {"type": "noul", "instructions": "这是销售线索吗"},
    "emotion": {"type": "score", "instructions": "情绪激烈程度"},
    "team": {"type": "choice", "instructions": "分给谁",
              "criteria": {"billing": "账单", "technical": "技术", "sales": "销售"}},
}
# 返回全是数字:0.91 / 0.12 / technical 0.83
# 程序直接 if,不用 parse JSON 祈祷格式

懂了。就这

LLM是先写作文再从作文里抠答案,Jev是一次前向全答完,并行出概率。官方号称同等智能下快 40到200倍,workflow那套甚至喊到 193.6倍快、444.6倍便宜

这数字看看就行,别当真。官方自己都承认那是上限,第三方实测一般是快2到3倍。但方向没骗人:输入 0.042美元/百万token,输出免费,就这条,Agent高频场景谁不心动

番外:我第一眼看错的地方

说实话,我一开始以为这就是个BERT套壳分类器

看到RLCD才坐直了。RLHF优化人类喜欢,RLVR优化可验证奖励,RLCD优化的是校准过的诚实概率。只有上报真实概率时期望奖励最高,模型想拿高分就得诚实

这设计我是真服气的。嘴上说0.95没用,得统计上真准,才敢写进if

为啥刷屏:四个真实用例,一个比一个野

光讲论文没人转,刷屏靠的是这四个活

40秒,724条广告

实时广告流,一条条过LLM?账单直接爆炸。Jev这种一次批量打分的,40秒全扫完。这就是官方说的map-reduce over big data,土话就是:量大、便宜、快,适合洗数据

Claude Code清上下文,fast-jev-compaction

这个我最喜欢。以前 /compact 是让模型写摘要,慢还贵。现在改成给每次工具调用逐项打分:还有用吗?没用删掉

演示里压缩几乎瞬时完成。群友原话:原来清一次上下文够泡杯咖啡,现在咖啡还没接呢,完了

给Agent当验收,LangChain那篇

9月20日,Daniel Shea和Sean Roche,5个天气任务,Deep Agents跑,LangSmith存成固定数据集,四个裁判各跑100遍

结果很顶。pass判断500次,Jev全对人类标注,Terra 99.8%,Luna 96.4%,Claude Sonnet 4.6只有 80%。方差更离谱,Jev 0.0000149,比LLM低 92到913倍。单次 0.44秒、0.00035美元,总账 0.34对28.17美元

但丑话人家也写了:样本窄,5个天气任务能说明啥?只能说这题Jev舒服,不代表通用改卷无敌。低成本会放大误判,一错就是批量错。这盆水泼得好,我记下了

浏览器Agent,7秒订机票

就是本站之前拆过的jev-ultrafast。DOM状态替换截图,Jev一次选操作加目标,Google Flights全程 7.073秒。瓶颈在工程不在智能那篇,讲的就是它

你看出来没

四个场景全是判断题。路由、打分、验收、选哪个按钮。没一个让它写作文

Agent缺的从来不是更会写的模型,是敢进代码的判断

争议也得摆出来,三条,条条见血

火就有对线,我捡了三条最疼的

第一条,账单游戏。193.6倍444.6倍咋来的?参考答案是GPT-6 Astra和Fable 5.1取平均,Jev拿这个当老师比。官方自己承认这是上限,第三方一般也就2到3倍。跑分看看就行

第二条,黑盒。架构、参数、训练数据全没公开。社区猜是BERT-like编码器,但也只是猜。Simon Willison那句挺狠:留给开发者的可能就是一个数字,错了都不知道为啥错

第三条,英文优先。官方承认主要训的是英文,中文CJK能跑,准不准自己测。64k上下文听着大,state加最长单问题得塞进32k。255个选项听着多,中文长尾意图真压上去啥样,没人给数

还有个小刺:negation两个noul分开问,概率能加到1.19。这校准,emmm,只能说还在早期

那咱能抄啥:三件套,今晚就能动手

终于到干货了,别看热闹

压缩改打分

别再让LLM写摘要清上下文了。学fast-jev-compaction,给旧tool call逐项打分,没用的删。省钱省时间,效果据说还更稳。OpenCode用户直接等官方伙伴接入就行,已经全量接V4.1-Flash了,那边便宜,这边敢删,爽

验收当改卷

Agent跑完别只看log,加个Jev验收:搜对没、答对没、有依据没。低置信直接转人工。记住LangChain那句:低方差不等于全对,得先跟人类标注对齐。先小流量跑一周,对上90%再放量

线上全量跑

以前评估贵,只能抽查。现在3毛钱跑500次,打工人都直呼便宜。每天1万条trace,全量跑一遍,质量掉了立刻报警。这才是评估的正确姿势:不是考一次,是天天考

三问自查还是老规矩:一个人能跑吗?多少钱?半夜会炸吗

Jev那0.44秒看着爽,但远在美国西海岸,亚洲过去还得加网络延迟。数据还得发到人家云上,金融医疗政府的活,先问合规再说。别为了省3毛钱,把单子搞黄了

最后一句大实话

Jev这波,技术上没发明新大陆,赢在把一件事做绝了:让判断便宜到可以随便用,稳到可以写进代码

卡尼曼那套快慢思考,LLM是慢思考,Jev想当快直觉。直觉会错,但便宜、快、敢认怂(给概率),这就够了。Agent里80%的活,本来就是判断题,不是作文题

Laya那边开源421M三天6千星,CUA-S1 706k参数本地跑,为啥?大家都看懂了:以后是通用大模型想,专才小模型判,代码最后拍板

你最近拿Jev判过啥?准吗?翻车没?评论区聊聊,我蹲着看

如果这篇对你有用,欢迎订阅本站 RSS。

原创技术博客 · 开源项目分享 · AI全栈创作社区 idao.fun