Jev 的 Doom 演示

Doom、Wikiracing 和智能家居 fan-out——它们都不传输像素。

官方演示展示了实时 Doom 循环中的 Jev、高基数 Wikiracing 选择器,以及智能家居助手。Doom 使用结构化文本 state,每秒约处理 10 次查询,每小时费用约为 $7,并不处理画面帧。面对 255 个链接,Wikiracing 采用先评分、再选择的两阶段系统。智能家居演示是 TypeSafe 的完整 speculative fan-out 示例。公开录像请观看首页的发布视频;本页则详细说明这三个循环。

从结构化文本运行 Doom

发布文章中的 Doom 演示会输入游戏 state 的文本描述。Jev 看不到帧缓冲区。按公开的输入价格计算,约每秒查询 10 次时,成本约为每小时 $7,输出 token 免费。该速率只是演示数据,并非生产环境必须达到的 QPS。重点在于,决策耗时为 70ms-500ms 的模型可以加入原本需要等待缓慢生成式调用的循环。

利用引擎已有的信息构建 state:生命值、可见实体、目标。提出规划器可直接使用的 Noul 和 Choice 问题——我是否该射击、该走哪扇门、此物品是否有用——并把移动计算留在引擎中。如果你开始要求 Jev 统计弹药,就已经触及数学能力的参差边界。用代码计数,再询问 Jev 当前战术是否仍符合目标。

同一循环也适用于其他模拟环境。Cloudflare 的 typesafe/jev 页面是面向工作进程的目录条目,并非 Doom 托管服务。也没有 Steam 应用。让机器人连接 api.typesafe.ai,并固定使用 jev-latest;如果已调好门控,也可使用 jev-1.13.0。

Jev 1.13 model card: price, rate limits, context, text-only input
同一张 Jev 1.13 模型卡将 Doom 循环的价格标为每百万输入 token $0.042。

Doom

input
结构化文本游戏 state
rate
约 10 次查询/秒
cost
约 $7/小时
pixels
false

Wikiracing

input
Wikipedia 页面链接
cardinality
数百至数千;>255 时采用两阶段评分

智能家居助手

pattern
speculative fan-out
官方演示
true

高基数场景下的 Wikiracing

Wikiracing 会选择下一个 Wikipedia 链接,逐步前往目标页面。候选链接数从数百到数千不等。单个 Choice 最多只能接受 255 个选项,因此演示会先评分,再从候选短名单中选择。只要目录规模超过 Choice 上限,这种两阶段模式就是切实可行的解决方案。

第一阶段:用 Score 或 Noul 逐个评估候选项,也可分批评分,问题是“此链接对抵达目标有多大帮助”。第二阶段:对排名前 K 的名称执行 Choice。K 值、排序和访问操作均由你的代码负责,Jev 无需以生成文本形式输出 URL。页面若有 40 条链接,一个 Choice 就够;若有 800 条,也不要擅自调高 maxOptions——上限就是 255。

在 state 中仅放入当前页面文本,不要塞入所有链接文章的完整内容。充斥无关细节的大型 state 是官方列出的失败模式。请发送当前页面摘要和候选标题;若竞速依赖日期或计数,请用代码提取。

智能家居 fan-out 以及 Jev 的运行位置

官方智能家居助手演示会用一长串问题评估每条用户请求,其中许多问题对大多数话语都无关。“关闭屋里的所有灯”仍会在一次调用中询问类别、领域、设备和操作。操作问题属于推测式提问:它在尚未确定设备前就假定对象是灯。代码会保留匹配的答案并忽略其余结果。若改用串行 API 调用,就要等设备确定后再询问操作,从而失去延迟优势。

TypeSafe 在演示文档中嵌入了 Loom 操作讲解。请前往 docs.typesafe.ai/demos/smart-home 观看原始录像,不要在此查看副本。还应搭配置信度门控路由,避免低置信度的设备 Choice 误触真实开关。高风险操作应在家庭控制器中确认,而不是在 Jev 的载荷中确认。

Jev 以 API 形式运行,可通过 TypeSafe 控制台、HTTP 和官方 SDK 使用。TypeSafe AI 的 YouTube 频道尚无上传内容,因此没有可嵌入展示的官方 YouTube 视频。Instagram 账号为 typesafeai;Discord 邀请码为 WUujKYBp8s;GitHub 组织为 typesafe-ai。抢先体验法律条款注明,客户数据不会用于训练。若需要公开的竞速数据,TypeSafe 首页给出的结果是:在四项工作流评测中,相较 Astra 与 Fable 的平均值,速度快 193.6x、成本低 444.6x。

演示旁的工作流评测

evals.typesafe.ai 展示了 TypeSafe 用于公开对比的工作流类别:安全事件、智能体轨迹可观测性、发票处理和客户服务。首页的 193.6x / 444.6x 是这些类别相较 Astra 与 Fable 的平均结果,并非针对你的流量实时更新的计量值。

通过评测查看器,可以了解 System One 路径如何与聊天及推理模型并列完成同一任务。Jev 仍然只返回类型化答案。评测框架属于 TypeSafe,并非本站重新运行的第三方基准。

制作自己的演示时,请参考三种官方循环:约以 10 Hz 运行的紧凑文本 state(Doom)、超过 255 个 Choice 上限的基数问题(Wikiracing),以及推测式问题映射(智能家居)。这些才是 TypeSafe 实际发布的用法,而且都拒绝以像素作为输入。

只有明确知道要复现的是三种循环中的哪一种,才应重制演示:每秒查询数次的文本 state、规模超过 255 的目录,或推测式问题映射。若演示需要视频帧,那展示的就还不是 Jev 1.13。

Doom 的成本按公开输入价格计算,输出免费。每秒查询 10 次只是演示速率,并非配额。除非销售团队已提高上限,否则请保持在每分钟 1,200 次请求、每秒 250,000 个 token 以内。每小时 $7 是 TypeSafe 给出的示例,并非本 wiki 开出的账单。

有关 Doom 和 Wikiracing,请前往发布文章;有关 fan-out 的分步演示,请参阅智能家居文档。本页是实用指南,而那些页面提供官方实录。

首页视频就是公开录像。该录像重点展示了 Doom、Wikiracing 和智能家居这三种循环。

来源