Jev の Doom デモ

Doom、Wikiracing、スマートホームのfan-outは、いずれもピクセルを送信しません。

公式デモでは、リアルタイムのDoomループで動くJev、選択肢が非常に多いWikiracing選択器、スマートホームアシスタントを紹介しています。Doomが使うのはフレームではなく、構造化テキストのstateで、毎秒約10クエリ、1時間あたり約$7です。255リンク超を扱うWikiracingは、スコアリング後に選択する2段階方式です。スマートホームデモは、TypeSafeによるspeculative fan-outの実例です。公開録画はホームページのローンチ動画で視聴でき、このページでは3つのループを詳しく説明します。

構造化テキストから動くDoom

ローンチ記事のDoomデモは、ゲームのテキスト記述をstateに入力します。Jevはフレームバッファーを見ません。毎秒約10クエリの場合、公開入力価格に基づく費用は1時間あたり約$7で、出力トークンは無料です。この頻度はデモ上の数値であり、本番環境に必須のQPSではありません。要点は、70ms-500msの意思決定モデルなら、従来は遅い生成呼び出しを待っていたループにも組み込めることです。

stateは、体力、視認中のエンティティ、目標など、エンジンがすでに把握している情報から構築します。プランナーが利用できるNoulsとChoicesを問い、撃つべきか、どのドアか、このアイテムは有用かを判断させます。移動計算はエンジン内に残してください。Jevに弾薬を数えさせているなら、計算の不得意領域に達しています。カウントはコードで行い、現在の戦術が目標にまだ適しているかをJevに尋ねてください。

同じループは他のシミュレーションにも適用できます。Cloudflareのtypesafe/jev掲載ページはワーカー向けカタログ項目であり、Doomホストではありません。Steamアプリもありません。jev-latestを固定してapi.typesafe.aiに対してボットを実行するか、判定しきい値を調整済みならjev-1.13.0を使用してください。

Jev 1.13 model card: price, rate limits, context, text-only input
Doomループを入力100万トークンあたり$0.042と算出している、同じJev 1.13カードです。

Doom

input
構造化テキストゲームstate
rate
約10クエリ/秒
cost
約$7/時
pixels
false

Wikiracing

input
Wikipediaページのリンク
cardinality
数百~数千件。>255では2段階採点を使用

スマートホームアシスタント

pattern
speculative fan-out
officialDemo
true

多数の候補を扱うWikiracing

Wikiracingは、目標ページへ近づく次のWikipediaリンクを選びます。候補数は数百から数千リンクに及びます。1つのChoiceが受け付ける選択肢は255件までなので、このデモでは先にスコアを付け、絞り込んだ候補から選択します。カタログがChoiceの上限を超える場合、この2段階方式が実用的な解決策です。

第1段階:各候補をScoreまたはNoulで「このリンクが目標への到達にどれだけ役立つか」と評価するか、まとめてスコア付けします。第2段階:上位K件の名前をChoiceに渡します。K、並べ替え、リンク訪問はコード側で管理します。JevがURLを生成テキストとして出力する必要はありません。ページにリンクが40件ならChoice 1つで十分です。800件ある場合も、頭の中でmaxOptionsを増やさないでください。上限は255です。

リンク先記事を丸ごとすべて渡すのではなく、現在のページ本文をstateに保持する。無関係な詳細で埋まった巨大なstateは、既知の失敗パターンとして挙げられている。現在ページの要約と候補タイトルを送る。競争に日付や件数が必要なら、コード側で抽出する。

スマートホームのfan-outとJevの実行場所

公式スマートホームアシスタントのデモでは、各ユーザー要求を長い質問一覧に照らして評価します。その多くは、ほとんどの発話には無関係です。「家中の照明をすべて消して」という要求でも、カテゴリ、領域、機器、操作を1回の呼び出しで質問します。操作に関する質問は投機的で、照明だと判明する前から照明を前提にしています。コード側で一致する回答だけを残し、残りは無視します。APIを逐次呼び出す方式では、機器が判明してから操作を尋ねるため待ち時間が生じ、低遅延の利点を失います。

TypeSafeは、デモ資料にLoomの解説動画を埋め込んでいる。ここへの複製ではなく、docs.typesafe.ai/demos/smart-homeでその録画を見ること。低confidenceのデバイスChoiceが実際のスイッチを切り替えないよう、この方式をconfidenceゲート付きルーティングと組み合わせる。重大な操作はJevのペイロード内ではなく、ホームコントローラー側で確認する。

JevはAPIとして提供され、TypeSafeコンソール、HTTP、公式SDKで利用できます。YouTubeのTypesafe AIチャンネルにはまだ投稿がないため、公式YouTube予告編があるように見せることはできません。Instagramはtypesafeaiです。Discordの招待コードはWUujKYBp8s、GitHubの組織名はtypesafe-aiです。早期アクセスの法的条件には、顧客データを学習に使用しないと明記されています。公開比較値が必要なら、TypeSafeのホームページには、4件のワークフロー評価でAstraおよびFableの平均と比べて193.6x高速、444.6x低コストと記載されています。

デモと併記されるワークフロー評価

evals.typesafe.aiでは、TypeSafeが公開比較に使用するワークフロー群を確認できる:セキュリティインシデント、エージェントトレース可観測性、請求書処理、カスタマーサービス。ホームページの193.6x / 444.6xという数値は、これらの分野でAstraとFableの平均と比較した値であり、ユーザーのトラフィックを測るリアルタイム指標ではない。

評価ビューアーでは、同じジョブ上でSystem Oneの処理経路をチャットモデルや推論モデルと並べて確認できる。Jevが返すのは、あくまで型付き回答だけだ。評価ハーネスはTypeSafeが用意したもので、このサイトが独自に再実行した第三者ベンチマークではない。

独自デモを作る際は、公式の3つのループを念頭に置いてください。約10 Hzの密なテキストstate(Doom)、255件というChoice上限を超える候補数の問題(Wikiracing)、投機的な質問マップ(スマートホーム)です。これらはTypeSafeが実際に公開した構成で、いずれもピクセルを入力として受け付けません。

デモを再構築するのは、3つのどのループに当たるか明示できる場合だけにする。毎秒数回のテキストstate、255件を超えるカタログ、または推測的な質問マップだ。フレーム入力が必要なら、まだJev 1.13のデモにはなっていない。

Doomの費用計算には、公開入力価格と無料の出力を使います。毎秒10クエリはデモの頻度であり、割り当て上限ではありません。営業担当が上限を引き上げていない限り、毎分1,200リクエスト、毎秒250,000トークン以内に収めてください。$7/時間という数値はTypeSafeによる例示であり、このWikiからの請求額ではありません。

DoomとWikiracingについてはローンチ記事、fan-outの手順解説についてはスマートホーム文書へのリンクを参照してください。このページは実践ガイドであり、リンク先には公式の録画があります。

一般公開されている録画はホームページの動画です。Doom、Wikiracing、スマートホームは、その録画で紹介する3つのループです。

出典