Jev Doom demosu
Doom, Wikiracing ve akıllı ev fan-out — hiçbiri piksel göndermez.
Resmî demolar; gerçek zamanlı bir Doom döngüsünde Jev, çok sayıda olası değere sahip bir Wikiracing seçicisi ve bir akıllı ev asistanı gösterir. Doom, kareler yerine yapılandırılmış metin durumunu saniyede yaklaşık 10 sorgu ve saatte yaklaşık $7 maliyetle kullanır. 255 bağlantı üzerinde çalışan Wikiracing, önce puanlama sonra seçim yapan iki aşamalı bir sistem kullanır. Akıllı ev demosu, TypeSafe'in ayrıntılı speculative fan-out örneğidir. Herkese açık kayıt için ana sayfadaki lansman videosunu izleyin; bu sayfa üç döngünün işleyişini açıklar.
Yapılandırılmış metinden Doom
Lansman gönderisindeki Doom demosu, oyun durumunun metin açıklamasını modele aktarır. Jev kare arabelleğini görmez. Saniyede yaklaşık 10 sorguda maliyet, yayımlanan girdi fiyatıyla saatte yaklaşık $7 olur; çıktı tokenleri ücretsizdir. Bu hız, zorunlu bir üretim QPS değeri değil, demo verisidir. Amaç, bir 70ms-500ms karar modelinin daha önce yavaş bir üretici çağrıyı bekleyen döngüye yerleştirilebildiğini göstermektir.
Durumu, oyun motorunuzun zaten bildiği verilerden oluşturun: sağlık, görünür varlıklar, hedefler. Bir planlayıcının kullanabileceği Nouls ve Choices sorun — ateş etmeli miyim, hangi kapı, bu eşya işe yarar mı — ve hareket matematiğini motorda tutun. Jev'dan cephane saymasını istiyorsanız matematikteki Jaggedness sınırına çarpmışsınız demektir. Sayımı kodda yapın; mevcut taktiğin hâlâ hedefe uygun olup olmadığını Jev'e sorun.
Aynı döngü diğer simülasyonlara da uygulanabilir. Cloudflare üzerindeki typesafe/jev kaydı, çalışanlara yönelik bir katalog girdisidir; Doom sunucusu değildir. Bir Steam uygulaması yoktur. Botu, jev-latest sabitlenmiş hâlde veya eşikleri ayarladıysanız jev-1.13.0 ile api.typesafe.ai üzerinde çalıştırın.
Doom
- input
- yapılandırılmış metin oyun durumu
- rate
- yaklaşık 10 sorgu/saniye
- cost
- yaklaşık $7/saat
- pixels
- false
Wikiracing
- input
- Wikipedia sayfa bağlantıları
- cardinality
- yüzlerden binlere; >255 için iki aşamalı puanlama kullanılır
Akıllı ev asistanı
- pattern
- speculative fan-out
- Resmî demo
- true
Yüksek kardinalitede Wikiracing
Wikiracing, hedef sayfaya doğru gidilecek bir sonraki Wikipedia bağlantısını seçer. Seçenek sayısı yüzlerden binlere kadar çıkar. Tek bir Choice yalnızca 255 seçeneği kabul ettiğinden demo önce puanlama yapar, ardından kısa listedekiler arasından seçim yapar. Bir katalog Choice sınırını aştığında uygulanacak pratik çözüm bu iki aşamalı kalıptır.
Birinci aşama: Her adayı "bu bağlantı hedefe ilerlemekte ne kadar yararlı" ölçütüyle Score veya Noul üzerinden değerlendirin ya da gruplar hâlinde puanlayın. İkinci aşama: En iyi K ad üzerinde Choice çalıştırın. K değerini, sıralamayı ve ziyareti kodunuz yönetir. Jev, URL'yi üretilmiş metin olarak çıkarmak zorunda kalmaz. Sayfada 40 bağlantı varsa tek bir Choice yeterlidir. 800 bağlantı varsa maxOptions değerini zihninizde yükseltmeyin; sınır 255'tir.
Bağlantılı tüm makalelerin tam dökümünü değil, sayfa metnini durumda tutun. Alakasız ayrıntılarla dolu büyük durum, belgelenmiş hata biçimlerinden biridir. Geçerli sayfanın özetini ve aday başlıkları gönderin. Yarış tarihlere veya sayılara bağlıysa bunları kodda ayıklayın.
Akıllı ev fan-out ve Jev öğesinin çalıştığı yer
Resmî akıllı ev asistanı demosu, her kullanıcı isteğini çoğu ifade için alakasız olacak çok sayıda soru içeren uzun bir listeye göre değerlendirir. "Evdeki bütün ışıkları kapat" isteğinde bile kategori, alan, cihaz ve eylem tek çağrıda sorulur. Eylem sorusu varsayımsaldır: Işık olduğu henüz bilinmeden bunu varsayar. Kod eşleşen yanıtları tutar, kalanları yok sayar. Sıralı API çağrıları eylemi sormak için cihazın bilinmesini bekler ve gecikme avantajını kaybederdi.
TypeSafe, demo belgesinde bir Loom anlatımı barındırır. Buradaki kopya yerine kaydı docs.typesafe.ai/demos/smart-home adresinde izleyin. Düşük güvenli bir cihaz Choice'inin gerçek bir anahtarı tetiklememesi için bu düzeni güven eşiğine bağlı yönlendirmeyle kullanın. Kritik eylemleri Jev yükünde değil, ev denetleyicinizde onaylayın.
Jev bir API olarak çalışır: TypeSafe konsolu, HTTP ve resmî SDK'lar. YouTube'daki Typesafe AI kanalında henüz yükleme olmadığından gösterilecek resmî bir YouTube fragmanı yoktur. Instagram, typesafeai'dır. Discord davet kodu WUujKYBp8s'dir. GitHub kuruluşu typesafe-ai'dır. Erken erişim yasal koşullarına göre müşteri verileri eğitimde kullanılmaz. Herkese açık bir yarış verisi gerekiyorsa TypeSafe ana sayfası, dört iş akışı değerlendirmesinde Astra ve Fable ortalamalarına kıyasla 193.6x daha hızlı ve 444.6x daha ucuz olduğunu belirtir.
Demoların yanındaki iş akışı değerlendirmeleri
evals.typesafe.ai, TypeSafe'ın herkese açık karşılaştırmalarda kullandığı iş akışı ailelerini gösterir: Güvenlik Olayları, Temsilci İzleme Gözlemlenebilirliği, Fatura İşleme ve Müşteri Hizmetleri. Ana sayfadaki 193.6x / 444.6x değerleri, bu ailelerde Astra ve Fable'a karşı alınan ortalamalardır; trafiğinizin canlı ölçümü değildir.
Bir System One yolunun aynı görevde sohbet ve akıl yürütme modellerinin yanında nasıl yer alabildiğini görmek için değerlendirme görüntüleyicisini kullanın. Jev yine yalnızca türü belirli yanıtlar döndürür. Değerlendirme düzeneği TypeSafe'a aittir; bu sitenin yeniden çalıştırdığı üçüncü taraf bir karşılaştırma değildir.
Kendi demonuzu oluştururken üç resmî döngüyü aklınızda tutun: yaklaşık 10 Hz'de çalışan sıkı bir metin durumu döngüsü (Doom), 255 seçeneklik Choice sınırını aşan bir kardinalite sorunu (Wikiracing) ve spekülatif bir soru haritası (akıllı ev). TypeSafe gerçekten bu yapıları yayımladı ve bunların hiçbiri piksel girdisini kabul etmez.
Bir demoyu ancak üç döngüden hangisine ait olduğunu söyleyebiliyorsanız yeniden oluşturun: saniyede birkaç sorguluk metin durumu, 255'ten büyük bir katalog veya varsayımsal soru haritası. Demonuz karelere ihtiyaç duyuyorsa henüz Jev 1.13 demosu yapmıyorsunuz.
Doom için maliyet hesabı, herkese açık girdi fiyatını ve ücretsiz çıktıyı temel alır. Saniyede on sorgu bir demo hızıdır, kota değildir. Satış ekibi sınırınızı yükseltmediyse 1,200 RPM ve saniyede 250,000 token sınırları içinde kalın. $7/hour değeri TypeSafe'in örneğidir; bu wikinin düzenlediği bir fatura değildir.
Doom ve Wikiracing için lansman gönderisine, fan-out adımlarını görmek içinse akıllı ev belgesine bağlantı verin. Bu sayfa saha rehberidir; kayıtların doğrudan kaynağı diğer sayfalardır.
Ana sayfadaki video herkese açık kayıttır. Bu kayıt, üç döngüyü tanıtmak için hazırlanmıştır: Doom, Wikiracing ve akıllı ev.
Kaynaklar