Jev 1.13 kartı

Fiyat, bağlam ve hız sınırları

Girdi ücreti milyar token başına $42, yani milyon başına $0.042'dir. Çıktı tokenları ücretsizdir. Belgelenen saniyede 250,000 token veya dakikada 1,200 istek sınırını aşan bir istek 429 Too Many Requests döndürür. Resmî SDK'lar giderek artan bekleme süreleriyle yeniden dener ve varsa retry-after değerine uyar. TypeSafe, talep yüksekken ve GPU anlaşmaları devreye girerken sınırların dinamik biçimde ayarlandığını ve bildirim yapılmadan değişebileceğini belirtir. Özel ve kurumsal planlarda üst sınır sales@typesafe.ai üzerinden artırılabilir.

Her isteğin bağlam sınırı 64k tokendir. Durum ile en uzun soru için ayrıca 32k token bütçesi uygulanır. Jev, durumu bir kez alıp tüm soruları buna göre paralel olarak değerlendirir; dolayısıyla 64k bağlam penceresi, durum ile bütün soruların toplamını kapsar. Durum ilgisiz ayrıntılarla büyüdükçe doğruluk düşer; bu hata modu jaggedness sayfasında listelenmiştir. Tüm veri ambarını tek bir alana doldurmak yerine çok sayıda küçük soruyu speculative fan-out ile paketleyin.

Yalnızca metin girdisi desteklenir: bir dize, JSON nesnesi veya metin değerleri dizisi. Görüntü, ses ya da video girdisi desteklenmez. Çağrıdan önce metin dışı verileri alanlara dönüştürün. Birincil eğitim dili İngilizcedir. CJK dâhil diğer diller daha düşük doğrulukla işlenir; bu nedenle İngilizce olmayan bir kuyruğu otomatikleştirmeden önce güveni ölçün.

Takma adlar ve modelleri listeleme

Takma ad, sürümlü bir kimliğe çözümlenen model adıdır. Diğer adlar gibi model alanında gönderin. jev-latest en güncel kararlı resmî sürümü ifade eder. jev-preview, resmî olsun veya olmasın en güncel sürümü ifade eder ve bir önizleme derlemesi bulunduğunda jev-latest adının önüne geçer. Şu anda iki ad da jev-1.13.0 kimliğini gösterir.

Yeni bir sürüm yayımlandığında takma adın hedefi değişir; bu nedenle arkasındaki yanıtlar sizde kod değişikliği olmadan farklılaşabilir. Yanıtın model alanı, yanıt veren sürümlü kimliği bildirir. Bu kimliği günlüğe kaydedin. Güven eşikleri jev-1.13.0 üzerinde ayarlandıysa yeniden ayarlayana kadar jev-1.13.0 göndermeyi sürdürün.

GET /v1/models, hesabınızın gönderebileceği adları açıklamaları ve yayımlanma tarihleriyle döndürür. Şu anda takma adları listeler. jev-1.13.0 gibi sürümlü kimlikler bu listede görünmese bile model alanında kabul edilir.

Veri işleme ve özelleştirme

Jev, müşteri verileriyle ince ayar görmemiş veya LoRA ile uyarlanmamıştır. Müşteri istekleri ya da yanıtlarıyla eğitilmez. Tüm hesaplara aynı RLCD ağırlıkları hizmet verir. Uzmanlaştırmayı durum içeriği, talimatlar, ölçütler ve koddaki bileşim aracılığıyla yaparsınız. TypeSafe yasal dizini; DPA'yı, gizlilik politikasını ve kurumsal müşteriler için sıfır veri saklamayı kapsar.

Uçtan uca yanıt süresi 70ms-500ms olarak belirtilir ve sorguların çoğu yaklaşık 100ms sürer. Bu aralık, bu wikinin kendi ölçümlerine dayalı bir gecikme SLO'su değil, lansman materyallerinde yayımlanmış bir iddiadır. Hız sınırı notuyla birlikte değerlendirin: TypeSafe erken erişimi ölçeklendirirken iş hacmi ve RPM değişebilir.

Üretimde hangi ad gönderilmeli

Geçen hafta ayarladığınız eşiklerin gelecek hafta da aynı anlamı taşıması gerekiyorsa jev-1.13.0 gönderin. TypeSafe'ın güncel resmî sürümünü istiyor ve her takma ad değişikliğinden sonra güven histogramlarını yeniden inceleyecekseniz jev-latest gönderin. Yalnızca resmî olmayan bir derlemeye hazırsanız jev-preview gönderin; bugün jev-latest ile aynı hedefi gösterir.

Her çağrıda response.model değerini günlüğe kaydedin. Takma ad göndermiş olsanız bile bu alan gerçekten yanıt veren sürümlü kimliği içerir. 429 hatasını veya şaşırtıcı bir Noul sonucunu incelerken bunu requestId ile birleştirin. Uç nokta kabul etse bile GET /v1/models her zaman jev-1.13.0 kimliğini listelemez.

Yalnızca girdiyi fiyatlandırın. Çıktı tokenleri ücretsizdir; bu nedenle fan-out, tamamlanan çıktı için ücret alan bir sohbet modeline kıyasla ucuzdur. Saniyede 10 sorguluk Doom tarzı bir döngünün $0.042/MTok maliyeti, bu ekonominin lansmanda kullanılan örneğidir. Yine de 1,200 RPM ve saniyede 250,000 token sınırlarına uyun; erken erişim döneminde bu değerlerin haber verilmeden değişebileceğini hesaba katın.

Satış ekibi özel bir sınır teklif ettiğinde bu sayı, TypeSafe tarafından docs.typesafe.ai/models adresinde yayımlanana kadar bu kartta yer almaz. O zamana kadar kamuya açık değerler saniyede 250,000 token ve dakikada 1,200 istektir; bunların bildirim yapılmadan değişebileceği açıkça belirtilir. Kurumsal sıfır veri saklama, model kartı ayarı değil yasal dizin konusudur.

Bu kartta en güçlü dil İngilizce olmaya devam eder. CJK destek kayıtlarını işliyorsanız güven eşiklerini daha sıkı tutun ve insanları süreçten çıkarmadan önce kendi kuyruğunuzdan örnekler alın. Model karakterleri kabul eder; doğruluk notu ölçüm yapmanızın nedenidir, gizli bir 403 değildir.

Takma ad hedefinin değişmesi bir sürüm olayıdır. TypeSafe yeni bir sürümlü kimlik yayımladığında modeller sayfasını yeniden okuyun, ardından eşiklerinizin hâlâ geçerli olup olmadığına karar verin. Bu sayfadaki kart Jev 1.13 içindir; 1.14 hakkında bir taahhüt değildir.

Bu kartta çıktı tokenları ücretsiz kalır. Bu yüzden fazladan soruları aynı isteğe paketlemek genellikle ikinci bir üretken çağrıdan daha ucuzdur.