Kartu Jev 1.13

Harga, konteks, dan batas laju

Biaya input adalah $42 per satu miliar token, atau $0.042 per satu juta. Token output gratis. Permintaan yang melampaui batas terdokumentasi sebesar 250,000 token per detik atau 1,200 permintaan per menit akan menghasilkan 429 Too Many Requests. SDK resmi mencoba kembali dengan jeda bertahap dan mematuhi retry-after jika tersedia. TypeSafe memperingatkan bahwa batas disesuaikan secara dinamis selama permintaan tinggi dan kesepakatan GPU masih berjalan, serta dapat berubah tanpa pemberitahuan. Paket kustom dan perusahaan dapat menaikkan batas melalui sales@typesafe.ai.

Konteks dibatasi hingga 64k token per permintaan. Batas kedua sebesar 32k token berlaku untuk state ditambah pertanyaan terpanjang. Jev menyerap state sekali lalu mengevaluasi setiap pertanyaan terhadapnya secara paralel, sehingga jendela 64k mencakup gabungan state dan semua pertanyaan. Jika state membesar karena detail yang tidak berkaitan, akurasi menurun — mode kegagalan tersebut tercantum di halaman jaggedness. Kemas banyak pertanyaan kecil dengan speculative fan-out daripada memasukkan seluruh gudang data ke satu field.

Input hanya berupa teks: string, objek JSON, atau larik nilai teks. Input gambar, audio, dan video tidak didukung. Praproses materi nonteks menjadi beberapa kolom sebelum memanggil model. Bahasa Inggris adalah bahasa pelatihan utama. Bahasa lain, termasuk CJK, ditangani dengan akurasi lebih rendah, jadi ukur keyakinan sebelum mengotomatiskan antrean non-Inggris.

Alias dan daftar model

Alias adalah nama model yang mengarah ke ID berversi. Kirim alias dalam kolom model seperti nama lainnya. jev-latest berarti rilis resmi stabil terbaru. jev-preview berarti rilis terbaru, baik resmi maupun tidak, dan akan mendahului jev-latest jika tersedia build pratinjau. Saat ini kedua nama mengarah ke jev-1.13.0.

Alias berpindah ketika rilis baru diluncurkan, sehingga jawaban di baliknya dapat berubah tanpa perubahan kode di pihak Anda. Kolom model dalam respons melaporkan ID berversi yang menjawab. Catat ID tersebut. Jika ambang keyakinan disetel pada jev-1.13.0, terus kirim jev-1.13.0 hingga Anda menyetelnya ulang.

GET /v1/models mengembalikan nama yang dapat dikirim oleh akun Anda, beserta deskripsi dan tanggal rilis. Saat ini daftar tersebut mencantumkan alias. ID berversi seperti jev-1.13.0 diterima dalam kolom model meskipun tidak muncul dalam daftar itu.

Penanganan dan penyesuaian data

Jev tidak disetel khusus atau diadaptasi dengan LoRA menggunakan data pelanggan. Model ini tidak dilatih dari permintaan atau respons pelanggan. Bobot RLCD yang sama melayani setiap akun. Anda melakukan spesialisasi melalui isi keadaan, instruksi, kriteria, dan komposisi dalam kode. Indeks hukum TypeSafe mencakup DPA, kebijakan privasi, serta retensi data nol bagi pelanggan perusahaan.

Waktu respons menyeluruh dinyatakan sebesar 70ms-500ms, dengan sebagian besar kueri sekitar 100ms. Rentang itu adalah klaim dalam materi peluncuran, bukan SLO latensi berdasarkan pengukuran wiki ini. Baca bersama catatan batas laju: throughput dan RPM dapat berubah selama TypeSafe meningkatkan skala akses awal.

Nama yang perlu dikirim di produksi

Kirim jev-1.13.0 jika gerbang yang Anda setel minggu lalu harus tetap bermakna sama minggu depan. Kirim jev-latest jika Anda menginginkan rilis resmi terkini dari TypeSafe dan akan meninjau ulang histogram keyakinan setiap kali alias berpindah. Kirim jev-preview hanya jika Anda siap menggunakan build nonresmi; saat ini penunjuknya sama dengan jev-latest.

Catat response.model pada setiap panggilan. Kolom itu berisi ID berversi yang benar-benar menjawab, meskipun Anda mengirim alias. Kaitkan dengan requestId saat menelusuri 429 atau hasil Noul yang mengejutkan. GET /v1/models tidak selalu mencantumkan jev-1.13.0 meskipun endpoint menerimanya.

Hitung biaya sisi input saja. Token output gratis, sehingga fan-out lebih murah daripada model obrolan yang menagih penyelesaian. Loop bergaya Doom dengan 10 kueri/detik pada tarif $0.042/MTok merupakan contoh ekonomi tersebut saat peluncuran. Tetap patuhi batas 1,200 RPM dan 250,000 token per detik, serta perkirakan angka-angka itu dapat berubah tanpa pemberitahuan selama akses awal.

Saat bagian penjualan menawarkan batas kustom, angka tersebut belum tercantum pada kartu ini sampai TypeSafe menerbitkannya di docs.typesafe.ai/models. Sebelum itu, angka publiknya adalah 250,000 token per detik dan 1,200 permintaan per menit, disertai peringatan tegas bahwa keduanya dapat berubah tanpa pemberitahuan. Retensi data nol untuk perusahaan merupakan topik indeks hukum, bukan sakelar kartu model.

Bahasa Inggris tetap menjadi bahasa terkuat pada kartu ini. Jika Anda menangani tiket CJK, gunakan gerbang keyakinan yang lebih ketat dan ambil sampel antrean sendiri sebelum meniadakan pemeriksaan manusia. Model akan menerima karakter tersebut; catatan akurasi adalah alasan untuk melakukan pengukuran, bukan 403 tersembunyi.

Perpindahan alias merupakan peristiwa rilis. Baca kembali halaman model saat TypeSafe meluncurkan ID berversi baru, lalu tentukan apakah gerbang Anda masih berlaku. Kartu pada halaman ini adalah Jev 1.13, bukan janji mengenai 1.14.

Token output tetap gratis pada kartu ini. Karena itu, menambahkan pertanyaan biasanya lebih murah daripada panggilan generatif kedua.