Карточка Jev 1.13

Цена, контекст и ограничения частоты

Ввод стоит $42 за миллиард токенов, то есть $0.042 за миллион. Выходные токены бесплатны. Запрос сверх документированных лимитов 250,000 токенов в секунду или 1,200 запросов в минуту получает ответ 429 Too Many Requests. Официальные SDK повторяют запросы с нарастающей задержкой и учитывают retry-after, если он указан. TypeSafe предупреждает, что при высоком спросе и заключении сделок на GPU лимиты динамически корректируются и могут изменяться без уведомления. Для индивидуальных и корпоративных тарифов лимит можно повысить через sales@typesafe.ai.

Контекст одного запроса ограничен 64k токенов. Дополнительно действует лимит в 32k токенов на состояние вместе с самым длинным вопросом. Jev загружает состояние один раз и параллельно сопоставляет с ним каждый вопрос, поэтому окно в 64k включает состояние и все вопросы вместе. Если состояние разрастается за счёт посторонних деталей, точность снижается — этот режим сбоя описан на странице jaggedness. Объединяйте множество небольших вопросов с помощью speculative fan-out, а не пытайтесь поместить всё хранилище в одно поле.

На вход принимается только текст: строка, объект JSON или массив текстовых значений. Изображения, аудио и видео не поддерживаются. Перед вызовом преобразуйте нетекстовые данные в поля. Основной язык обучения — английский. Другие языки, включая CJK, обрабатываются с меньшей точностью, поэтому перед автоматизацией неанглоязычной очереди измеряйте уверенность.

Псевдонимы и список моделей

Псевдоним — это имя модели, разрешающееся в версионный идентификатор. Передавайте его в поле model, как любое другое имя. jev-latest означает последний стабильный официальный выпуск. jev-preview означает самый новый выпуск независимо от его официального статуса и опережает jev-latest при наличии предварительной сборки. Сейчас оба имени указывают на jev-1.13.0.

При выходе нового выпуска псевдоним меняется, поэтому ответы могут измениться без изменений в вашем коде. Поле model в ответе содержит версионный идентификатор ответившей модели. Записывайте его в журнал. Если пороги уверенности настроены на jev-1.13.0, продолжайте отправлять jev-1.13.0 до повторной настройки.

GET /v1/models возвращает имена, которые может отправлять ваша учётная запись, вместе с описанием и датой выпуска. Сейчас в списке есть псевдонимы. Версионные идентификаторы вроде jev-1.13.0 принимаются в поле model независимо от их наличия в этом списке.

Обработка данных и настройка

Jev не дообучается и не адаптируется через LoRA на данных клиентов. Модель не обучается на клиентских запросах или ответах. Все учётные записи обслуживаются одними и теми же весами RLCD. Специализация задаётся содержимым состояния, инструкциями, критериями и композицией в коде. Юридический раздел TypeSafe содержит соглашение DPA, политику конфиденциальности и условия нулевого хранения данных для корпоративных клиентов.

Полное время ответа заявлено в диапазоне 70ms-500ms, большинство запросов занимает около 100ms. Это опубликованное утверждение из материалов к запуску, а не SLO задержки по собственным измерениям этой вики. Учитывайте также примечание об ограничениях частоты: пропускная способность и RPM могут меняться, пока TypeSafe масштабирует ранний доступ.

Какое имя отправлять в рабочей среде

Отправляйте jev-1.13.0, если настроенные на прошлой неделе пороги должны сохранить смысл и на следующей. Выбирайте jev-latest, если вам нужен текущий официальный выпуск TypeSafe и вы готовы заново проверять гистограммы уверенности после каждого изменения псевдонима. Используйте jev-preview только при готовности к неофициальной сборке; сейчас он указывает туда же, куда jev-latest.

Записывайте response.model в журнал при каждом вызове. Это поле содержит версионный идентификатор фактически ответившей модели, даже если был отправлен псевдоним. Связывайте его с requestId при разборе ошибки 429 или неожиданного Noul. GET /v1/models не всегда показывает jev-1.13.0, хотя конечная точка принимает его.

Рассчитывайте стоимость только по входным данным. Выходные токены бесплатны, поэтому fan-out обходится дешевле чат-модели, где оплачивается генерация ответа. Цикл в стиле Doom с 10 запросами в секунду при цене $0.042/MTok — приведённая при запуске иллюстрация такой экономики. При этом соблюдайте ограничения в 1,200 RPM и 250,000 токенов в секунду и учитывайте, что во время раннего доступа эти значения могут измениться без предупреждения.

Если отдел продаж назначил индивидуальный лимит, он не появится в этой карточке, пока TypeSafe не опубликует его на docs.typesafe.ai/models. До этого общедоступными значениями остаются 250,000 токенов в секунду и 1,200 запросов в минуту с явным предупреждением о возможном изменении без уведомления. Нулевое хранение корпоративных данных относится к юридическому разделу, а не к переключателям карточки модели.

Английский остаётся самым сильным языком в этой карточке. При обработке заявок на языках CJK устанавливайте более строгие пороги уверенности и проверяйте собственную очередь на выборке, прежде чем исключать людей. Модель примет эти символы; примечание о точности требует измерений, а не скрывает ошибку 403.

Изменение псевдонима — событие выпуска. Когда TypeSafe выпустит новый версионный идентификатор, снова изучите страницу моделей и решите, остаются ли ваши пороги пригодными. Карточка на этой странице относится к Jev 1.13 и ничего не обещает о 1.14.

В этой карточке выходные токены остаются бесплатными. Поэтому добавить вопросы обычно дешевле, чем делать второй генеративный вызов.