Jev от TypeSafe AI охватила 35% платных команд Vercel AI Gateway за две недели

Jev от TypeSafe AI устроена как модель выбора между заранее заданными вариантами ответа. Такое ограничение делает её пригодной для задач, где не нужно генерировать произвольный текст: например, отнести запрос к категории или быстро классифицировать большой поток записей. За счёт ограниченного набора выходов она может работать быстрее и дешевле моделей, рассчитанных на развёрнутые ответы. Vercel сама использовала Jev вместо GPT-6 Luna для классификации вредоносных команд. Это конкретный пример применения, но опубликованные показатели охвата описывают более широкий набор команд, работающих через её AI Gateway.

По данным Vercel, через две недели после запуска Jev использовали 35% платных команд в её шлюзе, почти вдвое больше, чем Sonnet 5.5 – следующую по охвату модель в этом измерении. Vercel называет это самым быстрым внедрением модели за первые две недели за всю историю своего сервиса. AI Gateway даёт единый интерфейс для обращения к разным моделям, поэтому его статистика удобна для сравнения внутри одной точки доступа. Но это не доля всего рынка: крупные лаборатории предлагают собственные API, и часть запросов проходит мимо шлюза.

Параллельно TypeSafe AI выпустила Jev 1.14 с экспериментальными возможностями обработки изображений и длинных документов. Модель может получать изображение в составе описания задачи и отвечать на вопрос типа Box – возвращать координаты рамки предполагаемого объекта и уверенность в ответе. Рамка выдаётся даже тогда, когда нужного объекта нет, поэтому наличие объекта предлагается проверять отдельным вопросом. Эти функции включаются специальными заголовками запроса с пометкой Danger Zone; компания пока не рекомендует применять их в продакшене из-за нестабильного качества. Таким образом, новый визуальный режим не следует смешивать с уже наблюдаемым использованием модели для выбора ответов.

В обычном режиме предел запроса к Jev составляет 64 тысячи токенов, а экспериментальный длинный режим увеличивает его до 262 тысяч. Версия 1.14 доступна под именами jev-preview и jev-1.14.0; переключение основного имени jev-latest намечено на 21 октября. В той же статистике шлюза Vercel открытые модели обработали более 70% токенов, но на них пришлось около четверти расходов. Эти показатели описывают именно трафик платформы и разные способы считать использование: по числу команд, объёму текста и затратам. Поэтому рост Jev среди платных команд нельзя напрямую переводить ни в долю токенов, ни в объём расходов.