Модель joey-1: Baseten выпустила нейросеть на 2B, которая вместо текста отвечает решением и вероятностью

Baseten выпустила модель joey-1 — нейросеть на 2 млрд параметров, которая вообще не пишет текст: она сразу возвращает решение и откалиброванную вероятность. Цена — $0,01 за миллион входных токенов, веса открыты под MIT. Разбираем, что это за класс моделей и где он пригодится в крипте, от фильтра фишинга до разметки рынков.

Что произошло

В блоге Baseten 29 октября появился анонс третьей «модели решений» из линейки Base Labs. Неделей раньше компания выпустила mammoth-1 на 27B и elephant-1 на 9B, теперь к ним добавилась самая маленькая и дешёвая — joey-1 на 2B. Все три обучены на одной смеси данных и работают через один API, так что переключение между ними — замена одного поля в запросе.

Идея простая. Многим приложениям не нужен сгенерированный абзац — им нужно решение: в какую очередь отправить тикет, подозрительна ли транзакция, соответствует ли ответ рубрике. Обычная LLM пишет текст, который потом приходится парсить, и каждый такой вызов добавляет задержку и стоимость. Модель решений возвращает метку одним токеном и сразу даёт вероятность.

Как работает модель joey-1

По карточке на Hugging Face, модель дообучали полным файнтюном языковой части, а визуальный энкодер заморозили — то есть на вход можно подавать и текст, и картинки. Данные — 6,21 млн примеров решений: 58,3% базовые навыки, по 16,1% безопасность с отказами и экспертная оценка, 9,5% публичные датасеты. Целевая функция — кросс-энтропия плюс штраф Брайера за калибровку, а ещё модель учили честно выбирать «не знаю».

Запрос выглядит как «состояние» плюс набор типизированных вопросов. Все вопросы отвечаются из одного общего префикса, поэтому лишний вопрос почти ничего не стоит. Обзор MarkTechPost уточняет детали: контекст в API — 16 384 токена, на выделенных развёртываниях до 262 тысяч; самостоятельный запуск требует одну GPU с CUDA, но объём видеопамяти Baseten не раскрыла.

Что с качеством. Baseten пишет, что joey-1 — лучшая модель решений до 4B на публичной части Jev Decision Index 0.4 с результатом 63,30 и 37-е место из 230. На реплике Decision Index от Artificial Analysis — 62,9. Тут важно: оба замера публикует сама компания, а TL;DR блога про «в 5 раз быстрее аналогов» не называет, с кем именно сравнивали.

Модель решений полезна не тем, что умнее, а тем, что отвечает числом, которое можно поставить в порог.

Что это значит для тебя

Для крипты такой инструмент интересен там, где решений много, а ошибиться дорого. Пара примеров:

• первичный фильтр сообщений в Telegram-чате проекта: «похоже на фишинг — да/нет» с вероятностью, а всё сомнительное уходит модератору;
• классификация входящих транзакций или адресов по рубрике перед тем, как их увидит человек;
• разметка новостей под рынки предсказаний: «относится ли новость к вопросу рынка» как дешёвый первый слой.

Ключевое слово — калибровка. Если модель говорит 0,9, это должно значить, что она права примерно в 90% таких случаев; тогда можно автоматизировать уверенные ответы и отправлять остальное на проверку. Сама Baseten в документации советует подбирать порог по своим размеченным данным и для выбора приводит пример с порогом 0,90. А вот обещанную калибровку на твоих задачах никто, кроме тебя, не проверит.

По деньгам: компания приводит пример с 10 млн тикетов в месяц по ~500 токенов — около $50 в месяц на joey-1 против $500 на mammoth-1. Это расчёт по прайсу, а не по реальному счёту, но порядок понятен.

Для контекста — недавно мы разбирали другие маленькие модели для локальных агентов, например LFM3 от Liquid AI, и платёжных AI-агентов MoonPay, где каждое решение агента стоит денег.

Что делать

1. Если строишь бота или модерацию, возьми 200–300 своих размеченных примеров и прогони модель joey-1 на них, прежде чем ей доверять.
2. Смотри не только на точность, но и на калибровку: совпадают ли вероятности с реальной долей правильных ответов.
3. Оставь «эскалацию» — всё неуверенное отправляй в модель побольше или человеку.
4. Не давай модели решать вопросы с деньгами без подтверждения: это классификатор, а не кошелёк.

FAQ

Модель joey-1 бесплатна? Веса открыты под лицензией MIT и лежат на Hugging Face; в API Baseten берёт $0,01 за миллион входных токенов.

Она может писать ответы как чат-бот? Нет, joey-1 возвращает метку и вероятности, а не свободный текст.

Чем она хуже старших моделей? По данным Baseten, на публичном индексе она уступает elephant-1 во всех областях и знает меньше общих фактов.

Итог: модель joey-1 — дешёвый и быстрый «да/нет» для автоматизации, а не новая звезда чат-ботов. Её ценность проверяется на твоих данных и твоих порогах, а не на графиках из анонса.

Материал не является инвестиционной рекомендацией. Крипта — высокий риск, решения принимаешь сам.