MiniCPM-V 4.7: открытая MoE-модель на 35 млрд параметров работает на iPhone с 3 ГБ памяти

OpenBMB выложила MiniCPM-V 4.7 — новую версию открытой мультимодальной модели, которая понимает картинки, несколько изображений сразу и видео. Главная фишка — вариант 35B-A3B, первая MoE-модель в серии: по словам авторов, она выдаёт 13+ токенов в секунду на iPhone 17 Pro Max, занимая всего 3 ГБ памяти. Рядом вышла компактная версия на 1 млрд параметров. Разбираем, что заявлено, что уже проверили независимо и зачем это тебе.

Что вышло

По карточке модели на Hugging Face, MiniCPM-V 4.7 продолжает линейку моделей для работы с изображениями и видео, но делает упор на запуск прямо на устройстве. У MoE-модели общее число параметров намного больше активных на каждый токен, и на телефоне все «эксперты» в память не влезают. Авторы решают это тремя приёмами:

1. Lookahead Expert Scheduling — модель заранее предсказывает, какие эксперты понадобятся на следующем слое, и подгружает их, пока считает текущий.
2. Послойная квантизация — веса экспертов сжимаются, чтобы меньше гонять данные между памятью и хранилищем.
3. Спекулятивная генерация DSpark — маленькая черновая модель предлагает токены, большая их проверяет.

Плюс ранняя компрессия визуальных токенов прямо внутри энкодера (техника из LLaVA-UHD v4) с режимами 4x и 16x: можно выбирать между детальностью картинки и скоростью.

Модель работает на iOS, Android и HarmonyOS, а поддержку в день релиза получили чипы Rockchip, Houmo, Intel, AMD и Arm. В репозитории есть гайды под OCR, разбор PDF, визуальную привязку объектов и понимание видео.

Что заявляют про качество MiniCPM-V 4.7

Авторы пишут, что в режиме Instruct версия 35B-A3B набирает более высокий общий балл, чем Qwen3.6 35B-A3B, и тратит на это меньше времени. Версия 1B, по их словам, заметно обходит Qwen3.5 0.8B и по качеству, и по скорости.

Но это самооценка. AI Weekly отдельно отмечает, что под этими фразами в карточках нет таблиц с бенчмарками, и называет главный вопрос: подтвердится ли скорость MoE на телефоне в сторонних тестах.

Цифра «13 токенов в секунду на iPhone» пока из карточки модели, а не из независимого замера.

Что проверила AMD

Независимых замеров скорости 35B-A3B на телефоне пока нет, зато AMD опубликовала свою проверку в день релиза. Обе версии успешно прошли тест на распознавание картинки на Radeon AI PRO R9700, Radeon PRO W7900D и Ryzen AI Max 395 со встроенной графикой Radeon 8060S. Это проверка работоспособности: скорость и расход видеопамяти AMD в этой части не публикует.

По NPU данных больше. Рантайм FastFlowLM с версии 1.0.8 запускает MiniCPM-V 4.7 1B на нейропроцессорах Ryzen AI с архитектурой XDNA 2. Веса в формате Q4_K занимают около 2,2 ГБ, контекст по умолчанию — 32 тыс. токенов, максимум — 256 тыс. На Ryzen AI Max+ 395 первый токен для одной картинки появлялся примерно через 1,2 секунды, а скорость генерации падала примерно с 44 до 23 токенов в секунду при росте контекста с 1 тыс. до 32 тыс. токенов.

Что это значит для тебя

Мультимодальная модель, которая крутится локально, — это возможность разбирать скриншоты, PDF и видео без отправки в облако. Для крипты это вполне прикладная история: прогнать через неё скриншот графика, вайтпейпер или страницу с транзакцией и не светить содержимое стороннему сервису. Только не считай ответ модели истиной: она может ошибиться в цифрах и адресах, а адреса и суммы всегда сверяй вручную.

Если хочешь попробовать:

• Для слабого железа начни с версии 1B — она легче и уже работает даже на NPU.
• Для 35B-A3B бери готовые кванты GGUF или AWQ, полная версия требует серьёзной видеопамяти.
• Через transformers serve или llama.cpp модель поднимает OpenAI-совместимый API, так что её можно подключить к своим скриптам и агентам.

Похожий подход к локальным моделям мы разбирали на примере LFM2.5-24B-A2B для агентов, а пример того, как маленькую модель дообучили под задачу биржи, — в истории про антифрод Coinbase на Qwen.

FAQ

Что нового в MiniCPM-V 4.7? Первая MoE-версия в серии (35B-A3B), заявленная работа на телефоне с 3 ГБ памяти и компактная модель 1B. Обе понимают изображения и видео.

Можно ли использовать её в коммерческих проектах? По данным AI Weekly, релиз вышел под лицензией Apache 2.0. Условия всё равно проверь в репозитории перед использованием.

Правда ли она лучше Qwen3.6? Так пишут сами авторы, без опубликованных таблиц в карточке. Дождись независимых тестов.

На чём её запустить? iOS, Android, HarmonyOS, видеокарты AMD через ROCm и llama.cpp, NPU Ryzen AI через FastFlowLM, а также vLLM, SGLang и Ollama.

Итог: MiniCPM-V 4.7 — интересная попытка запихнуть большую MoE-модель в телефон. Технология выглядит продуманно, но главные цифры пока из карточки самих авторов.

Материал не является инвестиционной рекомендацией. Крипта — высокий риск, решения принимаешь сам.