Модель Edge0-145B: открытые веса на 145 млрд параметров для своего компьютера — но пока только с NVIDIA
Edge0 выложила открытую модель на 145 млрд параметров, которая, по её словам, работает на ноутбуке. Разбираем архитектуру, бенчмарки и расхождение между блогом и GitHub.

- На каждом шаге работает около 10 млрд параметров из 145 млрд: эксперты делят общие матрицы, часть весов лежит в ОЗУ и на SSD.
- Все бенчмарки пока внутренние: полную методику Edge0 обещает выложить вместе с техническим отчётом.
- По инструкции на GitHub текущий релиз запускается на Linux или Windows с видеокартой NVIDIA и CUDA 13; поддержку macOS это не подтверждает.
Команда Edge0 12 ноября выложила в открытый доступ модель Edge0-145B и младшую Edge0-120B и заявила, что это первая открытая модель на 145 млрд параметров для работы прямо на твоём компьютере. Обещание громкое: уровень облачных моделей в коде и рассуждениях, около 29 ГБ памяти и больше 80 токенов в секунду. Разбираемся, что из этого подтверждено и на каком железе это реально запускается сегодня.
Что произошло
В анонсе Edge0 компания выкладывает сразу две модели, свой движок запуска и инструменты развёртывания. Главная идея — снять «стену памяти», из-за которой локальные модели годами оставались маленькими. Большие модели не влезали в память ноутбука, а маленькие не тянули сложные задачи.
Как это устроено, по словам Edge0:
- Общие матрицы у экспертов. Это модель-смесь экспертов (MoE). Каждая группа из 64 экспертов делит две большие матрицы, а у каждого эксперта остаётся небольшой набор своих параметров. Поэтому хранить и гонять по памяти нужно гораздо меньше.
- Обучение под локальный запуск. Модель сразу учили в той архитектуре, в которой она будет работать на устройстве, а не сжимали облачную модель после обучения.
- Три уровня хранения. «Горячие» эксперты сидят в видеопамяти, библиотека экспертов примерно на 40 ГБ — в оперативной памяти, а около 48 ГБ словарных данных читаются с SSD по мере надобности.
- CPU и GPU вместе. Видеокарта считает закешированных экспертов, процессор параллельно делает остальное, а спекулятивное декодирование проверяет сразу несколько кандидатов-токенов.
Заявленные цифры: пиковая память около 29 ГБ, больше 80 токенов в секунду на генерации, больше 1 100 токенов в секунду на обработке промпта и около 120 Вт мощности. По сводке AI Tracker, контекст — 128–256 тыс. токенов.
Модель Edge0-145B: что с бенчмарками
Edge0 сравнивает себя с конкретными моделями. На DeepSWE 1.1 — 64,6 против 58,7 у Qwen3.8-Flash-Next и 54,4 у DeepSeek-V4-Flash-0731. На GPQA-Diamond — 90,4, близко к 90,8 у DeepSeek и 91,3 у Claude Opus 4.6 (Max). На IFBench — 80,6, на Terminal-Bench 2.1 — 86,52.
Средний результат по шести тестам — 72,8 при 29 ГБ памяти. Для сравнения, Qwen3.8-Flash-Next в среднем даёт 71,7, но в стандартной 4-битной сборке, по оценке Edge0, требует около 70 ГБ. Отсюда главный тезис: работа на ноутбуке с 48 ГБ памяти.
Сильные цифры, но все они — собственные замеры Edge0. Пока нет технического отчёта и независимых прогонов, это заявка, а не факт.
Важно, что сама Edge0 это и признаёт: оценки Edge0, Qwen, DeepSeek и Claude взяты из её внутренних тестов, а полная методика выйдет с отчётом.
Где расходятся блог и GitHub. Это главный нюанс. В блоге написано, что поддержка с первого дня есть на macOS, Windows и Linux, включая чипы Apple M-series и видеокарты NVIDIA. А в репозитории Edge0 на GitHub инструкции для 145B и 120B прямо нацелены на NVIDIA с CUDA 13 под Linux или Windows. Там же отдельно оговорено: замеры на Apple M2 Ultra сделаны через Metal и не означают, что релиз под macOS доступен.
Ещё детали из репозитория. Модели 145B и 120B выведены из Qwen3.8-Flash-Next и обучены сразу в 4 битах, веса доступны в форматах Q3_K и NVFP4. Демонстрационный замер — 145B в Q3_K на RTX 5090 D с 24 ГБ: 121,2 токена в секунду в агентном режиме. При этом веса Q3_K весят 40,81 ГиБ и в этом сетапе распределяются на 23,14 ГиБ видеопамяти и 31,28 ГиБ оперативки.
На Hacker News, по данным AI Tracker, часть комментаторов впечатлилась, что 145B влезает в ~29 ГБ. Другие заметили, что это открытые веса, а не открытый исходный код в строгом смысле, и что формат NVFP4 пока рассчитан на новые видеокарты NVIDIA. На карточке модели на Hugging Face указана собственная лицензия Edge0 Community Model License 1.0, а материалы Qwen остаются под лицензией Qwen.
Что это значит для тебя
Для крипты локальная модель — это прежде всего приватность. Если ты анализируешь свои адреса, сделки, переписку с OTC или черновики стратегии, тебе не хочется отправлять это в чужое облако. Модель Edge0-145B обещает уровень, близкий к облачным моделям, без платы за токены и без интернета. Мы уже писали про более лёгкие варианты — Recursive Flint для кода и модели LFM3 от Liquid AI для локальных агентов.
Но бесплатной она не будет: нужен мощный компьютер, и сама Edge0 напоминает, что железо и электричество стоят денег. А «локально» не значит «безопасно для сид-фразы». Любой агент, который запускает код, может сделать ошибку.
Что делать
- Проверь своё железо: по текущей инструкции нужна видеокарта NVIDIA с CUDA 13 и Linux или Windows. На Mac пока не рассчитывай.
- Качай веса только с официальных страниц Edge0 на Hugging Face и GitHub.
- Запускай локальный сервер: он совместим с API OpenAI и слушает 127.0.0.1 — не открывай его наружу.
- Сравни модель Edge0-145B на своих задачах, а не по таблице из блога.
- Не давай ей ключи и сид-фразы, даже если всё работает офлайн.
FAQ
Модель Edge0-145B бесплатная? Веса открыты, плата за токены не нужна. Условия использования задаёт лицензия Edge0 Community Model License 1.0, а для частей от Qwen — лицензия Qwen.
Пойдёт ли она на MacBook? Блог обещает поддержку macOS, но инструкция на GitHub для этого релиза рассчитана на NVIDIA под Linux или Windows, и замеры на M2 Ultra не означают готового релиза под Mac.
Можно ли верить бенчмаркам? Пока это внутренние тесты Edge0. Методику обещают в техническом отчёте.
Вывод
Модель Edge0-145B — смелая заявка: 145 млрд параметров на одном компьютере за счёт общих матриц экспертов и потоковой загрузки весов. Идея для приватной работы с криптой отличная, но сегодня это история для владельцев мощных видеокарт NVIDIA, а цифры качества ещё ждут независимой проверки.
Материал не является инвестиционной рекомендацией. Крипта — высокий риск, решения принимаешь сам.


