Каталог
Модели
Модели, которые действительно обслуживаются, с их параметрами, квантизацией, окном контекста, объёмом памяти, лицензией и измеренной скоростью. У каждого числа есть дата и метод.
Каталог
| Имя в API | Артефакт | Параметры | Квантизация | Контекст | Память | Лицензия | Измеренная скорость |
|---|---|---|---|---|---|---|---|
mh-sovereign-small | Qwen3.5-4B Q4_K_M (unsloth GGUF) | 4B | Q4_K_M | 16,384 токенов | 4.5 GB · 2.74 GB файл | Apache-2.0 | 38–40 ток/с GPU · ~15 ток/с CPU 2026-10-12 — single stream, bench2 |
mh-sovereign-reasonпо умолчанию — псевдоним mh-sovereign | Qwen3.5-9B UD-Q4_K_XL (unsloth GGUF) | 9B | UD-Q4_K_XL | 32,768 токенов | 9.0 GB · 5.97 GB файл | Apache-2.0 | 24.6 ток/с GPU · TTFT 0.3–0.9 s · 14/14 классов задач 2026-10-12 — single stream, thinking off, bench2 |
mh-sovereign-lingua | Gemma-4-12B QAT Q4_K_XL (unsloth GGUF) | 12B | QAT Q4_K_XL | 20,480 токенов | 9.5 GB · 6.72 GB файл | Apache-2.0 | 17.2 ток/с GPU · 14/14 классов задач 2026-10-12 — single stream, bench2 |
`mh-sovereign` — псевдоним по умолчанию, разрешается в `mh-sovereign-reason`.
Облачные показатели являются прогнозом до измерения на облачном оборудовании; каждое число на этой странице измерено на одной локальной машине с одним пользователем.
Известные ограничения
Числам нужно размышление
ИзмереноЗадачи с деньгами, ценами и количествами требуют включённого размышления на модели 9B (бюджет 1 024 токена); без него арифметические ошибки встречаются чаще.
Эстонский
ИзмереноНи одна обслуживаемая модель не пишет пригодный к публикации эстонский текст. Черновикам нужен редактор-носитель — эстонские страницы этого сайта несут такое уведомление.
Латышский
ИзмереноПригоден только от модели 9B и с редактурой.
Одна модель в памяти одновременно
ИзмереноОдновременно загружена одна модель; она выгружается через 120 секунд простоя. Запрос к другой модели стоит одной загрузки; выделенный инстанс держит ваши модели в памяти постоянно.
Метки статуса — ИЗМЕРЕНО — существует и измерено в указанную дату указанным методом. ПОСТРОЕНО — существует и работает, под нагрузкой ещё не измерено. ЗАПЛАНИРОВАНО — спроектировано, ещё не построено. Строка без метки не является утверждением этой платформы.
Метод
Измерено 2026-10-12 на NVIDIA GeForce RTX 5070 12 GB · AMD Ryzen 7 7700 · 63 GB RAM · Windows 11 Pro, среда выполнения llama.cpp b11559, CUDA 13.4 (Windows binaries); one user, GPU shared with media production under a governor (GPU norm 34 %), free heavy.lock windows. Папки с evidence: media-holding-sovereign-ai/evidence/bench2, media-holding-sovereign-ai/evidence/soak.
Облачные показатели являются прогнозом, пока облачный узел не измерен тем же методом. Ожидается, что выделенный инстанс на GPU 24 ГБ будет держать в памяти модели 9B и 12B одновременно; это ожидание — прогноз, а не измерение.
Измерено через платформу
Измерено через платформу
Измерено2026-10-13 один реальный однопользовательский запрос прошёл через плоскость управления Sovereign AI Cloud в Sovereign AI (mh-sovereign-reason (Qwen3.5-9B UD-Q4_K_XL), RTX 5070, норма GPU 34 %): сгенерировано 37 токенов со скоростью 25.8 токена в секунду; промпт из 21 токенов обработан за 297 мс; загрузка модели 2.1 с. Evidence: sovereign-ai-cloud/evidence/real_inference_single_user_20261013.json.
Кто разработал модели
| Модель | Разработчик | Роль |
|---|---|---|
| Qwen3.5 (4B, 9B) | Alibaba — команда Qwen | Разработчик модели |
| Gemma 4 (12B) | Google DeepMind | Разработчик модели |
| GGUF quantisations | Unsloth (квантизации GGUF) | Квантизованные артефакты |
| llama.cpp | ggml-org (llama.cpp) | Среда выполнения инференса |
По Регламенту ЕС об ИИ обязанности поставщиков моделей ИИ общего назначения лежат на разработчиках моделей; Media Holding не изменяет веса обслуживаемых моделей. Что это означает для вас как развёртывающего, изложено в Уведомлении о прозрачности ИИ.