Перейти к содержанию

Демонстрационное развёртывание — пока не открыто для клиентов. Инференс работает на собственной модели платформы на CPU; платёжный провайдер не подключён, поэтому ничего не продаётся и не списывается.

SOVEREIGN AI CLOUDPOWERED BY MEDIA HOLDING

Каталог

Модели

Модели, которые действительно обслуживаются, с их параметрами, квантизацией, окном контекста, объёмом памяти, лицензией и измеренной скоростью. У каждого числа есть дата и метод.

Каталог

Имя в APIАртефактПараметрыКвантизацияКонтекстПамятьЛицензияИзмеренная скорость
mh-sovereign-smallQwen3.5-4B Q4_K_M (unsloth GGUF)4BQ4_K_M16,384 токенов4.5 GB · 2.74 GB файлApache-2.038–40 ток/с GPU · ~15 ток/с CPU
2026-10-12 — single stream, bench2
mh-sovereign-reason
по умолчанию — псевдоним mh-sovereign
Qwen3.5-9B UD-Q4_K_XL (unsloth GGUF)9BUD-Q4_K_XL32,768 токенов9.0 GB · 5.97 GB файлApache-2.024.6 ток/с GPU · TTFT 0.3–0.9 s · 14/14 классов задач
2026-10-12 — single stream, thinking off, bench2
mh-sovereign-linguaGemma-4-12B QAT Q4_K_XL (unsloth GGUF)12BQAT Q4_K_XL20,480 токенов9.5 GB · 6.72 GB файлApache-2.017.2 ток/с GPU · 14/14 классов задач
2026-10-12 — single stream, bench2

`mh-sovereign` — псевдоним по умолчанию, разрешается в `mh-sovereign-reason`.

Облачные показатели являются прогнозом до измерения на облачном оборудовании; каждое число на этой странице измерено на одной локальной машине с одним пользователем.

Известные ограничения

Числам нужно размышление

Измерено

Задачи с деньгами, ценами и количествами требуют включённого размышления на модели 9B (бюджет 1 024 токена); без него арифметические ошибки встречаются чаще.

Эстонский

Измерено

Ни одна обслуживаемая модель не пишет пригодный к публикации эстонский текст. Черновикам нужен редактор-носитель — эстонские страницы этого сайта несут такое уведомление.

Латышский

Измерено

Пригоден только от модели 9B и с редактурой.

Одна модель в памяти одновременно

Измерено

Одновременно загружена одна модель; она выгружается через 120 секунд простоя. Запрос к другой модели стоит одной загрузки; выделенный инстанс держит ваши модели в памяти постоянно.

Метки статуса — ИЗМЕРЕНО — существует и измерено в указанную дату указанным методом. ПОСТРОЕНО — существует и работает, под нагрузкой ещё не измерено. ЗАПЛАНИРОВАНО — спроектировано, ещё не построено. Строка без метки не является утверждением этой платформы.

Метод

Измерено 2026-10-12 на NVIDIA GeForce RTX 5070 12 GB · AMD Ryzen 7 7700 · 63 GB RAM · Windows 11 Pro, среда выполнения llama.cpp b11559, CUDA 13.4 (Windows binaries); one user, GPU shared with media production under a governor (GPU norm 34 %), free heavy.lock windows. Папки с evidence: media-holding-sovereign-ai/evidence/bench2, media-holding-sovereign-ai/evidence/soak.

Облачные показатели являются прогнозом, пока облачный узел не измерен тем же методом. Ожидается, что выделенный инстанс на GPU 24 ГБ будет держать в памяти модели 9B и 12B одновременно; это ожидание — прогноз, а не измерение.

Измерено через платформу

Измерено через платформу

Измерено

2026-10-13 один реальный однопользовательский запрос прошёл через плоскость управления Sovereign AI Cloud в Sovereign AI (mh-sovereign-reason (Qwen3.5-9B UD-Q4_K_XL), RTX 5070, норма GPU 34 %): сгенерировано 37 токенов со скоростью 25.8 токена в секунду; промпт из 21 токенов обработан за 297 мс; загрузка модели 2.1 с. Evidence: sovereign-ai-cloud/evidence/real_inference_single_user_20261013.json.

Кто разработал модели

МодельРазработчикРоль
Qwen3.5 (4B, 9B)Alibaba — команда QwenРазработчик модели
Gemma 4 (12B)Google DeepMindРазработчик модели
GGUF quantisationsUnsloth (квантизации GGUF)Квантизованные артефакты
llama.cppggml-org (llama.cpp)Среда выполнения инференса

По Регламенту ЕС об ИИ обязанности поставщиков моделей ИИ общего назначения лежат на разработчиках моделей; Media Holding не изменяет веса обслуживаемых моделей. Что это означает для вас как развёртывающего, изложено в Уведомлении о прозрачности ИИ.