LLM

Чат MiniCPM 2B

Задайте вопрос или попробуйте короткое задание на письмо. Войти нужно будет при отправке первого сообщения.

MiniCPM by OpenBMB

Лицензии модели

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Прилагаемая лицензия

Уведомление

БесплатноОнлайнБез ограниченийMiniCPM by OpenBMB Доступ через API

Начинайте, когда будете готовы.

Напишите сообщение и нажмите «Отправить», чтобы войти и начать.

Отправьте запрос и получите ответ MiniCPM 2B. Бесплатный онлайн-чат с LLM в браузере на подключённых вами устройствах. Это более сильный небольшой чат, чем Llama 3.2 1B размером под телефон, и он работает только с текстом. Один мощный компьютер может вместить модель целиком, а иначе работа делится между добавленными вами машинами. При первом запуске скачивается модель, поэтому следующие ответы начинаются быстрее.

Справочник API

Отправка через REST

Используйте свой личный ключ API (msk_…), чтобы создавать задания для этой рабочей нагрузки из собственных инструментов. Запущенные так задания выполняются на тех же устройствах, которые вы подключили в разделе Ваши устройства, — хотя бы одно из них должно быть в сети.

Скрыть сведения об API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Аутентификация с помощью X-Organization-Api-Key: msk_your_personal_api_key. Имя заголовка совпадает с ключами организации; личные ключи используют ту же конечную точку.

Входные файлы:Вызовите POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign с тем же ключом API, загрузите файл по полученному upload_url, затем передайте download_url в job_spec (например, как input_image_url).

Тело запроса

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Поля job_spec

ПолеОбязательноеПо умолчаниюОписание
system_promptНет—Необязательный системный промпт
enable_thinkingНетtrueВключить размышление MiniCPM5 перед окончательным ответом (<think> / </think>). Рекомендуется оставить включённым.
max_new_tokensНет2048Максимальное число генерируемых токенов (размышление + ответ). Увеличьте для длинных ответов. Запрос и генерация делят окно контекста, поэтому генерация останавливается на границе контекста, а не увеличивает минимальный объём памяти этапа.
max_contextНет8192Общее число токенов, под которое хосты этапов выделяют состояние KV/рекуррентное состояние, — запрос плюс генерация. Верхняя граница — наибольший контекст, на котором Oracle измерил эту модель, поэтому размещению не приходится экстраполировать за пределы подтверждённых данных. Увеличение этого значения повышает минимальный объём памяти и сужает круг устройств, способных выполнить задачу.
kv_hot_windowНет32768Физический KV внимания ограничен последними N токенами, поэтому диалог длиннее N забывает самые старые реплики, а не останавливается на пределе контекста. 0 оставляет весь контекст в памяти. При значении, равном окну контекста или меньше него, ничего не меняется — та же память, то же внимание, — а уменьшение ниже окна контекста обменивает дальнюю память на неограниченную длину диалога, потому что модель действительно не видит ничего за пределами окна.
turnsНет—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureНет1Temperature
top_pНет0.95Top P
top_kНет0Top K
presence_penaltyНет0Presence Penalty
repetition_penaltyНет1Repetition Penalty
seedНет—Случайное зерно (seed) для воспроизводимости
speculative_ngramНетfalseЧерновики по принципу поиска в промпте: повторяющиеся n-граммы из контекста воспроизводятся как черновые блоки, а модель проверяет их за ОДИН проход, поэтому за одно сетевое обращение можно зафиксировать несколько токенов. Дополнительная модель не нужна; результат идентичен последовательному декодированию.
speculative_draft_modelНетfalseЗапускает крошечную черновую модель GGUF на узле контрольной точки, чтобы предлагать черновые блоки (лучше использовать «Имя файла встроенной черновой модели»; внешний URL остаётся запасным вариантом). Если черновая модель недоступна, используются черновики на n-граммах.
draft_model_fileНет—Имя файла нефрагментированной черновой модели GGUF в пакете этой задачи. SDK находит её по required_files, поэтому для приватных бакетов S3 можно использовать подписанный/прокси-URL от сервера вместо публичного.
draft_model_urlНет—Необязательный внешний HTTPS-URL крошечной черновой модели GGUF. Используется как запасной вариант, если «Имя файла встроенной черновой модели» не указано или отсутствует в required_files.
speculative_max_draftНет8Верхняя граница числа черновых токенов, проверяемых в одном блоке. Фактическая длина подстраивается под наблюдаемую долю принятых токенов.
min_remote_stagesНет0Диагностический параметр размещения для тестирования конвейерного параллелизма GGUF. Если значение больше 0, контрольная точка назначается только узлам, которые будут выполнять не менее этого числа этапов по WebRTC, а не локально. После окна ожидания пира контрольной точки происходит возврат к обычному поведению, чтобы не оставлять боевые задачи без выполнения.
wire_hidden_dtypeНетf16Тип данных скрытых активаций между этапами конвейера GGUF. f16 вдвое уменьшает объём передаваемых данных при префилле и спекулятивных блоках; f32 — диагностический запасной вариант.
wire_hidden_codecНетfp16Экспериментальный кодек для блоков скрытых активаций из нескольких токенов между этапами конвейера GGUF. Декодирование по одному токену использует дешёвый путь с типом данных; универсальные кодеки применяются только к блокам префилла и спекулятивным блокам, где экономия байтов может окупить стоимость кодека. fp16 — самый безопасный; auto8/hq8 — диагностические.
stage_chainingНетtrueКогда все этапы GGUF удалённые и поддерживают протокол цепочки, скрытые активации отправляются напрямую от этапа к этапу, а не пересылаются на каждой границе через координатор контрольной точки.
latent_modeНетoffSoft Thinking / SwiReasoning без дообучения внутри <think>…</think>. Требует GGUF WASM с _lstage_eval_soft на хостах этапов; иначе происходит возврат к дискретному декодированию. По умолчанию выключено, пока не пересобран WASM в CDN. Взаимоисключающе со спекулятивным декодированием, когда активен Soft Thinking.
latent_phaseНетtaggedtagged = маркеры размышления; prefix = с шага 0 (модели без маркеров).
latent_exit_textНет Final answer: Используется только при latent_phase=prefix (обычные токены словаря).
latent_top_nНет15Soft top-n
latent_entropy_tauНет0.05Энтропия τ Cold Stop
latent_cold_stop_kНет256Число последовательных шагов Cold Stop
swi_dwell_windowНет512Время пребывания Swi Explicit→Latent
swi_max_switchesНет8Максимум переключений Swi Latent→Explicit
max_thinking_tokensНет1536Жёсткий бюджет до принудительного </think> / выхода из префикса. Значение должно оставаться заметно ниже `max_new_tokens`: если бюджет рассуждений равен общему бюджету генерации или превышает его, ответ обрывается на полуслове и ответа нет вовсе. Управляющий сервер пересчитывает это значение исходя из бюджета, который выбранное размещение реально может обеспечить: меньшее значение учитывается, а большее ограничивается.
min_thinking_tokensНет0Нижняя граница: </think> исключается из семплирования, пока не накопится столько токенов рассуждения. 0 отключает. Не даёт блоку размышления закрыться на первом же сгенерированном токене и ответить вообще без рассуждений.
promptДа—Сообщение пользователя / запрос для чат-модели

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Опрашивайте с тем же ключом API, пока status не перейдёт в конечное состояние (COMPLETED, FAILED, CANCELED или MODERATION_BLOCKED). Если включена модерация контента, задания могут начинаться в состоянии MODERATION_PENDING, прежде чем попасть в вычислительную очередь. Выполненные задания содержат предподписанные значения download_url для каждого результата.

Ответ на создание

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Ответ по завершении

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}