LLM
Чат MiniCPM 2B
Задайте вопрос или попробуйте короткое задание на письмо. Войти нужно будет при отправке первого сообщения.
MiniCPM by OpenBMB
Лицензии модели
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Отправьте запрос и получите ответ MiniCPM 2B. Бесплатный онлайн-чат с LLM в браузере на подключённых вами устройствах. Это более сильный небольшой чат, чем Llama 3.2 1B размером под телефон, и он работает только с текстом. Один мощный компьютер может вместить модель целиком, а иначе работа делится между добавленными вами машинами. При первом запуске скачивается модель, поэтому следующие ответы начинаются быстрее.
Справочник API
Отправка через REST
Используйте свой личный ключ API (msk_…), чтобы создавать задания для этой рабочей нагрузки из собственных инструментов. Запущенные так задания выполняются на тех же устройствах, которые вы подключили в разделе Ваши устройства, — хотя бы одно из них должно быть в сети.
https://cp.meshlabs.cloud/v1/organizations/jobsАутентификация с помощью X-Organization-Api-Key: msk_your_personal_api_key. Имя заголовка совпадает с ключами организации; личные ключи используют ту же конечную точку.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign с тем же ключом API, загрузите файл по полученному upload_url, затем передайте download_url в job_spec (например, как input_image_url).Тело запроса
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Поля job_spec
| Поле | Обязательное | По умолчанию | Описание |
|---|---|---|---|
system_prompt | Нет | — | Необязательный системный промпт |
enable_thinking | Нет | true | Включить размышление MiniCPM5 перед окончательным ответом (<think> / </think>). Рекомендуется оставить включённым. |
max_new_tokens | Нет | 2048 | Максимальное число генерируемых токенов (размышление + ответ). Увеличьте для длинных ответов. Запрос и генерация делят окно контекста, поэтому генерация останавливается на границе контекста, а не увеличивает минимальный объём памяти этапа. |
max_context | Нет | 8192 | Общее число токенов, под которое хосты этапов выделяют состояние KV/рекуррентное состояние, — запрос плюс генерация. Верхняя граница — наибольший контекст, на котором Oracle измерил эту модель, поэтому размещению не приходится экстраполировать за пределы подтверждённых данных. Увеличение этого значения повышает минимальный объём памяти и сужает круг устройств, способных выполнить задачу. |
kv_hot_window | Нет | 32768 | Физический KV внимания ограничен последними N токенами, поэтому диалог длиннее N забывает самые старые реплики, а не останавливается на пределе контекста. 0 оставляет весь контекст в памяти. При значении, равном окну контекста или меньше него, ничего не меняется — та же память, то же внимание, — а уменьшение ниже окна контекста обменивает дальнюю память на неограниченную длину диалога, потому что модель действительно не видит ничего за пределами окна. |
turns | Нет | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Нет | 1 | Temperature |
top_p | Нет | 0.95 | Top P |
top_k | Нет | 0 | Top K |
presence_penalty | Нет | 0 | Presence Penalty |
repetition_penalty | Нет | 1 | Repetition Penalty |
seed | Нет | — | Случайное зерно (seed) для воспроизводимости |
speculative_ngram | Нет | false | Черновики по принципу поиска в промпте: повторяющиеся n-граммы из контекста воспроизводятся как черновые блоки, а модель проверяет их за ОДИН проход, поэтому за одно сетевое обращение можно зафиксировать несколько токенов. Дополнительная модель не нужна; результат идентичен последовательному декодированию. |
speculative_draft_model | Нет | false | Запускает крошечную черновую модель GGUF на узле контрольной точки, чтобы предлагать черновые блоки (лучше использовать «Имя файла встроенной черновой модели»; внешний URL остаётся запасным вариантом). Если черновая модель недоступна, используются черновики на n-граммах. |
draft_model_file | Нет | — | Имя файла нефрагментированной черновой модели GGUF в пакете этой задачи. SDK находит её по required_files, поэтому для приватных бакетов S3 можно использовать подписанный/прокси-URL от сервера вместо публичного. |
draft_model_url | Нет | — | Необязательный внешний HTTPS-URL крошечной черновой модели GGUF. Используется как запасной вариант, если «Имя файла встроенной черновой модели» не указано или отсутствует в required_files. |
speculative_max_draft | Нет | 8 | Верхняя граница числа черновых токенов, проверяемых в одном блоке. Фактическая длина подстраивается под наблюдаемую долю принятых токенов. |
min_remote_stages | Нет | 0 | Диагностический параметр размещения для тестирования конвейерного параллелизма GGUF. Если значение больше 0, контрольная точка назначается только узлам, которые будут выполнять не менее этого числа этапов по WebRTC, а не локально. После окна ожидания пира контрольной точки происходит возврат к обычному поведению, чтобы не оставлять боевые задачи без выполнения. |
wire_hidden_dtype | Нет | f16 | Тип данных скрытых активаций между этапами конвейера GGUF. f16 вдвое уменьшает объём передаваемых данных при префилле и спекулятивных блоках; f32 — диагностический запасной вариант. |
wire_hidden_codec | Нет | fp16 | Экспериментальный кодек для блоков скрытых активаций из нескольких токенов между этапами конвейера GGUF. Декодирование по одному токену использует дешёвый путь с типом данных; универсальные кодеки применяются только к блокам префилла и спекулятивным блокам, где экономия байтов может окупить стоимость кодека. fp16 — самый безопасный; auto8/hq8 — диагностические. |
stage_chaining | Нет | true | Когда все этапы GGUF удалённые и поддерживают протокол цепочки, скрытые активации отправляются напрямую от этапа к этапу, а не пересылаются на каждой границе через координатор контрольной точки. |
latent_mode | Нет | off | Soft Thinking / SwiReasoning без дообучения внутри <think>…</think>. Требует GGUF WASM с _lstage_eval_soft на хостах этапов; иначе происходит возврат к дискретному декодированию. По умолчанию выключено, пока не пересобран WASM в CDN. Взаимоисключающе со спекулятивным декодированием, когда активен Soft Thinking. |
latent_phase | Нет | tagged | tagged = маркеры размышления; prefix = с шага 0 (модели без маркеров). |
latent_exit_text | Нет | Final answer: | Используется только при latent_phase=prefix (обычные токены словаря). |
latent_top_n | Нет | 15 | Soft top-n |
latent_entropy_tau | Нет | 0.05 | Энтропия τ Cold Stop |
latent_cold_stop_k | Нет | 256 | Число последовательных шагов Cold Stop |
swi_dwell_window | Нет | 512 | Время пребывания Swi Explicit→Latent |
swi_max_switches | Нет | 8 | Максимум переключений Swi Latent→Explicit |
max_thinking_tokens | Нет | 1536 | Жёсткий бюджет до принудительного </think> / выхода из префикса. Значение должно оставаться заметно ниже `max_new_tokens`: если бюджет рассуждений равен общему бюджету генерации или превышает его, ответ обрывается на полуслове и ответа нет вовсе. Управляющий сервер пересчитывает это значение исходя из бюджета, который выбранное размещение реально может обеспечить: меньшее значение учитывается, а большее ограничивается. |
min_thinking_tokens | Нет | 0 | Нижняя граница: </think> исключается из семплирования, пока не накопится столько токенов рассуждения. 0 отключает. Не даёт блоку размышления закрыться на первом же сгенерированном токене и ответить вообще без рассуждений. |
prompt | Да | — | Сообщение пользователя / запрос для чат-модели |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Опрашивайте с тем же ключом API, пока status не перейдёт в конечное состояние (COMPLETED, FAILED, CANCELED или MODERATION_BLOCKED). Если включена модерация контента, задания могут начинаться в состоянии MODERATION_PENDING, прежде чем попасть в вычислительную очередь. Выполненные задания содержат предподписанные значения download_url для каждого результата.
Ответ на создание
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Ответ по завершении
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}