LLM
Чат MiniCPM 2B
Поставте запитання або спробуйте коротке завдання з написання тексту. Увійдете, коли надішлете перше повідомлення.
MiniCPM by OpenBMB
Ліцензії моделі
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Вибрати модель
Поточна модель:
Чат MiniCPM 2B
Якість результату: 50%
Найвища якість, яку може запустити ваш пристрій. Додайте ще пристроїв, щоб завершувати швидше.
Напишіть повідомлення й натисніть «Надіслати», щоб увійти й почати.
Надішліть запит у чат і отримайте відповідь MiniCPM 2B. Безкоштовний онлайн LLM-чат у браузері на підключених вами пристроях. Це сильніший невеликий чат, ніж Llama 3.2 1B розміру для телефона, і він лише текстовий. Один потужний комп’ютер може вмістити його повністю; інакше робота розподіляється між доданими вами машинами. Під час першого запуску завантажується модель, наступні відповіді стартують швидше.
Довідник API
Надсилання через REST
Використовуйте свій особистий ключ API (msk_…), щоб створювати завдання для цього навантаження з власних інструментів. Завдання, запущені так, виконуються на тих самих пристроях, які ви під’єднали на сторінці Ваші пристрої, — принаймні один має бути в мережі.
https://cp.meshlabs.cloud/v1/organizations/jobsАвтентифікуйтеся за допомогою X-Organization-Api-Key: msk_your_personal_api_key. Назва заголовка така сама, як для ключів організації; особисті ключі використовують ту саму кінцеву точку.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign з тим самим ключем API, завантажте файл на повернутий upload_url, а потім передайте download_url у job_spec (наприклад, як input_image_url).Тіло запиту
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Поля job_spec
| Поле | Обов’язкове | За замовчуванням | Опис |
|---|---|---|---|
system_prompt | Ні | — | Необов’язковий системний запит |
enable_thinking | Ні | true | Увімкнути міркування MiniCPM5 перед остаточною відповіддю (<think> / </think>). Залиште це ввімкненим. |
max_new_tokens | Ні | 2048 | Максимальна кількість згенерованих токенів (міркування + відповідь). Збільште для довгих текстів. Запит і генерація ділять вікно контексту, тож генерація зупиняється на межі контексту, а не збільшує нижню межу пам’яті етапу. |
max_context | Ні | 8192 | Загальна кількість токенів, для яких вузли етапів виділяють стан KV/рекурентний стан, — запит плюс генерація. Верхня межа — найбільший контекст, на якому Oracle виміряв цю модель, тож розміщенню не доводиться екстраполювати поза межі підтверджених даних. Збільшення цього значення підвищує нижню межу пам’яті й відповідно звужує коло пристроїв, які можуть виконати завдання. |
kv_hot_window | Ні | 32768 | Фізичний KV уваги обмежується найновішими N токенами, тож розмова довша за N забуває найстаріші репліки, а не зупиняється на межі контексту. 0 зберігає весь контекст у пам’яті. На рівні вікна контексту або нижче нічого не змінюється — та сама пам’ять, та сама увага — а зниження нижче вікна контексту міняє довгострокову пам’ять на необмежену довжину розмови, бо модель справді не бачить далі за вікно. |
turns | Ні | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Ні | 1 | Temperature |
top_p | Ні | 0.95 | Top P |
top_k | Ні | 0 | Top K |
presence_penalty | Ні | 0 | Presence Penalty |
repetition_penalty | Ні | 1 | Repetition Penalty |
seed | Ні | — | Випадкове значення seed для відтворюваності |
speculative_ngram | Ні | false | Чернетування за пошуком у запиті: повторювані n-грами з контексту відтворюються як чернеткові блоки й перевіряються моделлю за ОДИН прохід, тож один мережевий обмін може зафіксувати кілька токенів. Додаткової моделі немає; результат ідентичний послідовному декодуванню. |
speculative_draft_model | Ні | false | Запустіть крихітну чернеткову модель GGUF на вузлі з контрольною точкою, щоб пропонувати чернеткові блоки (віддавайте перевагу «Ім’ю вбудованого файлу чернеткової моделі»; зовнішній URL залишається запасним варіантом). Якщо чернеткова модель недоступна, відкочується до n-грамного чернетування. |
draft_model_file | Ні | — | Ім’я файлу нерозділеної чернеткової моделі GGUF у пакеті цього навантаження. SDK визначає його з required_files, тож приватні S3-бакети можуть використовувати підписаний/проксі-URL, наданий сервером, замість публічного URL. |
draft_model_url | Ні | — | Необов’язковий зовнішній HTTPS URL крихітної чернеткової моделі GGUF. Використовується як запасний варіант, коли «Ім’я вбудованого файлу чернеткової моделі» відсутнє або не зазначене в required_files. |
speculative_max_draft | Ні | 8 | Верхня межа кількості чернеткових токенів, що перевіряються за один блок. Фактична довжина підлаштовується під спостережуваний рівень прийняття. |
min_remote_stages | Ні | 0 | Діагностичний параметр розміщення для тестування конвеєрного паралелізму GGUF. Якщо > 0, контрольна точка призначається лише вузлам, які виконували б щонайменше стільки етапів через WebRTC, а не локально. Після пільгового вікна для вузла контрольної точки відкочується, щоб не блокувати робочі завдання. |
wire_hidden_dtype | Ні | f16 | Тип даних прихованої активації між етапами конвеєра GGUF. f16 удвічі зменшує корисне навантаження для prefill і спекулятивних блоків; f32 — діагностичний запасний варіант. |
wire_hidden_codec | Ні | fp16 | Експериментальний кодек для багатотокенових блоків прихованих активацій між етапами конвеєра GGUF. Декодування одного токена зберігає дешевий шлях за типом даних; загальні кодеки використовуються лише для prefill/спекулятивних блоків, де економія байтів може компенсувати вартість кодека. fp16 — найбезпечніший; auto8/hq8 — діагностичні. |
stage_chaining | Ні | true | Коли всі етапи GGUF віддалені й підтримують протокол ланцюжка, надсилати приховані активації безпосередньо від етапу до етапу, а не пересилати кожну межу через координатор контрольної точки. |
latent_mode | Ні | off | Soft Thinking / SwiReasoning без навчання під час <think>…</think>. Потрібен GGUF WASM із _lstage_eval_soft на вузлах етапів; інакше відкочується до дискретного декодування. За замовчуванням вимкнено, доки не перебудовано CDN WASM. Взаємно виключається зі спекуляцією, коли активний Soft Thinking. |
latent_phase | Ні | tagged | tagged = маркери think; prefix = з кроку 0 (моделі без маркерів). |
latent_exit_text | Ні | Final answer: | Використовується лише за latent_phase=prefix (звичайні токени словника). |
latent_top_n | Ні | 15 | Soft top-n |
latent_entropy_tau | Ні | 0.05 | Ентропія Cold Stop τ |
latent_cold_stop_k | Ні | 256 | Послідовні кроки Cold Stop |
swi_dwell_window | Ні | 512 | Витримка Swi Explicit→Latent |
swi_max_switches | Ні | 8 | Макс. перемикань Swi Latent→Explicit |
max_thinking_tokens | Ні | 1536 | Жорсткий бюджет до примусового </think> / виходу за префіксом. Має залишатися помітно меншим за `max_new_tokens`: бюджет міркування, що дорівнює загальному бюджету генерації або перевищує його, дає відповідь, обірвану посеред думки, без жодної остаточної відповіді. Керівний сервер заново обчислює це з бюджету, який може собі дозволити обране розміщення, тож менше значення враховується, а більше — обмежується. |
min_thinking_tokens | Ні | 0 | Нижня межа: маскувати </think> під час семплування, доки не набереться стільки токенів міркування. 0 вимикає. Не дає блоку think закритися на першому згенерованому токені й відповісти без жодних міркувань. |
prompt | Так | — | Повідомлення користувача / запит для чат-моделі |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Опитуйте з тим самим ключем API, доки status не стане кінцевим (COMPLETED, FAILED, CANCELED або MODERATION_BLOCKED). Коли ввімкнено модерацію вмісту, завдання можуть починатися в стані MODERATION_PENDING, перш ніж потрапити в чергу обчислень. Завершені завдання містять попередньо підписані значення download_url для кожного результату.
Відповідь на створення
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Відповідь після завершення
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}