LLM
MiniCPM 2B – chat
Položte otázku nebo zkuste krátký úkol s psaním. Přihlásíte se při odeslání první zprávy.
MiniCPM by OpenBMB
Licence modelu
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Odešlete zadání pro chat a získejte odpověď MiniCPM 2B. Online LLM chat zdarma v prohlížeči, na zařízeních, která připojíte. Je to schopnější malý chat než Llama 3.2 1B ve velikosti pro telefony a je pouze textový. Jeden silný počítač ho unese; jinak se práce rozdělí mezi stroje, které přidáte. Při prvním spuštění se stáhne model, další odpovědi začnou rychleji.
Reference API
Odeslání přes REST
Pomocí svého osobního klíče API (msk_…) vytvářejte úlohy pro tuto úlohu ze svých vlastních nástrojů. Takto spuštěné úlohy běží na stejných zařízeních, která jste připojili na stránce Vaše zařízení — alespoň jedno z nich musí být online.
https://cp.meshlabs.cloud/v1/organizations/jobsOvěřujte se pomocí X-Organization-Api-Key: msk_your_personal_api_key. Název hlavičky odpovídá klíčům organizace; osobní klíče používají stejný koncový bod.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign se stejným klíčem API, nahrajte soubor na vrácenou adresu upload_url a poté předejte download_url v job_spec (například jako input_image_url).Tělo požadavku
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Pole job_spec
| Pole | Povinné | Výchozí | Popis |
|---|---|---|---|
system_prompt | Ne | — | Volitelný systémový prompt |
enable_thinking | Ne | true | Povolit uvažování MiniCPM5 před konečnou odpovědí (<think> / </think>). Nechte zapnuto. |
max_new_tokens | Ne | 2048 | Maximum vygenerovaných tokenů (uvažování + odpověď). Zvyšte pro dlouhé výstupy. Zadání a generování sdílejí kontextové okno, takže generování se zastaví na hranici kontextu a nezvyšuje minimum paměti fáze. |
max_context | Ne | 8192 | Celkový počet tokenů, pro které hostitelé fází alokují stav KV/rekurentní stav – zadání plus generování. Strop je největší kontext, při kterém Oracle tento model změřil, takže rozmístění nikdy nemusí extrapolovat za hranici doložených měření. Jeho zvýšení zvyšuje minimum paměti, a tím zužuje okruh zařízení, která mohou úlohu spustit. |
kv_hot_window | Ne | 32768 | Fyzická attention KV je omezena na nejnovějších N tokenů, takže konverzace delší než N zapomene své nejstarší repliky, místo aby se zastavila na hranici kontextu. 0 ponechá celý kontext rezidentní. Na úrovni kontextového okna nebo pod ní se nic nemění – stejná paměť, stejná attention – a snížení pod kontextové okno vyměňuje dlouhodobou paměť za neomezenou délku konverzace, protože model za oknem skutečně nevidí. |
turns | Ne | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Ne | 1 | Temperature |
top_p | Ne | 0.95 | Top P |
top_k | Ne | 0 | Top K |
presence_penalty | Ne | 0 | Presence Penalty |
repetition_penalty | Ne | 1 | Repetition Penalty |
seed | Ne | — | Náhodný seed pro reprodukovatelnost |
speculative_ngram | Ne | false | Návrhy vyhledáním v promptu: opakované n-gramy z kontextu se přehrají jako návrhové bloky a model je ověří JEDINÝM průchodem, takže jediný síťový round trip může potvrdit několik tokenů. Žádný další model; výstup je shodný se sekvenčním dekódováním. |
speculative_draft_model | Ne | false | Na uzlu s checkpointem spustí drobný návrhový model GGUF, který navrhuje bloky (preferujte „Název přiloženého souboru návrhového modelu“; externí URL zůstává k dispozici jako záložní možnost). Pokud návrhový model není k dispozici, přepne se na n-gramové návrhy. |
draft_model_file | Ne | — | Název nerozděleného návrhového modelu GGUF v balíčku tohoto workloadu. SDK ho vyhledá v required_files, takže soukromé buckety S3 mohou použít podepsanou/proxy URL poskytnutou serverem místo veřejné URL. |
draft_model_url | Ne | — | Volitelná externí HTTPS URL drobného návrhového modelu GGUF. Použije se jako záložní možnost, pokud „Název přiloženého souboru návrhového modelu“ chybí nebo není v required_files. |
speculative_max_draft | Ne | 8 | Horní hranice návrhových tokenů ověřovaných v jednom bloku. Efektivní délka se přizpůsobuje pozorované míře přijetí. |
min_remote_stages | Ne | 0 | Diagnostický parametr rozmístění pro testování pipeline-paralelního GGUF. Pokud je > 0, checkpoint se přiřadí pouze uzlům, které by spustily alespoň tolik fází přes WebRTC místo lokálně. Po uplynutí ochranné lhůty peeru s checkpointem se vrátí k běžnému chování, aby nevyhladověly produkční úlohy. |
wire_hidden_dtype | Ne | f16 | Datový typ skrytých aktivací mezi fázemi pipeline GGUF. f16 snižuje objem dat na lince pro prefill a spekulativní bloky na polovinu; f32 je diagnostická záloha. |
wire_hidden_codec | Ne | fp16 | Experimentální kodek pro vícetokenové bloky skrytých aktivací mezi fázemi pipeline GGUF. Dekódování jednoho tokenu zůstává na levné cestě podle datového typu; obecné kodeky se používají jen pro prefill/spekulativní bloky, kde úspora bajtů může vyvážit cenu kodeku. fp16 je nejbezpečnější; auto8/hq8 jsou diagnostické. |
stage_chaining | Ne | true | Pokud jsou všechny fáze GGUF vzdálené a podporují protokol řetězení, posílá skryté aktivace přímo z fáze do fáze, místo aby se každá hranice přenášela přes koordinátora checkpointu. |
latent_mode | Ne | off | Soft Thinking / SwiReasoning bez trénování během <think>…</think>. Vyžaduje GGUF WASM s _lstage_eval_soft na hostitelích fází; jinak se vrátí k diskrétnímu dekódování. Ve výchozím stavu vypnuto, dokud se nepřebuduje CDN WASM. Při aktivním Soft Thinking se vylučuje se spekulací. |
latent_phase | Ne | tagged | tagged = značky uvažování; prefix = od kroku 0 (modely bez značek). |
latent_exit_text | Ne | Final answer: | Používá se pouze při latent_phase=prefix (běžné tokeny slovníku). |
latent_top_n | Ne | 15 | Soft top-n |
latent_entropy_tau | Ne | 0.05 | Entropie τ pro Cold Stop |
latent_cold_stop_k | Ne | 256 | Po sobě jdoucí kroky Cold Stop |
swi_dwell_window | Ne | 512 | Prodleva Swi Explicit→Latent |
swi_max_switches | Ne | 8 | Maximum přepnutí Swi Latent→Explicit |
max_thinking_tokens | Ne | 1536 | Pevný rozpočet před vynuceným </think> / ukončením prefixu. Musí zůstat výrazně pod `max_new_tokens`: rozpočet uvažování rovný celkovému rozpočtu generování nebo vyšší vede k odpovědi uříznuté uprostřed myšlenky, bez jakéhokoli výsledku. Řídicí rovina tuto hodnotu znovu ořízne podle rozpočtu, který zvolené rozmístění skutečně unese, takže menší hodnota se respektuje a větší se omezí. |
min_thinking_tokens | Ne | 0 | Spodní mez: maskuje </think> ve vzorkování, dokud neexistuje tolik tokenů uvažování. 0 vypíná. Brání tomu, aby se blok uvažování uzavřel prvním vygenerovaným tokenem a odpověď přišla bez jakéhokoli uvažování. |
prompt | Ano | — | Zpráva / zadání pro chatovací model |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Dotazujte se se stejným klíčem API, dokud status nedosáhne koncového stavu (COMPLETED, FAILED, CANCELED nebo MODERATION_BLOCKED). Když je zapnuto moderování obsahu, mohou úlohy začínat ve stavu MODERATION_PENDING, než vstoupí do výpočetní fronty. Dokončené úlohy obsahují u každého výstupu předem podepsané hodnoty download_url.
Odpověď na vytvoření
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Odpověď po dokončení
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}