LLM

MiniCPM 2B – chat

Položte otázku nebo zkuste krátký úkol s psaním. Přihlásíte se při odeslání první zprávy.

MiniCPM by OpenBMB

Licence modelu

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Přiložená licence

Oznámení

ZdarmaOnlineBez omezeníMiniCPM by OpenBMB Přístup přes API

Kdykoli budete připraveni.

Napište zprávu a stiskněte Odeslat — přihlásíte se a začnete.

Odešlete zadání pro chat a získejte odpověď MiniCPM 2B. Online LLM chat zdarma v prohlížeči, na zařízeních, která připojíte. Je to schopnější malý chat než Llama 3.2 1B ve velikosti pro telefony a je pouze textový. Jeden silný počítač ho unese; jinak se práce rozdělí mezi stroje, které přidáte. Při prvním spuštění se stáhne model, další odpovědi začnou rychleji.

Reference API

Odeslání přes REST

Pomocí svého osobního klíče API (msk_…) vytvářejte úlohy pro tuto úlohu ze svých vlastních nástrojů. Takto spuštěné úlohy běží na stejných zařízeních, která jste připojili na stránce Vaše zařízení — alespoň jedno z nich musí být online.

Skrýt podrobnosti API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Ověřujte se pomocí X-Organization-Api-Key: msk_your_personal_api_key. Název hlavičky odpovídá klíčům organizace; osobní klíče používají stejný koncový bod.

Vstupní soubory:Zavolejte POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign se stejným klíčem API, nahrajte soubor na vrácenou adresu upload_url a poté předejte download_url v job_spec (například jako input_image_url).

Tělo požadavku

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Pole job_spec

PolePovinnéVýchozíPopis
system_promptNe—Volitelný systémový prompt
enable_thinkingNetruePovolit uvažování MiniCPM5 před konečnou odpovědí (<think> / </think>). Nechte zapnuto.
max_new_tokensNe2048Maximum vygenerovaných tokenů (uvažování + odpověď). Zvyšte pro dlouhé výstupy. Zadání a generování sdílejí kontextové okno, takže generování se zastaví na hranici kontextu a nezvyšuje minimum paměti fáze.
max_contextNe8192Celkový počet tokenů, pro které hostitelé fází alokují stav KV/rekurentní stav – zadání plus generování. Strop je největší kontext, při kterém Oracle tento model změřil, takže rozmístění nikdy nemusí extrapolovat za hranici doložených měření. Jeho zvýšení zvyšuje minimum paměti, a tím zužuje okruh zařízení, která mohou úlohu spustit.
kv_hot_windowNe32768Fyzická attention KV je omezena na nejnovějších N tokenů, takže konverzace delší než N zapomene své nejstarší repliky, místo aby se zastavila na hranici kontextu. 0 ponechá celý kontext rezidentní. Na úrovni kontextového okna nebo pod ní se nic nemění – stejná paměť, stejná attention – a snížení pod kontextové okno vyměňuje dlouhodobou paměť za neomezenou délku konverzace, protože model za oknem skutečně nevidí.
turnsNe—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNe1Temperature
top_pNe0.95Top P
top_kNe0Top K
presence_penaltyNe0Presence Penalty
repetition_penaltyNe1Repetition Penalty
seedNe—Náhodný seed pro reprodukovatelnost
speculative_ngramNefalseNávrhy vyhledáním v promptu: opakované n-gramy z kontextu se přehrají jako návrhové bloky a model je ověří JEDINÝM průchodem, takže jediný síťový round trip může potvrdit několik tokenů. Žádný další model; výstup je shodný se sekvenčním dekódováním.
speculative_draft_modelNefalseNa uzlu s checkpointem spustí drobný návrhový model GGUF, který navrhuje bloky (preferujte „Název přiloženého souboru návrhového modelu“; externí URL zůstává k dispozici jako záložní možnost). Pokud návrhový model není k dispozici, přepne se na n-gramové návrhy.
draft_model_fileNe—Název nerozděleného návrhového modelu GGUF v balíčku tohoto workloadu. SDK ho vyhledá v required_files, takže soukromé buckety S3 mohou použít podepsanou/proxy URL poskytnutou serverem místo veřejné URL.
draft_model_urlNe—Volitelná externí HTTPS URL drobného návrhového modelu GGUF. Použije se jako záložní možnost, pokud „Název přiloženého souboru návrhového modelu“ chybí nebo není v required_files.
speculative_max_draftNe8Horní hranice návrhových tokenů ověřovaných v jednom bloku. Efektivní délka se přizpůsobuje pozorované míře přijetí.
min_remote_stagesNe0Diagnostický parametr rozmístění pro testování pipeline-paralelního GGUF. Pokud je > 0, checkpoint se přiřadí pouze uzlům, které by spustily alespoň tolik fází přes WebRTC místo lokálně. Po uplynutí ochranné lhůty peeru s checkpointem se vrátí k běžnému chování, aby nevyhladověly produkční úlohy.
wire_hidden_dtypeNef16Datový typ skrytých aktivací mezi fázemi pipeline GGUF. f16 snižuje objem dat na lince pro prefill a spekulativní bloky na polovinu; f32 je diagnostická záloha.
wire_hidden_codecNefp16Experimentální kodek pro vícetokenové bloky skrytých aktivací mezi fázemi pipeline GGUF. Dekódování jednoho tokenu zůstává na levné cestě podle datového typu; obecné kodeky se používají jen pro prefill/spekulativní bloky, kde úspora bajtů může vyvážit cenu kodeku. fp16 je nejbezpečnější; auto8/hq8 jsou diagnostické.
stage_chainingNetruePokud jsou všechny fáze GGUF vzdálené a podporují protokol řetězení, posílá skryté aktivace přímo z fáze do fáze, místo aby se každá hranice přenášela přes koordinátora checkpointu.
latent_modeNeoffSoft Thinking / SwiReasoning bez trénování během <think>…</think>. Vyžaduje GGUF WASM s _lstage_eval_soft na hostitelích fází; jinak se vrátí k diskrétnímu dekódování. Ve výchozím stavu vypnuto, dokud se nepřebuduje CDN WASM. Při aktivním Soft Thinking se vylučuje se spekulací.
latent_phaseNetaggedtagged = značky uvažování; prefix = od kroku 0 (modely bez značek).
latent_exit_textNe Final answer: Používá se pouze při latent_phase=prefix (běžné tokeny slovníku).
latent_top_nNe15Soft top-n
latent_entropy_tauNe0.05Entropie τ pro Cold Stop
latent_cold_stop_kNe256Po sobě jdoucí kroky Cold Stop
swi_dwell_windowNe512Prodleva Swi Explicit→Latent
swi_max_switchesNe8Maximum přepnutí Swi Latent→Explicit
max_thinking_tokensNe1536Pevný rozpočet před vynuceným </think> / ukončením prefixu. Musí zůstat výrazně pod `max_new_tokens`: rozpočet uvažování rovný celkovému rozpočtu generování nebo vyšší vede k odpovědi uříznuté uprostřed myšlenky, bez jakéhokoli výsledku. Řídicí rovina tuto hodnotu znovu ořízne podle rozpočtu, který zvolené rozmístění skutečně unese, takže menší hodnota se respektuje a větší se omezí.
min_thinking_tokensNe0Spodní mez: maskuje </think> ve vzorkování, dokud neexistuje tolik tokenů uvažování. 0 vypíná. Brání tomu, aby se blok uvažování uzavřel prvním vygenerovaným tokenem a odpověď přišla bez jakéhokoli uvažování.
promptAno—Zpráva / zadání pro chatovací model

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Dotazujte se se stejným klíčem API, dokud status nedosáhne koncového stavu (COMPLETED, FAILED, CANCELED nebo MODERATION_BLOCKED). Když je zapnuto moderování obsahu, mohou úlohy začínat ve stavu MODERATION_PENDING, než vstoupí do výpočetní fronty. Dokončené úlohy obsahují u každého výstupu předem podepsané hodnoty download_url.

Odpověď na vytvoření

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Odpověď po dokončení

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}