LLM

MiniCPM 2B-chat

Stil et spørgsmål, eller prøv en kort skriveopgave. Du logger ind, når du sender din første besked.

MiniCPM by OpenBMB

Modellicenser

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Medfølgende licens

Meddelelse

GratisOnlineUbegrænsetMiniCPM by OpenBMB API-adgang

Når du er klar.

Skriv din besked, og tryk på Send for at logge ind og gå i gang.

Send en chatprompt, og få et svar fra MiniCPM 2B. Gratis online LLM-chat i browseren på enheder, du tilslutter. Det er en stærkere lille chatmodel end Llama 3.2 1B i telefonstørrelse, og den er kun til tekst. Én stærk computer kan rumme den; ellers fordeles arbejdet på de maskiner, du tilføjer. Første kørsel downloader modellen; senere svar starter hurtigere.

API-reference

Indsend via REST

Brug din personlige API-nøgle (msk_…) til at oprette jobs for denne workload fra dine egne værktøjer. Jobs, der startes på denne måde, kører på de samme enheder, som du har forbundet under Dine enheder — mindst én skal være online.

Skjul API-detaljer
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Godkend med X-Organization-Api-Key: msk_your_personal_api_key. Headernavnet er det samme som for organisationsnøgler; personlige nøgler bruger det samme endpoint.

Inputfiler:Kald POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign med den samme API-nøgle, upload din fil til den returnerede upload_url, og send derefter download_url i job_spec (f.eks. som input_image_url).

Forespørgslens body

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Felter i job_spec

FeltPåkrævetStandardBeskrivelse
system_promptNej—Valgfrit systemprompt
enable_thinkingNejtrueAktivér MiniCPM5-tænkning før det endelige svar (<think> / </think>). Lad den stå slået til.
max_new_tokensNej2048Maksimalt antal genererede tokens (tænkning + svar). Hæv til langt output. Prompt og generering deler kontekstvinduet, så genereringen stopper ved konteksten i stedet for at øge stadiets hukommelsesgulv.
max_contextNej8192Samlet antal tokens, som stadiernes værter afsætter KV-/rekurrent tilstand til – prompt plus generering. Loftet er den største kontekst, Oracle har målt denne model ved, så placeringen aldrig behøver at ekstrapolere ud over beviserne. Hvis du hæver det, hæves hukommelsesgulvet, og dermed bliver det snævrere, hvilke enheder der kan køre opgaven.
kv_hot_windowNej32768Fysisk attention-KV begrænses til de nyeste N tokens, så en samtale, der er længere end N, glemmer sine ældste replikker i stedet for at stoppe ved kontekstgrænsen. 0 beholder hele konteksten resident. Ved eller under kontekstvinduet ændrer dette intet – samme hukommelse, samme attention – og hvis du sænker det under kontekstvinduet, bytter du langtrækkende genkaldelse for ubegrænset samtalelængde, fordi modellen reelt ikke kan se ud over vinduet.
turnsNej—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNej1Temperature
top_pNej0.95Top P
top_kNej0Top K
presence_penaltyNej0Presence Penalty
repetition_penaltyNej1Repetition Penalty
seedNej—Tilfældigt seed for reproducerbarhed
speculative_ngramNejfalsePrompt-opslagsudkast: gentagne n-gram fra konteksten afspilles igen som udkastblokke og verificeres af modellen i ÉT gennemløb, så en enkelt netværksrundtur kan fastlægge flere tokens. Ingen ekstra model; outputtet er identisk med sekventiel afkodning.
speculative_draft_modelNejfalseKør en lille GGUF-udkastmodel på checkpoint-noden for at foreslå udkastblokke (foretræk 'Draft model bundled filename'; ekstern URL er fortsat tilgængelig som fallback). Falder tilbage til n-gram-udkast, når udkastmodellen ikke er tilgængelig.
draft_model_fileNej—Filnavn på en upartitioneret GGUF-udkastmodel i denne workload-pakke. SDK'et finder den i required_files, så private S3-buckets kan bruge den serverleverede signerede/proxy-URL i stedet for en offentlig URL.
draft_model_urlNej—Valgfri ekstern HTTPS-URL til den lille GGUF-udkastmodel. Bruges som fallback, når 'Draft model bundled filename' mangler eller ikke findes i required_files.
speculative_max_draftNej8Øvre grænse for udkasttokens, der verificeres pr. blok. Den effektive længde tilpasser sig den observerede accepteringsrate.
min_remote_stagesNej0Diagnostisk placeringsknap til test af GGUF-pipelineparallelisme. Når den er > 0, tildeles checkpointet kun til noder, der ville køre mindst så mange stadier over WebRTC i stedet for lokalt. Falder tilbage efter checkpoint-peerens henstandsvindue for ikke at udsulte produktionsopgaver.
wire_hidden_dtypeNejf16Dtype for skjulte aktiveringer mellem GGUF-pipelinestadier. f16 halverer wire-nyttelasten for prefill og spekulative blokke; f32 er en diagnostisk fallback.
wire_hidden_codecNejfp16Eksperimentel codec til skjulte aktiveringsblokke med flere tokens mellem GGUF-pipelinestadier. Afkodning af enkelte tokens bruger den billige dtype-sti; generiske codecs bruges kun til prefill-/spekulative blokke, hvor bytebesparelser kan opveje codec-omkostningen. fp16 er sikrest; auto8/hq8 er diagnostik.
stage_chainingNejtrueNår alle GGUF-stadier er eksterne og understøtter kædeprotokollen, sendes skjulte aktiveringer direkte fra stadie til stadie i stedet for at blive videresendt via checkpoint-koordinatoren ved hver grænse.
latent_modeNejoffTræningsfri Soft Thinking / SwiReasoning under <think>…</think>. Kræver GGUF WASM med _lstage_eval_soft på stadiehosts; ellers falder den tilbage til diskret afkodning. Standard fra, indtil CDN-WASM er genbygget. Udelukker spekulation, når Soft Thinking er aktiv.
latent_phaseNejtaggedtagged = tænkemarkører; prefix = fra trin 0 (modeller uden markører).
latent_exit_textNej Final answer: Bruges kun, når latent_phase=prefix (almindelige vokabulartokens).
latent_top_nNej15Soft top-n
latent_entropy_tauNej0.05Cold Stop-entropi τ
latent_cold_stop_kNej256Cold Stop på hinanden følgende trin
swi_dwell_windowNej512Swi Explicit→Latent-ophold
swi_max_switchesNej8Swi maks. Latent→Explicit-skift
max_thinking_tokensNej1536Hårdt budget før tvungen </think> / præfiksafslutning. Skal ligge mærkbart under `max_new_tokens`: et ræsonnementsbudget på eller over det samlede genereringsbudget giver et svar, der afbrydes midt i tankerne uden noget svar overhovedet. Kontrolplanet beregner dette igen ud fra det budget, den valgte placering faktisk kan klare, så en mindre værdi respekteres, og en større begrænses.
min_thinking_tokensNej0Gulv: maskér </think> ud af samplingen, indtil så mange ræsonnementstokens findes. 0 deaktiverer. Forhindrer, at en tænkeblok lukker på det første genererede token og svarer helt uden ræsonnement.
promptJa—Brugerbesked / prompt til chatmodellen

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Poll med den samme API-nøgle, indtil status er endelig (COMPLETED, FAILED, CANCELED eller MODERATION_BLOCKED). Når indholdsmoderering er aktiveret, kan jobs starte i MODERATION_PENDING, før de kommer i beregningskøen. Fuldførte jobs indeholder forhåndssignerede download_url-værdier for hvert output.

Svar ved oprettelse

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Svar ved fuldførelse

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}