LLM
MiniCPM 2B-chat
Still et spørsmål eller prøv en kort skriveoppgave. Du logger inn når du sender den første meldingen.
MiniCPM by OpenBMB
Modellisenser
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Send en chatprompt og få svar fra MiniCPM 2B. Gratis LLM-chat på nett i nettleseren, på enheter du kobler til. Det er en sterkere liten chat enn Llama 3.2 1B i telefonstørrelse, og den er bare tekst. Én kraftig datamaskin kan holde den, ellers fordeles arbeidet på maskiner du legger til. Første kjøring laster ned modellen, og senere svar starter raskere.
API-referanse
Send inn via REST
Bruk den personlige API-nøkkelen din (msk_…) til å opprette jobber for denne arbeidsbelastningen fra dine egne verktøy. Jobber som startes på denne måten, kjører på de samme enhetene du koblet til under Enhetene dine — minst én må være pålogget.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentiser med X-Organization-Api-Key: msk_your_personal_api_key. Headernavnet er det samme som for organisasjonsnøkler; personlige nøkler bruker samme endepunkt.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign med samme API-nøkkel, last opp filen din til den returnerte upload_url, og send deretter download_url i job_spec (for eksempel som input_image_url).Forespørselsinnhold
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Felt i job_spec
| Felt | Påkrevd | Standard | Beskrivelse |
|---|---|---|---|
system_prompt | Nei | — | Valgfri systemprompt |
enable_thinking | Nei | true | Aktiver MiniCPM5-tenking før det endelige svaret (<think> / </think>). La denne stå på. |
max_new_tokens | Nei | 2048 | Maksimalt antall genererte tokens (tenking + svar). Øk for lange svar. Prompt og generering deler kontekstvinduet, så genereringen stopper ved konteksten i stedet for å øke trinnets minnegulv. |
max_context | Nei | 8192 | Totalt antall tokens som trinnvertene setter av KV-/rekurrent tilstand til – prompt pluss generering. Taket er den største konteksten Oracle har målt for denne modellen, slik at plasseringen aldri trenger å ekstrapolere utover det som er dokumentert. Å øke den hever minnegulvet og begrenser dermed hvilke enheter som kan kjøre jobben. |
kv_hot_window | Nei | 32768 | Den fysiske oppmerksomhets-KV-en begrenses til de nyeste N tokens, slik at en samtale som er lengre enn N glemmer de eldste vendingene i stedet for å stoppe ved kontekstgrensen. 0 holder hele konteksten resident. Ved eller under kontekstvinduet endrer dette ingenting – samme minne, samme oppmerksomhet – og å sette det under kontekstvinduet bytter bort langtrekkende hukommelse mot ubegrenset samtalelengde, fordi modellen faktisk ikke kan se forbi vinduet. |
turns | Nei | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Nei | 1 | Temperature |
top_p | Nei | 0.95 | Top P |
top_k | Nei | 0 | Top K |
presence_penalty | Nei | 0 | Presence Penalty |
repetition_penalty | Nei | 1 | Repetition Penalty |
seed | Nei | — | Tilfeldig seed for reproduserbarhet |
speculative_ngram | Nei | false | Prompt-oppslagsutkast: gjentatte n-gram fra konteksten spilles av på nytt som utkastblokker og verifiseres av modellen i ÉN gjennomgang, slik at én enkelt nettverksrunde kan bekrefte flere tokens. Ingen ekstra modell, og utdataene er identiske med sekvensiell dekoding. |
speculative_draft_model | Nei | false | Kjør en liten GGUF-utkastmodell på sjekkpunktnoden for å foreslå utkastblokker (foretrekk «Filnavn på medfølgende utkastmodell». Ekstern URL er fortsatt tilgjengelig som reserve). Faller tilbake til n-gram-utkast når utkastmodellen ikke er tilgjengelig. |
draft_model_file | Nei | — | Filnavn på en ikke-partisjonert GGUF-utkastmodell i denne arbeidsbelastningspakken. SDK-et løser den fra required_files, slik at private S3-bøtter kan bruke den serverleverte signerte/proxy-URL-en i stedet for en offentlig URL. |
draft_model_url | Nei | — | Valgfri ekstern HTTPS-URL til den lille GGUF-utkastmodellen. Brukes som reserve når «Filnavn på medfølgende utkastmodell» mangler eller ikke finnes i required_files. |
speculative_max_draft | Nei | 8 | Øvre grense for utkasttokens som verifiseres per blokk. Den effektive lengden tilpasser seg den observerte godkjenningsraten. |
min_remote_stages | Nei | 0 | Diagnostisk plasseringsvalg for testing av GGUF pipeline-parallellisme. Når > 0, tildeles sjekkpunktet bare til noder som ville kjørt minst så mange trinn over WebRTC i stedet for lokalt. Faller tilbake etter sjekkpunktpeerens utsettelsesvindu for å unngå å sulte produksjonsjobber. |
wire_hidden_dtype | Nei | f16 | Datatype for skjulte aktiveringer mellom GGUF-pipelinetrinn. f16 halverer nyttelasten på tråden for prefill og spekulative blokker. f32 er en diagnostisk reserve. |
wire_hidden_codec | Nei | fp16 | Eksperimentell kodek for skjulte aktiveringsblokker med flere tokens mellom GGUF-pipelinetrinn. Dekoding av enkelttokens beholder den billige datatypestien. Generiske kodeker brukes bare for prefill-/spekulative blokker der byte-besparelser kan veie opp for kodekkostnaden. fp16 er tryggest, auto8/hq8 er diagnostikk. |
stage_chaining | Nei | true | Når alle GGUF-trinn er eksterne og støtter kjedeprotokollen, sendes skjulte aktiveringer direkte fra trinn til trinn i stedet for å videresende hver grense via sjekkpunktkoordinatoren. |
latent_mode | Nei | off | Treningsfri Soft Thinking / SwiReasoning under <think>…</think>. Krever GGUF WASM med _lstage_eval_soft på trinnvertene, ellers faller den tilbake til diskret dekoding. Standard er av til CDN-WASM er bygget på nytt. Gjensidig utelukkende med spekulasjon når Soft Thinking er aktiv. |
latent_phase | Nei | tagged | tagged = tenkemarkører, prefix = fra steg 0 (modeller uten markører). |
latent_exit_text | Nei | Final answer: | Brukes bare når latent_phase=prefix (vanlige ordforrådstokens). |
latent_top_n | Nei | 15 | Soft top-n |
latent_entropy_tau | Nei | 0.05 | Cold Stop-entropi τ |
latent_cold_stop_k | Nei | 256 | Cold Stop påfølgende steg |
swi_dwell_window | Nei | 512 | Swi Eksplisitt→Latent oppholdstid |
swi_max_switches | Nei | 8 | Swi maks Latent→Eksplisitt-bytter |
max_thinking_tokens | Nei | 1536 | Hardt budsjett før tvungen </think> / prefiksutgang. Må holdes merkbart under `max_new_tokens`: et resonneringsbudsjett på eller over det totale genereringsbudsjettet gir et svar som kuttes midt i tankegangen uten noe svar i det hele tatt. Kontrollplanet beregner dette på nytt ut fra budsjettet den valgte plasseringen faktisk har råd til, slik at en mindre verdi respekteres og en større blir begrenset. |
min_thinking_tokens | Nei | 0 | Gulv: maskerer </think> ut av samplingen til så mange resonneringstokens finnes. 0 slår det av. Hindrer at en tenkeblokk lukkes på det første genererte tokenet og svarer helt uten resonnering. |
prompt | Ja | — | Brukermelding / prompt til chatmodellen |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Poll med samme API-nøkkel til status er endelig (COMPLETED, FAILED, CANCELED eller MODERATION_BLOCKED). Når innholdsmoderering er aktivert, kan jobber starte i MODERATION_PENDING før de går inn i beregningskøen. Fullførte jobber inneholder forhåndssignerte download_url-verdier for hvert utdata.
Svar ved oppretting
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Svar ved fullføring
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}