LLM

MiniCPM 2B-chat

Still et spørsmål eller prøv en kort skriveoppgave. Du logger inn når du sender den første meldingen.

MiniCPM by OpenBMB

Modellisenser

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Medfølgende lisens

Merknad

GratisPå nettUbegrensetMiniCPM by OpenBMB API-tilgang

Når du er klar.

Skriv meldingen din og trykk Send for å logge inn og sette i gang.

Send en chatprompt og få svar fra MiniCPM 2B. Gratis LLM-chat på nett i nettleseren, på enheter du kobler til. Det er en sterkere liten chat enn Llama 3.2 1B i telefonstørrelse, og den er bare tekst. Én kraftig datamaskin kan holde den, ellers fordeles arbeidet på maskiner du legger til. Første kjøring laster ned modellen, og senere svar starter raskere.

API-referanse

Send inn via REST

Bruk den personlige API-nøkkelen din (msk_…) til å opprette jobber for denne arbeidsbelastningen fra dine egne verktøy. Jobber som startes på denne måten, kjører på de samme enhetene du koblet til under Enhetene dine — minst én må være pålogget.

Skjul API-detaljer
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Autentiser med X-Organization-Api-Key: msk_your_personal_api_key. Headernavnet er det samme som for organisasjonsnøkler; personlige nøkler bruker samme endepunkt.

Inndatafiler:Kall POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign med samme API-nøkkel, last opp filen din til den returnerte upload_url, og send deretter download_url i job_spec (for eksempel som input_image_url).

Forespørselsinnhold

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Felt i job_spec

FeltPåkrevdStandardBeskrivelse
system_promptNei—Valgfri systemprompt
enable_thinkingNeitrueAktiver MiniCPM5-tenking før det endelige svaret (<think> / </think>). La denne stå på.
max_new_tokensNei2048Maksimalt antall genererte tokens (tenking + svar). Øk for lange svar. Prompt og generering deler kontekstvinduet, så genereringen stopper ved konteksten i stedet for å øke trinnets minnegulv.
max_contextNei8192Totalt antall tokens som trinnvertene setter av KV-/rekurrent tilstand til – prompt pluss generering. Taket er den største konteksten Oracle har målt for denne modellen, slik at plasseringen aldri trenger å ekstrapolere utover det som er dokumentert. Å øke den hever minnegulvet og begrenser dermed hvilke enheter som kan kjøre jobben.
kv_hot_windowNei32768Den fysiske oppmerksomhets-KV-en begrenses til de nyeste N tokens, slik at en samtale som er lengre enn N glemmer de eldste vendingene i stedet for å stoppe ved kontekstgrensen. 0 holder hele konteksten resident. Ved eller under kontekstvinduet endrer dette ingenting – samme minne, samme oppmerksomhet – og å sette det under kontekstvinduet bytter bort langtrekkende hukommelse mot ubegrenset samtalelengde, fordi modellen faktisk ikke kan se forbi vinduet.
turnsNei—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNei1Temperature
top_pNei0.95Top P
top_kNei0Top K
presence_penaltyNei0Presence Penalty
repetition_penaltyNei1Repetition Penalty
seedNei—Tilfeldig seed for reproduserbarhet
speculative_ngramNeifalsePrompt-oppslagsutkast: gjentatte n-gram fra konteksten spilles av på nytt som utkastblokker og verifiseres av modellen i ÉN gjennomgang, slik at én enkelt nettverksrunde kan bekrefte flere tokens. Ingen ekstra modell, og utdataene er identiske med sekvensiell dekoding.
speculative_draft_modelNeifalseKjør en liten GGUF-utkastmodell på sjekkpunktnoden for å foreslå utkastblokker (foretrekk «Filnavn på medfølgende utkastmodell». Ekstern URL er fortsatt tilgjengelig som reserve). Faller tilbake til n-gram-utkast når utkastmodellen ikke er tilgjengelig.
draft_model_fileNei—Filnavn på en ikke-partisjonert GGUF-utkastmodell i denne arbeidsbelastningspakken. SDK-et løser den fra required_files, slik at private S3-bøtter kan bruke den serverleverte signerte/proxy-URL-en i stedet for en offentlig URL.
draft_model_urlNei—Valgfri ekstern HTTPS-URL til den lille GGUF-utkastmodellen. Brukes som reserve når «Filnavn på medfølgende utkastmodell» mangler eller ikke finnes i required_files.
speculative_max_draftNei8Øvre grense for utkasttokens som verifiseres per blokk. Den effektive lengden tilpasser seg den observerte godkjenningsraten.
min_remote_stagesNei0Diagnostisk plasseringsvalg for testing av GGUF pipeline-parallellisme. Når > 0, tildeles sjekkpunktet bare til noder som ville kjørt minst så mange trinn over WebRTC i stedet for lokalt. Faller tilbake etter sjekkpunktpeerens utsettelsesvindu for å unngå å sulte produksjonsjobber.
wire_hidden_dtypeNeif16Datatype for skjulte aktiveringer mellom GGUF-pipelinetrinn. f16 halverer nyttelasten på tråden for prefill og spekulative blokker. f32 er en diagnostisk reserve.
wire_hidden_codecNeifp16Eksperimentell kodek for skjulte aktiveringsblokker med flere tokens mellom GGUF-pipelinetrinn. Dekoding av enkelttokens beholder den billige datatypestien. Generiske kodeker brukes bare for prefill-/spekulative blokker der byte-besparelser kan veie opp for kodekkostnaden. fp16 er tryggest, auto8/hq8 er diagnostikk.
stage_chainingNeitrueNår alle GGUF-trinn er eksterne og støtter kjedeprotokollen, sendes skjulte aktiveringer direkte fra trinn til trinn i stedet for å videresende hver grense via sjekkpunktkoordinatoren.
latent_modeNeioffTreningsfri Soft Thinking / SwiReasoning under <think>…</think>. Krever GGUF WASM med _lstage_eval_soft på trinnvertene, ellers faller den tilbake til diskret dekoding. Standard er av til CDN-WASM er bygget på nytt. Gjensidig utelukkende med spekulasjon når Soft Thinking er aktiv.
latent_phaseNeitaggedtagged = tenkemarkører, prefix = fra steg 0 (modeller uten markører).
latent_exit_textNei Final answer: Brukes bare når latent_phase=prefix (vanlige ordforrådstokens).
latent_top_nNei15Soft top-n
latent_entropy_tauNei0.05Cold Stop-entropi τ
latent_cold_stop_kNei256Cold Stop påfølgende steg
swi_dwell_windowNei512Swi Eksplisitt→Latent oppholdstid
swi_max_switchesNei8Swi maks Latent→Eksplisitt-bytter
max_thinking_tokensNei1536Hardt budsjett før tvungen </think> / prefiksutgang. Må holdes merkbart under `max_new_tokens`: et resonneringsbudsjett på eller over det totale genereringsbudsjettet gir et svar som kuttes midt i tankegangen uten noe svar i det hele tatt. Kontrollplanet beregner dette på nytt ut fra budsjettet den valgte plasseringen faktisk har råd til, slik at en mindre verdi respekteres og en større blir begrenset.
min_thinking_tokensNei0Gulv: maskerer </think> ut av samplingen til så mange resonneringstokens finnes. 0 slår det av. Hindrer at en tenkeblokk lukkes på det første genererte tokenet og svarer helt uten resonnering.
promptJa—Brukermelding / prompt til chatmodellen

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Poll med samme API-nøkkel til status er endelig (COMPLETED, FAILED, CANCELED eller MODERATION_BLOCKED). Når innholdsmoderering er aktivert, kan jobber starte i MODERATION_PENDING før de går inn i beregningskøen. Fullførte jobber inneholder forhåndssignerte download_url-verdier for hvert utdata.

Svar ved oppretting

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Svar ved fullføring

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}