LLM

MiniCPM 2B-chat

Stel een vraag of probeer een korte schrijfopdracht. U logt in wanneer u uw eerste bericht verzendt.

MiniCPM by OpenBMB

Modellicenties

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Meegeleverde licentie

Kennisgeving

GratisOnlineOnbeperktMiniCPM by OpenBMB API-toegang

Wanneer u maar wilt.

Schrijf uw bericht en druk op Verzenden om in te loggen en te beginnen.

Stuur een chatprompt en ontvang een antwoord van MiniCPM 2B. Gratis online LLM-chat in de browser, op apparaten die u verbindt. Het is een sterkere kleine chat dan de telefoonformaat-Llama 3.2 1B, en uitsluitend tekst. Eén sterke computer kan het dragen; anders wordt het werk verdeeld over machines die u toevoegt. De eerste keer wordt het model gedownload; latere antwoorden starten sneller.

API-referentie

Indienen via REST

Gebruik uw persoonlijke API-sleutel (msk_…) om vanuit uw eigen tools taken voor deze workload aan te maken. Taken die op deze manier worden gestart, draaien op dezelfde apparaten die u hebt gekoppeld op Uw apparaten — ten minste één daarvan moet online zijn.

API-details verbergen
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Authenticeer met X-Organization-Api-Key: msk_your_personal_api_key. De headernaam is dezelfde als bij organisatiesleutels; persoonlijke sleutels gebruiken hetzelfde endpoint.

Invoerbestanden:Roep POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign aan met dezelfde API-sleutel, upload uw bestand naar de geretourneerde upload_url en geef vervolgens download_url mee in job_spec (bijvoorbeeld als input_image_url).

Request-body

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Velden van job_spec

VeldVerplichtStandaardBeschrijving
system_promptNee—Optionele systeemprompt
enable_thinkingNeetrueSchakel MiniCPM5-denken in vóór het definitieve antwoord (<think> / </think>). Laat dit aan.
max_new_tokensNee2048Maximaal aantal gegenereerde tokens (denken + antwoord). Verhoog dit voor lange uitvoer. Prompt en generatie delen het contextvenster, dus het genereren stopt bij de context in plaats van de geheugendrempel van de stage te vergroten.
max_contextNee8192Totaal aantal tokens waarvoor de stage-hosts KV-/recurrente toestand reserveren — prompt plus generatie. De bovengrens is de grootste context waarmee de Oracle dit model heeft gemeten, zodat de plaatsing nooit verder dan het bewijs hoeft te extrapoleren. Een hogere waarde verhoogt de geheugendrempel en beperkt daarmee welke apparaten de taak kunnen uitvoeren.
kv_hot_windowNee32768De fysieke attention-KV wordt begrensd tot de nieuwste N tokens, zodat een gesprek dat langer is dan N de oudste beurten vergeet in plaats van bij de contextgrens te stoppen. 0 houdt de volledige context resident. Op of onder het contextvenster verandert dit niets — hetzelfde geheugen, dezelfde attention — en verlagen eronder ruilt herinnering over lange afstand in voor onbegrensde gesprekslengte, omdat het model echt niet voorbij het venster kan kijken.
turnsNee—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNee1Temperature
top_pNee0.95Top P
top_kNee0Top K
presence_penaltyNee0Presence Penalty
repetition_penaltyNee1Repetition Penalty
seedNee—Willekeurige seed voor reproduceerbaarheid
speculative_ngramNeefalsePrompt-lookup-drafting: herhaalde n-grams uit de context worden opnieuw afgespeeld als conceptblokken en door het model in ÉÉN doorgang geverifieerd, zodat één netwerkronde meerdere tokens kan vastleggen. Geen extra model; de uitvoer is identiek aan sequentiële decodering.
speculative_draft_modelNeefalseDraai een klein GGUF-conceptmodel op de checkpointnode om conceptblokken voor te stellen (geef de voorkeur aan 'Draft model bundled filename'; een externe URL blijft beschikbaar als terugvaloptie). Valt terug op n-gram-drafting als het conceptmodel niet beschikbaar is.
draft_model_fileNee—Bestandsnaam van een niet-gepartitioneerd GGUF-conceptmodel in deze workload-bundel. De SDK lost deze op uit required_files, zodat private S3-buckets de door de server geleverde ondertekende/proxy-URL kunnen gebruiken in plaats van een openbare URL.
draft_model_urlNee—Optionele externe HTTPS-URL van het kleine GGUF-conceptmodel. Wordt gebruikt als terugvaloptie wanneer 'Draft model bundled filename' ontbreekt of niet in required_files staat.
speculative_max_draftNee8Bovengrens voor het aantal concepttokens dat per blok wordt geverifieerd. De effectieve lengte past zich aan het waargenomen acceptatiepercentage aan.
min_remote_stagesNee0Diagnostische plaatsingsknop voor het testen van GGUF pipeline-parallel. Bij > 0 wordt het checkpoint alleen toegewezen aan nodes die minstens zoveel stages via WebRTC in plaats van lokaal zouden draaien. Valt terug na de graceperiode van de checkpointpeer om productietaken niet uit te hongeren.
wire_hidden_dtypeNeef16Dtype van de verborgen activaties tussen GGUF-pipelinestages. f16 halveert de wire-payload voor prefill en speculatieve blokken; f32 is een diagnostische terugvaloptie.
wire_hidden_codecNeefp16Experimentele codec voor verborgen-activatieblokken met meerdere tokens tussen GGUF-pipelinestages. Decodering van één token houdt het goedkope dtype-pad; generieke codecs worden alleen gebruikt voor prefill-/speculatieve blokken waar bytebesparing de codec-kosten kan compenseren. fp16 is het veiligst; auto8/hq8 zijn diagnostiek.
stage_chainingNeetrueWanneer alle GGUF-stages extern zijn en het ketenprotocol ondersteunen, worden verborgen activaties rechtstreeks van stage naar stage gestuurd in plaats van elke grens via de checkpointcoördinator te laten lopen.
latent_modeNeeoffTrainingsvrij Soft Thinking / SwiReasoning tijdens <think>…</think>. Vereist GGUF WASM met _lstage_eval_soft op de stage-hosts; anders valt het terug op discrete decodering. Standaard uit totdat de CDN-WASM opnieuw is gebouwd. Sluit speculatie uit wanneer Soft Thinking actief is.
latent_phaseNeetaggedtagged = denkmarkeringen; prefix = vanaf stap 0 (modellen zonder markeringen).
latent_exit_textNee Final answer: Alleen gebruikt wanneer latent_phase=prefix (gewone vocabulaire-tokens).
latent_top_nNee15Soft top-n
latent_entropy_tauNee0.05Cold Stop-entropie τ
latent_cold_stop_kNee256Cold Stop opeenvolgende stappen
swi_dwell_windowNee512Swi Explicit→Latent-verblijftijd
swi_max_switchesNee8Swi max. Latent→Explicit-wissels
max_thinking_tokensNee1536Hard budget vóór een geforceerde </think> / prefix-uitstap. Moet duidelijk onder `max_new_tokens` blijven: een redeneerbudget gelijk aan of boven het totale generatiebudget levert een antwoord op dat midden in de gedachte is afgebroken, zonder enig antwoord. Het controlevlak berekent dit opnieuw op basis van het budget dat de gekozen plaatsing werkelijk aankan, zodat een kleinere waarde wordt gehonoreerd en een grotere wordt begrensd.
min_thinking_tokensNee0Ondergrens: maskeer </think> uit de sampling totdat er zoveel redeneertokens zijn. 0 schakelt uit. Voorkomt dat een denkblok sluit op het eerste gegenereerde token en zonder enig redeneren antwoordt.
promptJa—Gebruikersbericht / prompt voor het chatmodel

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Poll met dezelfde API-sleutel totdat status een eindstatus heeft (COMPLETED, FAILED, CANCELED of MODERATION_BLOCKED). Wanneer inhoudsmoderatie is ingeschakeld, kunnen taken in MODERATION_PENDING starten voordat ze in de rekenwachtrij komen. Voltooide taken bevatten vooraf ondertekende download_url-waarden bij elke uitvoer.

Antwoord bij aanmaken

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Antwoord bij voltooiing

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}