LLM
Chat MiniCPM 2B
Fai una domanda o prova una breve attività di scrittura. Accedi quando invii il primo messaggio.
MiniCPM by OpenBMB
Licenze del modello
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Seleziona modello
Modello attuale:
Chat MiniCPM 2B
Qualità dell'output: 50%
La migliore qualità che il tuo dispositivo può eseguire. Aggiungine altri dispositivi per finire più in fretta.
Scrivi il tuo messaggio e premi Invia per accedere e iniziare.
Invia un prompt di chat e ottieni una risposta di MiniCPM 2B. Chat LLM online gratuita nel browser, sui dispositivi che colleghi. È una piccola chat più capace del Llama 3.2 1B a misura di telefono, ed è solo testo. Un solo computer potente può contenerlo; altrimenti il lavoro si divide tra le macchine che aggiungi. La prima esecuzione scarica il modello; le risposte successive partono più velocemente.
Riferimento API
Invia tramite REST
Usa la tua chiave API personale (msk_…) per creare job per questo workload dai tuoi strumenti. I job avviati in questo modo vengono eseguiti sugli stessi dispositivi che hai collegato in I tuoi dispositivi: almeno uno deve essere online.
https://cp.meshlabs.cloud/v1/organizations/jobsAutenticati con X-Organization-Api-Key: msk_your_personal_api_key. Il nome dell'intestazione corrisponde a quello delle chiavi dell'organizzazione; le chiavi personali usano lo stesso endpoint.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign con la stessa chiave API, carica il tuo file su upload_url restituito, poi passa download_url in job_spec (ad esempio come input_image_url).Corpo della richiesta
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Campi di job_spec
| Campo | Obbligatorio | Predefinito | Descrizione |
|---|---|---|---|
system_prompt | No | — | Prompt di sistema facoltativo |
enable_thinking | No | true | Attiva il ragionamento di MiniCPM5 prima della risposta finale (<think> / </think>). Lascialo attivo. |
max_new_tokens | No | 2048 | Numero massimo di token generati (ragionamento + risposta). Aumentalo per output lunghi. Prompt e generazione condividono la finestra di contesto, quindi la generazione si ferma al contesto invece di far crescere la soglia minima di memoria dello stage. |
max_context | No | 8192 | Token totali per cui gli stage host allocano lo stato KV/ricorrente: prompt più generazione. Il limite massimo è il contesto più ampio con cui l'Oracle ha misurato questo modello, così il posizionamento non deve mai estrapolare oltre le evidenze. Aumentarlo alza la soglia minima di memoria e quindi restringe i dispositivi in grado di eseguire il lavoro. |
kv_hot_window | No | 32768 | Il KV fisico dell'attenzione è limitato agli ultimi N token, quindi una conversazione più lunga di N dimentica i turni più vecchi invece di fermarsi al limite di contesto. 0 mantiene residente l'intero contesto. Pari o inferiore alla finestra di contesto non cambia nulla (stessa memoria, stessa attenzione); abbassarla sotto la finestra di contesto scambia il richiamo a lungo raggio con una lunghezza di conversazione illimitata, perché il modello non può davvero vedere oltre la finestra. |
turns | No | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | No | 1 | Temperature |
top_p | No | 0.95 | Top P |
top_k | No | 0 | Top K |
presence_penalty | No | 0 | Presence Penalty |
repetition_penalty | No | 1 | Repetition Penalty |
seed | No | — | Seed casuale per la riproducibilità |
speculative_ngram | No | false | Bozze per ricerca nel prompt: gli n-gram ripetuti del contesto vengono riproposti come blocchi di bozza e verificati dal modello in UN solo passaggio, così un singolo round trip di rete può confermare più token. Nessun modello aggiuntivo; l'output è identico alla decodifica sequenziale. |
speculative_draft_model | No | false | Esegue un piccolo modello di bozza GGUF sul nodo checkpoint per proporre blocchi di bozza (meglio 'Nome file del modello di bozza incluso'; l'URL esterno resta disponibile come ripiego). Se il modello di bozza non è disponibile, ripiega sulle bozze n-gram. |
draft_model_file | No | — | Nome file di un modello di bozza GGUF non partizionato presente nel bundle di questo workload. L'SDK lo risolve da required_files, così i bucket S3 privati possono usare l'URL firmato/proxy fornito dal server invece di un URL pubblico. |
draft_model_url | No | — | URL HTTPS esterno facoltativo del piccolo modello di bozza GGUF. Usato come ripiego quando 'Nome file del modello di bozza incluso' è assente o mancante da required_files. |
speculative_max_draft | No | 8 | Limite superiore dei token di bozza verificati per blocco. La lunghezza effettiva si adatta al tasso di accettazione osservato. |
min_remote_stages | No | 0 | Parametro diagnostico di posizionamento per i test pipeline-parallel GGUF. Se > 0, il checkpoint viene assegnato solo ai nodi che eseguirebbero almeno questo numero di stage tramite WebRTC invece che in locale. Dopo la finestra di tolleranza del peer checkpoint ripiega, per non lasciare senza risorse i lavori di produzione. |
wire_hidden_dtype | No | f16 | Tipo di dato delle attivazioni nascoste tra gli stage della pipeline GGUF. f16 dimezza il payload sul wire per il prefill e per i blocchi speculativi; f32 è un ripiego diagnostico. |
wire_hidden_codec | No | fp16 | Codec sperimentale per i blocchi di attivazioni nascoste multi-token tra gli stage della pipeline GGUF. La decodifica a singolo token mantiene il percorso economico per tipo di dato; i codec generici sono usati solo per i blocchi di prefill/speculativi, dove il risparmio di byte può compensare il costo del codec. fp16 è il più sicuro; auto8/hq8 sono diagnostici. |
stage_chaining | No | true | Quando tutti gli stage GGUF sono remoti e supportano il protocollo di chain, invia le attivazioni nascoste direttamente da stage a stage invece di far passare ogni confine dal coordinatore del checkpoint. |
latent_mode | No | off | Soft Thinking / SwiReasoning senza addestramento durante <think>…</think>. Richiede GGUF WASM con _lstage_eval_soft sugli stage host; altrimenti ripiega sulla decodifica discreta. Disattivato per impostazione predefinita finché il WASM della CDN non viene ricompilato. Mutuamente esclusivo con la speculazione quando Soft Thinking è attivo. |
latent_phase | No | tagged | tagged = marcatori di ragionamento; prefix = dal passaggio 0 (modelli senza marcatori). |
latent_exit_text | No | Final answer: | Usato solo quando latent_phase=prefix (token di vocabolario ordinari). |
latent_top_n | No | 15 | Top-n soft |
latent_entropy_tau | No | 0.05 | Entropia τ del Cold Stop |
latent_cold_stop_k | No | 256 | Passaggi consecutivi del Cold Stop |
swi_dwell_window | No | 512 | Permanenza Swi da Explicit a Latent |
swi_max_switches | No | 8 | Swi: passaggi massimi da Latent a Explicit |
max_thinking_tokens | No | 1536 | Budget massimo prima del </think> forzato / uscita dal prefisso. Deve restare nettamente al di sotto di `max_new_tokens`: un budget di ragionamento pari o superiore al budget totale di generazione produce una risposta interrotta a metà pensiero, senza alcuna risposta. Il control plane lo ricalcola in base al budget che il posizionamento scelto può permettersi, quindi un valore più piccolo viene rispettato e uno più grande viene ridotto. |
min_thinking_tokens | No | 0 | Soglia minima: esclude </think> dal campionamento finché non esistono questi token di ragionamento. 0 disattiva. Impedisce a un blocco di ragionamento di chiudersi al primo token generato e di rispondere senza alcun ragionamento. |
prompt | Sì | — | Messaggio / prompt dell'utente per il modello di chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Fai polling con la stessa chiave API finché status non è terminale (COMPLETED, FAILED, CANCELED o MODERATION_BLOCKED). Quando la moderazione dei contenuti è abilitata, i job possono iniziare in MODERATION_PENDING prima di entrare nella coda di calcolo. I job completati includono valori download_url presigned su ogni output.
Risposta di creazione
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Risposta di completamento
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}