LLM
Chat MiniCPM 2B
Puneți o întrebare sau încercați o scurtă sarcină de scriere. Vă conectați când trimiteți primul mesaj.
MiniCPM by OpenBMB
Licențele modelului
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Trimiteți un prompt de chat și primiți un răspuns MiniCPM 2B. Chat LLM online gratuit, în browser, pe dispozitivele pe care le conectați. Este un chat mic mai puternic decât Llama 3.2 1B la dimensiune de telefon și funcționează doar cu text. Un singur computer puternic îl poate găzdui; altfel, munca se împarte între mașinile pe care le adăugați. La prima rulare se descarcă modelul; răspunsurile următoare pornesc mai repede.
Referință API
Trimitere prin REST
Folosiți cheia API personală (msk_…) pentru a crea lucrări pentru această sarcină din propriile instrumente. Lucrările pornite astfel rulează pe aceleași dispozitive pe care le-ați conectat în Dispozitivele dvs. — cel puțin unul trebuie să fie online.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentificați-vă cu X-Organization-Api-Key: msk_your_personal_api_key. Numele antetului este același ca pentru cheile organizației; cheile personale folosesc același endpoint.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign cu aceeași cheie API, încărcați fișierul la upload_url returnat, apoi transmiteți download_url în job_spec (de exemplu ca input_image_url).Corpul cererii
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Câmpurile job_spec
| Câmp | Obligatoriu | Implicit | Descriere |
|---|---|---|---|
system_prompt | Nu | — | Prompt de sistem opțional |
enable_thinking | Nu | true | Activează thinking MiniCPM5 înainte de răspunsul final (<think> / </think>). Lăsați activat. |
max_new_tokens | Nu | 2048 | Numărul maxim de tokeni generați (thinking + răspuns). Măriți pentru texte lungi. Promptul și generarea împart fereastra de context, deci generarea se oprește la limita contextului, în loc să mărească pragul de memorie al etapei. |
max_context | Nu | 8192 | Totalul de tokeni pentru care gazdele etapelor alocă stare KV/recurentă — prompt plus generare. Limita este cel mai mare context la care Oracle a măsurat acest model, astfel încât plasarea nu trebuie să extrapoleze dincolo de dovezi. Creșterea valorii ridică pragul de memorie și, prin urmare, restrânge dispozitivele care pot rula sarcina. |
kv_hot_window | Nu | 32768 | Atenția KV fizică este limitată la cei mai recenți N tokeni, deci o conversație mai lungă de N uită cele mai vechi replici, în loc să se oprească la limita contextului. 0 păstrează întregul context rezident. La valori egale sau sub fereastra de context, nu se schimbă nimic — aceeași memorie, aceeași atenție — iar coborârea sub aceasta sacrifică reținerea pe termen lung în favoarea unei lungimi nelimitate a conversației, deoarece modelul chiar nu poate vedea dincolo de fereastră. |
turns | Nu | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Nu | 1 | Temperature |
top_p | Nu | 0.95 | Top P |
top_k | Nu | 0 | Top K |
presence_penalty | Nu | 0 | Presence Penalty |
repetition_penalty | Nu | 1 | Repetition Penalty |
seed | Nu | — | Seed aleatoriu pentru reproductibilitate |
speculative_ngram | Nu | false | Draft prin căutare în prompt: n-gramele repetate din context sunt reluate ca blocuri draft și verificate de model într-o SINGURĂ trecere, astfel încât o singură rundă prin rețea poate confirma mai mulți tokeni. Fără model suplimentar; rezultatul este identic cu decodarea secvențială. |
speculative_draft_model | Nu | false | Rulați un model draft GGUF foarte mic pe nodul de checkpoint pentru a propune blocuri draft (preferați „Numele fișierului modelului draft inclus”; URL-ul extern rămâne disponibil ca alternativă). Revine la draft prin n-grame când modelul draft nu este disponibil. |
draft_model_file | Nu | — | Numele fișierului unui model draft GGUF nepartiționat din pachetul acestui workload. SDK-ul îl rezolvă din required_files, astfel încât bucket-urile S3 private să poată folosi URL-ul semnat/proxy furnizat de server, în loc de un URL public. |
draft_model_url | Nu | — | URL HTTPS extern opțional al modelului draft GGUF foarte mic. Folosit ca alternativă când „Numele fișierului modelului draft inclus” lipsește sau nu se află în required_files. |
speculative_max_draft | Nu | 8 | Limita superioară a tokenilor draft verificați per bloc. Lungimea efectivă se adaptează la rata de acceptare observată. |
min_remote_stages | Nu | 0 | Parametru de plasare pentru diagnosticare, la testarea GGUF pipeline-parallel. Când este > 0, checkpoint-ul este atribuit doar nodurilor care ar rula cel puțin atâtea etape prin WebRTC, în loc de local. Revine la comportamentul implicit după fereastra de grație a peer-ului de checkpoint, pentru a nu bloca sarcinile de producție. |
wire_hidden_dtype | Nu | f16 | Tipul de date al activărilor ascunse între etapele GGUF pipeline. f16 înjumătățește volumul transmis pentru prefill și blocurile speculative; f32 este o alternativă de diagnosticare. |
wire_hidden_codec | Nu | fp16 | Codec experimental pentru blocurile de activări ascunse multi-token între etapele GGUF pipeline. Decodarea cu un singur token păstrează calea ieftină cu dtype; codecurile generice sunt folosite doar pentru blocurile de prefill/speculative, unde economiile de octeți pot compensa costul codecului. fp16 este cel mai sigur; auto8/hq8 sunt pentru diagnosticare. |
stage_chaining | Nu | true | Când toate etapele GGUF sunt la distanță și acceptă protocolul de înlănțuire, trimite activările ascunse direct de la o etapă la alta, în loc să retransmită fiecare limită prin coordonatorul de checkpoint. |
latent_mode | Nu | off | Soft Thinking / SwiReasoning fără antrenare, în timpul <think>…</think>. Necesită GGUF WASM cu _lstage_eval_soft pe gazdele de etape; altfel revine la decodarea discretă. Implicit dezactivat până la reconstruirea WASM de pe CDN. Se exclude reciproc cu speculația când Soft Thinking este activ. |
latent_phase | Nu | tagged | tagged = marcaje think; prefix = de la pasul 0 (modele fără marcaje). |
latent_exit_text | Nu | Final answer: | Folosit doar când latent_phase=prefix (tokeni obișnuiți din vocabular). |
latent_top_n | Nu | 15 | Soft top-n |
latent_entropy_tau | Nu | 0.05 | Entropie τ Cold Stop |
latent_cold_stop_k | Nu | 256 | Pași consecutivi Cold Stop |
swi_dwell_window | Nu | 512 | Durata Swi Explicit→Latent |
swi_max_switches | Nu | 8 | Număr maxim de treceri Swi Latent→Explicit |
max_thinking_tokens | Nu | 1536 | Buget strict înainte de </think> forțat / ieșire din prefix. Trebuie să rămână semnificativ sub `max_new_tokens`: un buget de raționament egal sau mai mare decât bugetul total de generare produce un răspuns întrerupt în mijlocul raționamentului, fără niciun răspuns. Control plane recalculează valoarea pe baza bugetului pe care plasarea aleasă și-l poate permite efectiv, astfel că o valoare mai mică este respectată, iar una mai mare este limitată. |
min_thinking_tokens | Nu | 0 | Prag minim: maschează </think> din eșantionare până când există atâția tokeni de raționament. 0 dezactivează. Împiedică închiderea blocului think la primul token generat și răspunsul fără niciun raționament. |
prompt | Da | — | Mesajul / promptul utilizatorului pentru modelul de chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Interogați cu aceeași cheie API până când status ajunge într-o stare finală (COMPLETED, FAILED, CANCELED sau MODERATION_BLOCKED). Când moderarea conținutului este activată, lucrările pot începe în MODERATION_PENDING înainte de a intra în coada de calcul. Lucrările finalizate includ valori download_url presemnate pentru fiecare rezultat.
Răspuns la creare
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Răspuns la finalizare
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}