LLM

Chat MiniCPM 2B

Puneți o întrebare sau încercați o scurtă sarcină de scriere. Vă conectați când trimiteți primul mesaj.

MiniCPM by OpenBMB

Licențele modelului

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Licență inclusă

Notificare

GratuitOnlineNelimitatMiniCPM by OpenBMB Acces API

Când sunteți gata.

Scrieți mesajul și apăsați Trimite pentru a vă conecta și a începe.

Trimiteți un prompt de chat și primiți un răspuns MiniCPM 2B. Chat LLM online gratuit, în browser, pe dispozitivele pe care le conectați. Este un chat mic mai puternic decât Llama 3.2 1B la dimensiune de telefon și funcționează doar cu text. Un singur computer puternic îl poate găzdui; altfel, munca se împarte între mașinile pe care le adăugați. La prima rulare se descarcă modelul; răspunsurile următoare pornesc mai repede.

Referință API

Trimitere prin REST

Folosiți cheia API personală (msk_…) pentru a crea lucrări pentru această sarcină din propriile instrumente. Lucrările pornite astfel rulează pe aceleași dispozitive pe care le-ați conectat în Dispozitivele dvs. — cel puțin unul trebuie să fie online.

Ascunde detaliile API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Autentificați-vă cu X-Organization-Api-Key: msk_your_personal_api_key. Numele antetului este același ca pentru cheile organizației; cheile personale folosesc același endpoint.

Fișiere de intrare:Apelați POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign cu aceeași cheie API, încărcați fișierul la upload_url returnat, apoi transmiteți download_url în job_spec (de exemplu ca input_image_url).

Corpul cererii

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Câmpurile job_spec

CâmpObligatoriuImplicitDescriere
system_promptNu—Prompt de sistem opțional
enable_thinkingNutrueActivează thinking MiniCPM5 înainte de răspunsul final (<think> / </think>). Lăsați activat.
max_new_tokensNu2048Numărul maxim de tokeni generați (thinking + răspuns). Măriți pentru texte lungi. Promptul și generarea împart fereastra de context, deci generarea se oprește la limita contextului, în loc să mărească pragul de memorie al etapei.
max_contextNu8192Totalul de tokeni pentru care gazdele etapelor alocă stare KV/recurentă — prompt plus generare. Limita este cel mai mare context la care Oracle a măsurat acest model, astfel încât plasarea nu trebuie să extrapoleze dincolo de dovezi. Creșterea valorii ridică pragul de memorie și, prin urmare, restrânge dispozitivele care pot rula sarcina.
kv_hot_windowNu32768Atenția KV fizică este limitată la cei mai recenți N tokeni, deci o conversație mai lungă de N uită cele mai vechi replici, în loc să se oprească la limita contextului. 0 păstrează întregul context rezident. La valori egale sau sub fereastra de context, nu se schimbă nimic — aceeași memorie, aceeași atenție — iar coborârea sub aceasta sacrifică reținerea pe termen lung în favoarea unei lungimi nelimitate a conversației, deoarece modelul chiar nu poate vedea dincolo de fereastră.
turnsNu—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNu1Temperature
top_pNu0.95Top P
top_kNu0Top K
presence_penaltyNu0Presence Penalty
repetition_penaltyNu1Repetition Penalty
seedNu—Seed aleatoriu pentru reproductibilitate
speculative_ngramNufalseDraft prin căutare în prompt: n-gramele repetate din context sunt reluate ca blocuri draft și verificate de model într-o SINGURĂ trecere, astfel încât o singură rundă prin rețea poate confirma mai mulți tokeni. Fără model suplimentar; rezultatul este identic cu decodarea secvențială.
speculative_draft_modelNufalseRulați un model draft GGUF foarte mic pe nodul de checkpoint pentru a propune blocuri draft (preferați „Numele fișierului modelului draft inclus”; URL-ul extern rămâne disponibil ca alternativă). Revine la draft prin n-grame când modelul draft nu este disponibil.
draft_model_fileNu—Numele fișierului unui model draft GGUF nepartiționat din pachetul acestui workload. SDK-ul îl rezolvă din required_files, astfel încât bucket-urile S3 private să poată folosi URL-ul semnat/proxy furnizat de server, în loc de un URL public.
draft_model_urlNu—URL HTTPS extern opțional al modelului draft GGUF foarte mic. Folosit ca alternativă când „Numele fișierului modelului draft inclus” lipsește sau nu se află în required_files.
speculative_max_draftNu8Limita superioară a tokenilor draft verificați per bloc. Lungimea efectivă se adaptează la rata de acceptare observată.
min_remote_stagesNu0Parametru de plasare pentru diagnosticare, la testarea GGUF pipeline-parallel. Când este > 0, checkpoint-ul este atribuit doar nodurilor care ar rula cel puțin atâtea etape prin WebRTC, în loc de local. Revine la comportamentul implicit după fereastra de grație a peer-ului de checkpoint, pentru a nu bloca sarcinile de producție.
wire_hidden_dtypeNuf16Tipul de date al activărilor ascunse între etapele GGUF pipeline. f16 înjumătățește volumul transmis pentru prefill și blocurile speculative; f32 este o alternativă de diagnosticare.
wire_hidden_codecNufp16Codec experimental pentru blocurile de activări ascunse multi-token între etapele GGUF pipeline. Decodarea cu un singur token păstrează calea ieftină cu dtype; codecurile generice sunt folosite doar pentru blocurile de prefill/speculative, unde economiile de octeți pot compensa costul codecului. fp16 este cel mai sigur; auto8/hq8 sunt pentru diagnosticare.
stage_chainingNutrueCând toate etapele GGUF sunt la distanță și acceptă protocolul de înlănțuire, trimite activările ascunse direct de la o etapă la alta, în loc să retransmită fiecare limită prin coordonatorul de checkpoint.
latent_modeNuoffSoft Thinking / SwiReasoning fără antrenare, în timpul <think>…</think>. Necesită GGUF WASM cu _lstage_eval_soft pe gazdele de etape; altfel revine la decodarea discretă. Implicit dezactivat până la reconstruirea WASM de pe CDN. Se exclude reciproc cu speculația când Soft Thinking este activ.
latent_phaseNutaggedtagged = marcaje think; prefix = de la pasul 0 (modele fără marcaje).
latent_exit_textNu Final answer: Folosit doar când latent_phase=prefix (tokeni obișnuiți din vocabular).
latent_top_nNu15Soft top-n
latent_entropy_tauNu0.05Entropie τ Cold Stop
latent_cold_stop_kNu256Pași consecutivi Cold Stop
swi_dwell_windowNu512Durata Swi Explicit→Latent
swi_max_switchesNu8Număr maxim de treceri Swi Latent→Explicit
max_thinking_tokensNu1536Buget strict înainte de </think> forțat / ieșire din prefix. Trebuie să rămână semnificativ sub `max_new_tokens`: un buget de raționament egal sau mai mare decât bugetul total de generare produce un răspuns întrerupt în mijlocul raționamentului, fără niciun răspuns. Control plane recalculează valoarea pe baza bugetului pe care plasarea aleasă și-l poate permite efectiv, astfel că o valoare mai mică este respectată, iar una mai mare este limitată.
min_thinking_tokensNu0Prag minim: maschează </think> din eșantionare până când există atâția tokeni de raționament. 0 dezactivează. Împiedică închiderea blocului think la primul token generat și răspunsul fără niciun raționament.
promptDa—Mesajul / promptul utilizatorului pentru modelul de chat

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Interogați cu aceeași cheie API până când status ajunge într-o stare finală (COMPLETED, FAILED, CANCELED sau MODERATION_BLOCKED). Când moderarea conținutului este activată, lucrările pot începe în MODERATION_PENDING înainte de a intra în coada de calcul. Lucrările finalizate includ valori download_url presemnate pentru fiecare rezultat.

Răspuns la creare

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Răspuns la finalizare

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}