LLM

MiniCPM 2B चैट

कोई सवाल पूछें या कोई छोटा लेखन कार्य आज़माएँ। पहला संदेश भेजते समय साइन इन करें।

MiniCPM by OpenBMB

मॉडल लाइसेंस

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

वितरित लाइसेंस

सूचना

मुफ़्तऑनलाइनअसीमितMiniCPM by OpenBMB API पहुँच

जब आप तैयार हों।

अपना संदेश लिखें और साइन इन करके शुरू करने के लिए भेजें दबाएँ।

चैट प्रॉम्प्ट भेजें और MiniCPM 2B का जवाब पाएँ। आपके जोड़े गए डिवाइस पर ब्राउज़र में निःशुल्क ऑनलाइन LLM चैट। यह फ़ोन के आकार वाले Llama 3.2 1B से ज़्यादा सक्षम छोटी चैट है, और केवल टेक्स्ट के लिए है। एक मज़बूत कंप्यूटर इसे रख सकता है; नहीं तो काम आपके जोड़ी गई मशीनों में बँट जाता है। पहली बार चलाने पर मॉडल डाउनलोड होता है; बाद के जवाब तेज़ी से शुरू होते हैं।

API संदर्भ

REST से सबमिट करें

अपने टूल से इस वर्कलोड के लिए जॉब बनाने हेतु अपनी व्यक्तिगत API कुंजी (msk_…) का उपयोग करें। इस तरह शुरू किए गए जॉब उन्हीं डिवाइस पर चलते हैं जिन्हें आपने आपके डिवाइस पर कनेक्ट किया है — कम से कम एक का ऑनलाइन होना ज़रूरी है।

API विवरण छिपाएँ
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

X-Organization-Api-Key: msk_your_personal_api_key से प्रमाणित करें। हेडर का नाम ऑर्ग कुंजियों जैसा ही है; व्यक्तिगत कुंजियाँ उसी एंडपॉइंट का उपयोग करती हैं।

इनपुट फ़ाइलें:उसी API कुंजी से POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign को कॉल करें, लौटाए गए upload_url पर अपनी फ़ाइल अपलोड करें, फिर download_url को job_spec में पास करें (उदाहरण के लिए input_image_url के रूप में)।

अनुरोध बॉडी

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec फ़ील्ड

फ़ील्डआवश्यकडिफ़ॉल्टविवरण
system_promptनहीं—वैकल्पिक सिस्टम प्रॉम्प्ट
enable_thinkingनहींtrueअंतिम उत्तर से पहले MiniCPM5 थिंकिंग सक्षम करें (<think> / </think>)। इसे चालू रखें।
max_new_tokensनहीं2048जनरेट किए जाने वाले टोकन की अधिकतम संख्या (थिंकिंग + उत्तर)। लंबे आउटपुट के लिए बढ़ाएँ। प्रॉम्प्ट और जनरेशन कॉन्टेक्स्ट विंडो साझा करते हैं, इसलिए जनरेशन स्टेज की मेमोरी की न्यूनतम सीमा बढ़ाने की बजाय कॉन्टेक्स्ट पर रुक जाता है।
max_contextनहीं8192कुल टोकन जिनके लिए स्टेज होस्ट KV/रिकरेंट स्टेट आवंटित करते हैं — प्रॉम्प्ट और जनरेशन मिलाकर। ऊपरी सीमा वह सबसे बड़ा कॉन्टेक्स्ट है जिस पर Oracle ने इस मॉडल को मापा है, ताकि प्लेसमेंट को प्रमाण से आगे अनुमान न लगाना पड़े। इसे बढ़ाने से मेमोरी की न्यूनतम सीमा बढ़ती है और इसलिए जॉब चला सकने वाले डिवाइस कम हो जाते हैं।
kv_hot_windowनहीं32768फ़िज़िकल अटेंशन KV सबसे नए N टोकन तक सीमित रहता है, इसलिए N से लंबी बातचीत कॉन्टेक्स्ट सीमा पर रुकने की बजाय अपने सबसे पुराने टर्न भूल जाती है। 0 पूरा कॉन्टेक्स्ट रेज़िडेंट रखता है। कॉन्टेक्स्ट विंडो के बराबर या उससे कम पर इससे कुछ नहीं बदलता — वही मेमोरी, वही अटेंशन — और इसे उससे नीचे घटाने पर लंबी दूरी की स्मृति के बदले असीमित बातचीत की लंबाई मिलती है, क्योंकि मॉडल सचमुच विंडो के पार नहीं देख सकता।
turnsनहीं—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureनहीं1Temperature
top_pनहीं0.95Top P
top_kनहीं0Top K
presence_penaltyनहीं0Presence Penalty
repetition_penaltyनहीं1Repetition Penalty
seedनहीं—दोहराए जा सकने वाले नतीजों के लिए रैंडम सीड
speculative_ngramनहींfalseप्रॉम्प्ट-लुकअप ड्राफ़्टिंग: संदर्भ के दोहराए गए n-ग्राम ड्राफ़्ट ब्लॉक के रूप में दोबारा चलाए जाते हैं और मॉडल उन्हें एक ही पास में सत्यापित करता है, इसलिए एक नेटवर्क राउंड ट्रिप में कई टोकन तय हो सकते हैं। कोई अतिरिक्त मॉडल नहीं; आउटपुट क्रमिक डिकोडिंग के समान है।
speculative_draft_modelनहींfalseचेकपॉइंट नोड पर एक छोटा GGUF ड्राफ़्ट मॉडल चलाएँ जो ड्राफ़्ट ब्लॉक सुझाए ('Draft model bundled filename' को प्राथमिकता दें; बाहरी URL फ़ॉलबैक के रूप में उपलब्ध है)। ड्राफ़्ट मॉडल उपलब्ध न होने पर n-ग्राम ड्राफ़्टिंग पर लौट आता है।
draft_model_fileनहीं—इस वर्कलोड बंडल में बिना-विभाजित GGUF ड्राफ़्ट मॉडल का फ़ाइल नाम। SDK इसे required_files से हल करता है, इसलिए निजी S3 बकेट सार्वजनिक URL की जगह सर्वर द्वारा दिया गया साइन्ड/प्रॉक्सी URL इस्तेमाल कर सकते हैं।
draft_model_urlनहीं—छोटे GGUF ड्राफ़्ट मॉडल का वैकल्पिक बाहरी HTTPS URL। जब 'Draft model bundled filename' न हो या required_files में न मिले तब फ़ॉलबैक के रूप में इस्तेमाल होता है।
speculative_max_draftनहीं8प्रति ब्लॉक सत्यापित किए जाने वाले ड्राफ़्ट टोकन की ऊपरी सीमा। प्रभावी लंबाई देखी गई स्वीकृति दर के अनुसार ढलती है।
min_remote_stagesनहीं0GGUF पाइपलाइन-पैरेलल परीक्षण के लिए डायग्नोस्टिक प्लेसमेंट नॉब। > 0 होने पर चेकपॉइंट केवल उन नोड को सौंपा जाता है जो कम से कम इतने स्टेज लोकल की बजाय WebRTC पर चलाएँगे। प्रोडक्शन जॉब को भूखा न रखने के लिए चेकपॉइंट पीयर की ग्रेस विंडो के बाद फ़ॉलबैक करता है।
wire_hidden_dtypeनहींf16GGUF पाइपलाइन स्टेज के बीच हिडन एक्टिवेशन का dtype। f16 प्रीफ़िल और स्पेक्युलेटिव ब्लॉक के लिए वायर पेलोड आधा कर देता है; f32 डायग्नोस्टिक फ़ॉलबैक है।
wire_hidden_codecनहींfp16GGUF पाइपलाइन स्टेज के बीच मल्टी-टोकन हिडन एक्टिवेशन ब्लॉक के लिए प्रायोगिक कोडेक। सिंगल-टोकन डिकोड सस्ते dtype पथ पर रहता है; जेनेरिक कोडेक केवल प्रीफ़िल/स्पेक्युलेटिव ब्लॉक के लिए इस्तेमाल होते हैं जहाँ बाइट बचत कोडेक की लागत की भरपाई कर सकती है। fp16 सबसे सुरक्षित है; auto8/hq8 डायग्नोस्टिक हैं।
stage_chainingनहींtrueजब सभी GGUF स्टेज रिमोट हों और चेन प्रोटोकॉल का समर्थन करें, तब हर सीमा को चेकपॉइंट कोऑर्डिनेटर से होकर भेजने की बजाय हिडन एक्टिवेशन सीधे स्टेज से स्टेज भेजें।
latent_modeनहींoff<think>…</think> के दौरान प्रशिक्षण-मुक्त Soft Thinking / SwiReasoning। स्टेज होस्ट पर _lstage_eval_soft वाला GGUF WASM चाहिए; वरना डिस्क्रीट डिकोड पर लौट आता है। CDN WASM दोबारा बनने तक डिफ़ॉल्ट रूप से बंद। Soft Thinking सक्रिय होने पर स्पेक्युलेशन के साथ परस्पर अनन्य।
latent_phaseनहींtaggedtagged = थिंक मार्कर; prefix = स्टेप 0 से (बिना मार्कर वाले मॉडल)।
latent_exit_textनहीं Final answer: केवल latent_phase=prefix होने पर उपयोग होता है (सामान्य शब्दावली टोकन)।
latent_top_nनहीं15Soft top-n
latent_entropy_tauनहीं0.05Cold Stop एन्ट्रॉपी τ
latent_cold_stop_kनहीं256Cold Stop लगातार स्टेप
swi_dwell_windowनहीं512Swi Explicit→Latent ठहराव
swi_max_switchesनहीं8Swi अधिकतम Latent→Explicit स्विच
max_thinking_tokensनहीं1536ज़बरदस्ती </think> / प्रीफ़िक्स एग्ज़िट से पहले की कठोर सीमा। यह `max_new_tokens` से काफ़ी कम रहनी चाहिए: रीज़निंग बजट कुल जनरेशन बजट के बराबर या उससे अधिक होने पर जवाब बीच विचार में ही कट जाता है और कोई उत्तर नहीं मिलता। कंट्रोल प्लेन इसे उस बजट से दोबारा तय करता है जो चुना गया प्लेसमेंट वास्तव में वहन कर सकता है, इसलिए छोटा मान माना जाता है और बड़ा मान सीमित कर दिया जाता है।
min_thinking_tokensनहीं0न्यूनतम सीमा: इतने रीज़निंग टोकन बनने तक </think> को सैंपलिंग से मास्क करें। 0 इसे बंद करता है। थिंक ब्लॉक को पहले ही जनरेट टोकन पर बंद होने और बिना किसी रीज़निंग के जवाब देने से रोकता है।
promptहाँ—चैट मॉडल के लिए उपयोगकर्ता का संदेश / प्रॉम्प्ट

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

उसी API कुंजी से तब तक पोल करें जब तक status अंतिम स्थिति (COMPLETED, FAILED, CANCELED या MODERATION_BLOCKED) में न पहुँच जाए। जब सामग्री मॉडरेशन सक्षम होता है, तो कंप्यूट कतार में जाने से पहले जॉब MODERATION_PENDING में शुरू हो सकते हैं। पूरे हुए जॉब में हर आउटपुट पर presigned download_url मान होते हैं।

Create प्रतिक्रिया

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Completed प्रतिक्रिया

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}