LLM
MiniCPM 2B चैट
कोई सवाल पूछें या कोई छोटा लेखन कार्य आज़माएँ। पहला संदेश भेजते समय साइन इन करें।
MiniCPM by OpenBMB
मॉडल लाइसेंस
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
चैट प्रॉम्प्ट भेजें और MiniCPM 2B का जवाब पाएँ। आपके जोड़े गए डिवाइस पर ब्राउज़र में निःशुल्क ऑनलाइन LLM चैट। यह फ़ोन के आकार वाले Llama 3.2 1B से ज़्यादा सक्षम छोटी चैट है, और केवल टेक्स्ट के लिए है। एक मज़बूत कंप्यूटर इसे रख सकता है; नहीं तो काम आपके जोड़ी गई मशीनों में बँट जाता है। पहली बार चलाने पर मॉडल डाउनलोड होता है; बाद के जवाब तेज़ी से शुरू होते हैं।
API संदर्भ
REST से सबमिट करें
अपने टूल से इस वर्कलोड के लिए जॉब बनाने हेतु अपनी व्यक्तिगत API कुंजी (msk_…) का उपयोग करें। इस तरह शुरू किए गए जॉब उन्हीं डिवाइस पर चलते हैं जिन्हें आपने आपके डिवाइस पर कनेक्ट किया है — कम से कम एक का ऑनलाइन होना ज़रूरी है।
https://cp.meshlabs.cloud/v1/organizations/jobsX-Organization-Api-Key: msk_your_personal_api_key से प्रमाणित करें। हेडर का नाम ऑर्ग कुंजियों जैसा ही है; व्यक्तिगत कुंजियाँ उसी एंडपॉइंट का उपयोग करती हैं।
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign को कॉल करें, लौटाए गए upload_url पर अपनी फ़ाइल अपलोड करें, फिर download_url को job_spec में पास करें (उदाहरण के लिए input_image_url के रूप में)।अनुरोध बॉडी
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}job_spec फ़ील्ड
| फ़ील्ड | आवश्यक | डिफ़ॉल्ट | विवरण |
|---|---|---|---|
system_prompt | नहीं | — | वैकल्पिक सिस्टम प्रॉम्प्ट |
enable_thinking | नहीं | true | अंतिम उत्तर से पहले MiniCPM5 थिंकिंग सक्षम करें (<think> / </think>)। इसे चालू रखें। |
max_new_tokens | नहीं | 2048 | जनरेट किए जाने वाले टोकन की अधिकतम संख्या (थिंकिंग + उत्तर)। लंबे आउटपुट के लिए बढ़ाएँ। प्रॉम्प्ट और जनरेशन कॉन्टेक्स्ट विंडो साझा करते हैं, इसलिए जनरेशन स्टेज की मेमोरी की न्यूनतम सीमा बढ़ाने की बजाय कॉन्टेक्स्ट पर रुक जाता है। |
max_context | नहीं | 8192 | कुल टोकन जिनके लिए स्टेज होस्ट KV/रिकरेंट स्टेट आवंटित करते हैं — प्रॉम्प्ट और जनरेशन मिलाकर। ऊपरी सीमा वह सबसे बड़ा कॉन्टेक्स्ट है जिस पर Oracle ने इस मॉडल को मापा है, ताकि प्लेसमेंट को प्रमाण से आगे अनुमान न लगाना पड़े। इसे बढ़ाने से मेमोरी की न्यूनतम सीमा बढ़ती है और इसलिए जॉब चला सकने वाले डिवाइस कम हो जाते हैं। |
kv_hot_window | नहीं | 32768 | फ़िज़िकल अटेंशन KV सबसे नए N टोकन तक सीमित रहता है, इसलिए N से लंबी बातचीत कॉन्टेक्स्ट सीमा पर रुकने की बजाय अपने सबसे पुराने टर्न भूल जाती है। 0 पूरा कॉन्टेक्स्ट रेज़िडेंट रखता है। कॉन्टेक्स्ट विंडो के बराबर या उससे कम पर इससे कुछ नहीं बदलता — वही मेमोरी, वही अटेंशन — और इसे उससे नीचे घटाने पर लंबी दूरी की स्मृति के बदले असीमित बातचीत की लंबाई मिलती है, क्योंकि मॉडल सचमुच विंडो के पार नहीं देख सकता। |
turns | नहीं | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | नहीं | 1 | Temperature |
top_p | नहीं | 0.95 | Top P |
top_k | नहीं | 0 | Top K |
presence_penalty | नहीं | 0 | Presence Penalty |
repetition_penalty | नहीं | 1 | Repetition Penalty |
seed | नहीं | — | दोहराए जा सकने वाले नतीजों के लिए रैंडम सीड |
speculative_ngram | नहीं | false | प्रॉम्प्ट-लुकअप ड्राफ़्टिंग: संदर्भ के दोहराए गए n-ग्राम ड्राफ़्ट ब्लॉक के रूप में दोबारा चलाए जाते हैं और मॉडल उन्हें एक ही पास में सत्यापित करता है, इसलिए एक नेटवर्क राउंड ट्रिप में कई टोकन तय हो सकते हैं। कोई अतिरिक्त मॉडल नहीं; आउटपुट क्रमिक डिकोडिंग के समान है। |
speculative_draft_model | नहीं | false | चेकपॉइंट नोड पर एक छोटा GGUF ड्राफ़्ट मॉडल चलाएँ जो ड्राफ़्ट ब्लॉक सुझाए ('Draft model bundled filename' को प्राथमिकता दें; बाहरी URL फ़ॉलबैक के रूप में उपलब्ध है)। ड्राफ़्ट मॉडल उपलब्ध न होने पर n-ग्राम ड्राफ़्टिंग पर लौट आता है। |
draft_model_file | नहीं | — | इस वर्कलोड बंडल में बिना-विभाजित GGUF ड्राफ़्ट मॉडल का फ़ाइल नाम। SDK इसे required_files से हल करता है, इसलिए निजी S3 बकेट सार्वजनिक URL की जगह सर्वर द्वारा दिया गया साइन्ड/प्रॉक्सी URL इस्तेमाल कर सकते हैं। |
draft_model_url | नहीं | — | छोटे GGUF ड्राफ़्ट मॉडल का वैकल्पिक बाहरी HTTPS URL। जब 'Draft model bundled filename' न हो या required_files में न मिले तब फ़ॉलबैक के रूप में इस्तेमाल होता है। |
speculative_max_draft | नहीं | 8 | प्रति ब्लॉक सत्यापित किए जाने वाले ड्राफ़्ट टोकन की ऊपरी सीमा। प्रभावी लंबाई देखी गई स्वीकृति दर के अनुसार ढलती है। |
min_remote_stages | नहीं | 0 | GGUF पाइपलाइन-पैरेलल परीक्षण के लिए डायग्नोस्टिक प्लेसमेंट नॉब। > 0 होने पर चेकपॉइंट केवल उन नोड को सौंपा जाता है जो कम से कम इतने स्टेज लोकल की बजाय WebRTC पर चलाएँगे। प्रोडक्शन जॉब को भूखा न रखने के लिए चेकपॉइंट पीयर की ग्रेस विंडो के बाद फ़ॉलबैक करता है। |
wire_hidden_dtype | नहीं | f16 | GGUF पाइपलाइन स्टेज के बीच हिडन एक्टिवेशन का dtype। f16 प्रीफ़िल और स्पेक्युलेटिव ब्लॉक के लिए वायर पेलोड आधा कर देता है; f32 डायग्नोस्टिक फ़ॉलबैक है। |
wire_hidden_codec | नहीं | fp16 | GGUF पाइपलाइन स्टेज के बीच मल्टी-टोकन हिडन एक्टिवेशन ब्लॉक के लिए प्रायोगिक कोडेक। सिंगल-टोकन डिकोड सस्ते dtype पथ पर रहता है; जेनेरिक कोडेक केवल प्रीफ़िल/स्पेक्युलेटिव ब्लॉक के लिए इस्तेमाल होते हैं जहाँ बाइट बचत कोडेक की लागत की भरपाई कर सकती है। fp16 सबसे सुरक्षित है; auto8/hq8 डायग्नोस्टिक हैं। |
stage_chaining | नहीं | true | जब सभी GGUF स्टेज रिमोट हों और चेन प्रोटोकॉल का समर्थन करें, तब हर सीमा को चेकपॉइंट कोऑर्डिनेटर से होकर भेजने की बजाय हिडन एक्टिवेशन सीधे स्टेज से स्टेज भेजें। |
latent_mode | नहीं | off | <think>…</think> के दौरान प्रशिक्षण-मुक्त Soft Thinking / SwiReasoning। स्टेज होस्ट पर _lstage_eval_soft वाला GGUF WASM चाहिए; वरना डिस्क्रीट डिकोड पर लौट आता है। CDN WASM दोबारा बनने तक डिफ़ॉल्ट रूप से बंद। Soft Thinking सक्रिय होने पर स्पेक्युलेशन के साथ परस्पर अनन्य। |
latent_phase | नहीं | tagged | tagged = थिंक मार्कर; prefix = स्टेप 0 से (बिना मार्कर वाले मॉडल)। |
latent_exit_text | नहीं | Final answer: | केवल latent_phase=prefix होने पर उपयोग होता है (सामान्य शब्दावली टोकन)। |
latent_top_n | नहीं | 15 | Soft top-n |
latent_entropy_tau | नहीं | 0.05 | Cold Stop एन्ट्रॉपी τ |
latent_cold_stop_k | नहीं | 256 | Cold Stop लगातार स्टेप |
swi_dwell_window | नहीं | 512 | Swi Explicit→Latent ठहराव |
swi_max_switches | नहीं | 8 | Swi अधिकतम Latent→Explicit स्विच |
max_thinking_tokens | नहीं | 1536 | ज़बरदस्ती </think> / प्रीफ़िक्स एग्ज़िट से पहले की कठोर सीमा। यह `max_new_tokens` से काफ़ी कम रहनी चाहिए: रीज़निंग बजट कुल जनरेशन बजट के बराबर या उससे अधिक होने पर जवाब बीच विचार में ही कट जाता है और कोई उत्तर नहीं मिलता। कंट्रोल प्लेन इसे उस बजट से दोबारा तय करता है जो चुना गया प्लेसमेंट वास्तव में वहन कर सकता है, इसलिए छोटा मान माना जाता है और बड़ा मान सीमित कर दिया जाता है। |
min_thinking_tokens | नहीं | 0 | न्यूनतम सीमा: इतने रीज़निंग टोकन बनने तक </think> को सैंपलिंग से मास्क करें। 0 इसे बंद करता है। थिंक ब्लॉक को पहले ही जनरेट टोकन पर बंद होने और बिना किसी रीज़निंग के जवाब देने से रोकता है। |
prompt | हाँ | — | चैट मॉडल के लिए उपयोगकर्ता का संदेश / प्रॉम्प्ट |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}उसी API कुंजी से तब तक पोल करें जब तक status अंतिम स्थिति (COMPLETED, FAILED, CANCELED या MODERATION_BLOCKED) में न पहुँच जाए। जब सामग्री मॉडरेशन सक्षम होता है, तो कंप्यूट कतार में जाने से पहले जॉब MODERATION_PENDING में शुरू हो सकते हैं। पूरे हुए जॉब में हर आउटपुट पर presigned download_url मान होते हैं।
Create प्रतिक्रिया
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Completed प्रतिक्रिया
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}