LLM
MiniCPM 2B Chat
Ajukan pertanyaan atau coba tugas menulis singkat. Masuk saat Anda mengirim pesan pertama.
MiniCPM by OpenBMB
Lisensi model
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Kirim prompt chat dan dapatkan balasan MiniCPM 2B. Chat LLM online gratis di browser, pada perangkat yang Anda hubungkan. Ini adalah chat kecil yang lebih kuat daripada Llama 3.2 1B berukuran ponsel, dan hanya teks. Satu komputer yang kuat dapat menampungnya; jika tidak, pekerjaan dibagi ke mesin yang Anda tambahkan. Saat pertama dijalankan, model diunduh; balasan berikutnya dimulai lebih cepat.
Referensi API
Kirim melalui REST
Gunakan kunci API pribadi Anda (msk_…) untuk membuat tugas bagi beban kerja ini dari alat Anda sendiri. Tugas yang dimulai dengan cara ini berjalan di perangkat yang sama yang Anda hubungkan di Perangkat Anda — setidaknya satu harus online.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentikasi dengan X-Organization-Api-Key: msk_your_personal_api_key. Nama header sama dengan kunci organisasi; kunci pribadi menggunakan endpoint yang sama.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign dengan kunci API yang sama, unggah file Anda ke upload_url yang dikembalikan, lalu teruskan download_url di job_spec (misalnya sebagai input_image_url).Isi permintaan
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Kolom job_spec
| Kolom | Wajib | Default | Deskripsi |
|---|---|---|---|
system_prompt | Tidak | — | System prompt opsional |
enable_thinking | Tidak | true | Aktifkan thinking MiniCPM5 sebelum jawaban akhir (<think> / </think>). Biarkan tetap aktif. |
max_new_tokens | Tidak | 2048 | Jumlah maksimum token yang dihasilkan (thinking + jawaban). Naikkan untuk keluaran panjang. Prompt dan generasi berbagi jendela konteks, sehingga generasi berhenti pada konteks, bukan menambah batas bawah memori tahap. |
max_context | Tidak | 8192 | Total token yang dialokasikan stage host untuk state KV/rekuren — prompt ditambah generasi. Batas atasnya adalah konteks terbesar yang diukur Oracle untuk model ini, sehingga penempatan tidak perlu mengekstrapolasi melampaui bukti. Menaikkannya menaikkan batas bawah memori dan karena itu mempersempit perangkat yang dapat menjalankan tugas. |
kv_hot_window | Tidak | 32768 | KV attention fisik dibatasi pada N token terbaru, sehingga percakapan yang lebih panjang dari N melupakan giliran tertuanya alih-alih berhenti pada batas konteks. 0 mempertahankan seluruh konteks tetap residen. Pada atau di bawah jendela konteks, ini tidak mengubah apa pun — memori sama, attention sama — dan menurunkannya di bawah jendela konteks menukar ingatan jarak jauh dengan panjang percakapan tanpa batas, karena model memang tidak dapat melihat melewati jendela. |
turns | Tidak | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Tidak | 1 | Temperature |
top_p | Tidak | 0.95 | Top P |
top_k | Tidak | 0 | Top K |
presence_penalty | Tidak | 0 | Presence Penalty |
repetition_penalty | Tidak | 1 | Repetition Penalty |
seed | Tidak | — | Random seed untuk reprodusibilitas |
speculative_ngram | Tidak | false | Prompt-lookup drafting: n-gram yang berulang dari konteks diputar ulang sebagai blok draf dan diverifikasi oleh model dalam SATU lintasan, sehingga satu kali bolak-balik jaringan dapat mengesahkan beberapa token. Tanpa model tambahan; keluarannya identik dengan decoding berurutan. |
speculative_draft_model | Tidak | false | Jalankan model draf GGUF berukuran kecil di node checkpoint untuk mengusulkan blok draf (utamakan 'Draft model bundled filename'; URL eksternal tetap tersedia sebagai cadangan). Kembali ke drafting n-gram jika model draf tidak tersedia. |
draft_model_file | Tidak | — | Nama file model draf GGUF yang tidak dipartisi dalam bundel workload ini. SDK menyelesaikannya dari required_files, sehingga bucket S3 privat dapat memakai URL bertanda tangan/proxy dari server alih-alih URL publik. |
draft_model_url | Tidak | — | URL HTTPS eksternal opsional untuk model draf GGUF berukuran kecil. Digunakan sebagai cadangan jika 'Draft model bundled filename' tidak ada atau tidak tercantum di required_files. |
speculative_max_draft | Tidak | 8 | Batas atas token draf yang diverifikasi per blok. Panjang efektif menyesuaikan dengan tingkat penerimaan yang teramati. |
min_remote_stages | Tidak | 0 | Parameter diagnostik penempatan untuk pengujian GGUF pipeline-parallel. Jika > 0, checkpoint hanya ditugaskan ke node yang menjalankan setidaknya sejumlah tahap ini melalui WebRTC, bukan secara lokal. Kembali setelah jendela tenggang peer checkpoint berakhir agar tugas produksi tidak kelaparan. |
wire_hidden_dtype | Tidak | f16 | Dtype aktivasi hidden antar tahap pipeline GGUF. f16 memangkas muatan wire setengahnya untuk prefill dan blok spekulatif; f32 adalah cadangan diagnostik. |
wire_hidden_codec | Tidak | fp16 | Codec eksperimental untuk blok aktivasi hidden multi-token antar tahap pipeline GGUF. Decode satu token tetap memakai jalur dtype yang murah; codec generik hanya digunakan untuk blok prefill/spekulatif yang penghematan byte-nya dapat mengimbangi biaya codec. fp16 paling aman; auto8/hq8 adalah diagnostik. |
stage_chaining | Tidak | true | Jika semua tahap GGUF remote dan mendukung protokol chain, kirim aktivasi hidden langsung dari tahap ke tahap, alih-alih menyampaikan setiap batas lewat koordinator checkpoint. |
latent_mode | Tidak | off | Soft Thinking / SwiReasoning tanpa pelatihan selama <think>…</think>. Memerlukan WASM GGUF dengan _lstage_eval_soft pada stage host; jika tidak, kembali ke decode diskret. Default nonaktif sampai WASM CDN dibangun ulang. Saling eksklusif dengan speculation saat Soft Thinking aktif. |
latent_phase | Tidak | tagged | tagged = penanda think; prefix = sejak langkah 0 (model tanpa penanda). |
latent_exit_text | Tidak | Final answer: | Hanya digunakan saat latent_phase=prefix (token kosakata biasa). |
latent_top_n | Tidak | 15 | Soft top-n |
latent_entropy_tau | Tidak | 0.05 | Entropi τ Cold Stop |
latent_cold_stop_k | Tidak | 256 | Langkah berturut-turut Cold Stop |
swi_dwell_window | Tidak | 512 | Dwell Swi Explicit→Latent |
swi_max_switches | Tidak | 8 | Maks. perpindahan Swi Latent→Explicit |
max_thinking_tokens | Tidak | 1536 | Anggaran keras sebelum </think> / keluar prefix dipaksakan. Harus tetap jauh di bawah `max_new_tokens`: anggaran reasoning yang sama dengan atau melebihi total anggaran generasi menghasilkan balasan yang terputus di tengah pemikiran tanpa jawaban sama sekali. Control plane memotong ulang nilai ini dari anggaran yang benar-benar sanggup ditanggung penempatan terpilih, sehingga nilai yang lebih kecil dihormati dan nilai yang lebih besar dibatasi. |
min_thinking_tokens | Tidak | 0 | Batas bawah: mask </think> dari sampling sampai sejumlah token reasoning ini terkumpul. 0 menonaktifkan. Mencegah blok think menutup pada token pertama yang dihasilkan dan menjawab tanpa reasoning sama sekali. |
prompt | Ya | — | Pesan pengguna / prompt untuk model chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Lakukan polling dengan kunci API yang sama sampai status mencapai status akhir (COMPLETED, FAILED, CANCELED, atau MODERATION_BLOCKED). Jika moderasi konten diaktifkan, tugas dapat dimulai dalam status MODERATION_PENDING sebelum masuk ke antrean komputasi. Tugas yang selesai menyertakan nilai download_url presigned pada setiap keluaran.
Respons pembuatan
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Respons selesai
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}