LLM
צ׳אט MiniCPM 2B
שאלו שאלה או נסו משימת כתיבה קצרה. ההתחברות תתבצע כשתשלחו את ההודעה הראשונה.
MiniCPM by OpenBMB
רישיונות המודל
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
שלחו הנחיית צ׳אט וקבלו תשובה מ-MiniCPM 2B. צ׳אט LLM חינמי אונליין בדפדפן, במכשירים שחיברתם. זה צ׳אט קטן חזק יותר מ-Llama 3.2 1B בגודל טלפון, והוא טקסט בלבד. מחשב חזק אחד יכול להחזיק אותו; אחרת העבודה מתפצלת בין מכונות שתוסיפו. בהרצה הראשונה המודל יורד; תשובות מאוחרות יותר מתחילות מהר יותר.
תיעוד API
שליחה דרך REST
השתמשו במפתח ה־API האישי שלכם (msk_…) כדי ליצור עבודות לעומס העבודה הזה מהכלים שלכם. עבודות שמתחילות כך רצות על אותם מכשירים שחיברתם בעמוד המכשירים שלך — לפחות אחד מהם צריך להיות מחובר.
https://cp.meshlabs.cloud/v1/organizations/jobsאימות באמצעות X-Organization-Api-Key: msk_your_personal_api_key. שם הכותרת זהה למפתחות ארגון; מפתחות אישיים משתמשים באותה נקודת קצה.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign עם אותו מפתח API, העלו את הקובץ ל־upload_url שמוחזר, ואז העבירו את download_url בתוך job_spec (למשל בתור input_image_url).גוף הבקשה
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}השדות של job_spec
| שדה | חובה | ברירת מחדל | תיאור |
|---|---|---|---|
system_prompt | לא | — | הנחיית מערכת אופציונלית |
enable_thinking | לא | true | הפעלת החשיבה של MiniCPM5 לפני התשובה הסופית (<think> / </think>). מומלץ להשאיר מופעל. |
max_new_tokens | לא | 2048 | מקסימום טוקנים שנוצרו (חשיבה + תשובה). הגדילו לפלט ארוך. ההנחיה והיצירה חולקות את חלון ההקשר, ולכן היצירה נעצרת בהקשר ואינה מגדילה את רצפת הזיכרון של השלב. |
max_context | לא | 8192 | סך הטוקנים שמארחי השלבים מקצים עבור מצב KV/רקורנטי — הנחיה ויצירה יחד. התקרה היא ההקשר הגדול ביותר שה-Oracle מדד עבור המודל הזה, כך שההצבה אינה צריכה לבצע אקסטרפולציה מעבר לראיות. העלאת הערך מעלה את רצפת הזיכרון ולכן מצמצמת את המכשירים שיכולים להריץ את המשימה. |
kv_hot_window | לא | 32768 | ה-KV הפיזי של הקשב מוגבל ל-N הטוקנים החדשים ביותר, כך ששיחה ארוכה מ-N שוכחת את התורות הוותיקות ביותר במקום להיעצר בגבול ההקשר. 0 משאיר את כל ההקשר תושב. בערך השווה לחלון ההקשר או נמוך ממנו אין שינוי — אותו זיכרון, אותו קשב — והורדה מתחת לחלון ההקשר מחליפה זיכרון ארוך טווח באורך שיחה בלתי מוגבל, כי המודל באמת אינו יכול לראות מעבר לחלון. |
turns | לא | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | לא | 1 | Temperature |
top_p | לא | 0.95 | Top P |
top_k | לא | 0 | Top K |
presence_penalty | לא | 0 | Presence Penalty |
repetition_penalty | לא | 1 | Repetition Penalty |
seed | לא | — | Seed אקראי לשחזור |
speculative_ngram | לא | false | טיוטה לפי חיפוש בהנחיה: n-gram שחוזרים בהקשר מושמעים מחדש כבלוקי טיוטה ומאומתים על ידי המודל במעבר אחד, כך שהלוך-חזור יחיד ברשת יכול לאשר כמה טוקנים. אין מודל נוסף; הפלט זהה לפענוח סדרתי. |
speculative_draft_model | לא | false | מריצים מודל טיוטה GGUF זעיר בצומת נקודת הבדיקה כדי להציע בלוקי טיוטה (מומלץ 'Draft model bundled filename'; כתובת חיצונית נשארת זמינה כחלופה). חוזרים לטיוטת n-gram כשמודל הטיוטה אינו זמין. |
draft_model_file | לא | — | שם קובץ של מודל טיוטה GGUF לא מחולק בחבילת עומס העבודה הזו. ה-SDK פותר אותו מתוך required_files, כך שדליי S3 פרטיים יכולים להשתמש בכתובת החתומה/פרוקסי שהשרת מספק במקום כתובת ציבורית. |
draft_model_url | לא | — | כתובת HTTPS חיצונית אופציונלית של מודל טיוטה GGUF זעיר. משמשת כחלופה כש-'Draft model bundled filename' חסר או אינו מופיע ב-required_files. |
speculative_max_draft | לא | 8 | חסם עליון למספר טוקני הטיוטה שמאומתים בכל בלוק. האורך האפקטיבי מסתגל לשיעור הקבלה שנצפה. |
min_remote_stages | לא | 0 | פקד הצבה לאבחון לבדיקות GGUF במקביליות צינור. כשהערך גדול מ-0, נקודת הבדיקה מוקצית רק לצמתים שיריצו לפחות מספר זה של שלבים דרך WebRTC ולא מקומית. חוזרים לאחור אחרי חלון החסד של עמית נקודת הבדיקה כדי לא לרעיב משימות ייצור. |
wire_hidden_dtype | לא | f16 | dtype של הפעלה נסתרת בין שלבי הצינור של GGUF. f16 מחצה את מטען החוט עבור prefill ובלוקים ספקולטיביים; f32 הוא חלופה לאבחון. |
wire_hidden_codec | לא | fp16 | קודק ניסיוני לבלוקי הפעלה נסתרת מרובי טוקנים בין שלבי צינור GGUF. פענוח טוקן יחיד נשאר בנתיב ה-dtype הזול; קודקים גנריים משמשים רק לבלוקי prefill/ספקולטיביים שבהם חיסכון הבתים יכול לקזז את עלות הקודק. fp16 הוא הבטוח ביותר; auto8/hq8 לאבחון. |
stage_chaining | לא | true | כשכל שלבי GGUF מרוחקים ותומכים בפרוטוקול השרשור, שולחים הפעלות נסתרות ישירות משלב לשלב, במקום להעביר כל גבול דרך מתאם נקודת הבדיקה. |
latent_mode | לא | off | Soft Thinking / SwiReasoning ללא אימון במהלך <think>…</think>. דורש GGUF WASM עם _lstage_eval_soft במארחי השלבים; אחרת חוזרים לפענוח בדיד. כבוי כברירת מחדל עד שה-WASM ב-CDN ייבנה מחדש. סותר ספקולציה כש-Soft Thinking פעיל. |
latent_phase | לא | tagged | tagged = סמני חשיבה; prefix = מצעד 0 (מודלים ללא סמנים). |
latent_exit_text | לא | Final answer: | בשימוש רק כש-latent_phase=prefix (טוקני אוצר מילים רגילים). |
latent_top_n | לא | 15 | Soft top-n |
latent_entropy_tau | לא | 0.05 | אנטרופיית Cold Stop τ |
latent_cold_stop_k | לא | 256 | צעדים רצופים של Cold Stop |
swi_dwell_window | לא | 512 | השהיית Swi מ-Explicit ל-Latent |
swi_max_switches | לא | 8 | מקסימום מעברי Swi מ-Latent ל-Explicit |
max_thinking_tokens | לא | 1536 | תקציב קשיח לפני </think> כפוי / יציאה מ-prefix. חייב להישאר נמוך משמעותית מ-`max_new_tokens`: תקציב הנמקה השווה לתקציב היצירה הכולל או גבוה ממנו גורם לתשובה שנחתכת באמצע המחשבה, בלי תשובה בכלל. מישור הבקרה מחשב מחדש את הערך לפי התקציב שההצבה שנבחרה יכולה להרשות לעצמה, כך שערך קטן יותר מכובד וערך גדול יותר מוגבל. |
min_thinking_tokens | לא | 0 | רצפה: מסתירים את </think> מהדגימה עד שקיימים מספר זה של טוקני הנמקה. 0 מבטל. מונע מבלוק חשיבה להיסגר בטוקן הראשון שנוצר ולענות בלי הנמקה כלל. |
prompt | כן | — | הודעת משתמש / הנחיה למודל הצ׳אט |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}תשאלו עם אותו מפתח API עד ש־status מגיע למצב סופי (COMPLETED, FAILED, CANCELED או MODERATION_BLOCKED). כשניהול תוכן מופעל, עבודות עשויות להתחיל במצב MODERATION_PENDING לפני שהן נכנסות לתור המחשוב. עבודות שהושלמו כוללות ערכי download_url חתומים מראש בכל פלט.
תגובת יצירה
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}תגובת השלמה
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}