LLM
צ׳אט Nemotron 3 Nano
שאלו שאלה או נסו משימת כתיבה קצרה. ההתחברות תתבצע כשתשלחו את ההודעה הראשונה.
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
רישיונות המודל
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
בחירת מודל
המודל הנוכחי:
צ׳אט Nemotron 3 Nano
איכות הפלט: 50%
האיכות הטובה ביותר שהמכשיר שלך יכול להריץ. הוסיפו עוד מכשירים כדי לסיים מהר יותר.
כתבו את ההודעה ולחצו ״שליחה״ כדי להתחבר ולהתחיל.
שוחחו עם NVIDIA Nemotron 3 Nano, מודל פתוח גדול יותר מהצ׳אטים בגודל טלפון. צ׳אט בינה מלאכותית חינמי במכשירים שחיברתם. מחשב חזק אחד יכול להחזיק אותו; אחרת העבודה מתפצלת בין מכונות שתוסיפו. טקסט בלבד. ההורדה הראשונה גדולה, ושיחות מאוחרות יותר משתמשות בה שוב. המודל ברישיון NVIDIA Open Model License.
תיעוד API
שליחה דרך REST
השתמשו במפתח ה־API האישי שלכם (msk_…) כדי ליצור עבודות לעומס העבודה הזה מהכלים שלכם. עבודות שמתחילות כך רצות על אותם מכשירים שחיברתם בעמוד המכשירים שלך — לפחות אחד מהם צריך להיות מחובר.
https://cp.meshlabs.cloud/v1/organizations/jobsאימות באמצעות X-Organization-Api-Key: msk_your_personal_api_key. שם הכותרת זהה למפתחות ארגון; מפתחות אישיים משתמשים באותה נקודת קצה.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign עם אותו מפתח API, העלו את הקובץ ל־upload_url שמוחזר, ואז העבירו את download_url בתוך job_spec (למשל בתור input_image_url).גוף הבקשה
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}השדות של job_spec
| שדה | חובה | ברירת מחדל | תיאור |
|---|---|---|---|
system_prompt | לא | — | הנחיית מערכת אופציונלית |
enable_thinking | לא | true | הפעלת חשיבה/הנמקה לפני התשובה הסופית. פריימרי Nemotron-3 Nano הם ChatML <think>/</think> (מזהים 12/13); השאירו מופעל להנמקה. temperature=1.0 / top_p=1.0 הם ברירות המחדל של הכרטיס למצב זה. |
max_new_tokens | לא | 2048 | מקסימום טוקנים שנוצרו (חשיבה + תשובה). הגדילו לפלט ארוך. ההנחיה והיצירה חולקות את חלון ההקשר, ולכן היצירה נעצרת בהקשר ואינה מגדילה את רצפת הזיכרון של השלב. |
max_context | לא | 8192 | סך הטוקנים שמארחי השלבים מקצים עבור מצב KV/רקורנטי — הנחיה ויצירה יחד. התקרה היא ההקשר הגדול ביותר שה-Oracle מדד עבור המודל הזה, כך שההצבה אינה צריכה לבצע אקסטרפולציה מעבר לראיות. העלאת הערך מעלה את רצפת הזיכרון ולכן מצמצמת את המכשירים שיכולים להריץ את המשימה. |
kv_hot_window | לא | 32768 | ה-KV הפיזי של הקשב מוגבל ל-N הטוקנים החדשים ביותר, כך ששיחה ארוכה מ-N שוכחת את התורות הוותיקות ביותר במקום להיעצר בגבול ההקשר. 0 משאיר את כל ההקשר תושב. בערך השווה לחלון ההקשר או נמוך ממנו אין שינוי — אותו זיכרון, אותו קשב — והורדה מתחת לחלון ההקשר מחליפה זיכרון ארוך טווח באורך שיחה בלתי מוגבל, כי המודל באמת אינו יכול לראות מעבר לחלון. |
turns | לא | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | לא | 1 | Temperature |
top_p | לא | 1 | Top P |
top_k | לא | 20 | Top K |
presence_penalty | לא | 0 | Presence Penalty |
repetition_penalty | לא | 1 | Repetition Penalty |
seed | לא | — | Seed אקראי לשחזור |
speculative_ngram | לא | false | טיוטה לפי חיפוש בהנחיה: n-gram שחוזרים בהקשר מושמעים מחדש כבלוקי טיוטה ומאומתים על ידי המודל במעבר אחד, כך שהלוך-חזור יחיד ברשת יכול לאשר כמה טוקנים. אין מודל נוסף; הפלט זהה לפענוח סדרתי. |
speculative_draft_model | לא | false | מריצים מודל טיוטה GGUF זעיר בצומת נקודת הבדיקה כדי להציע בלוקי טיוטה (מומלץ 'Draft model bundled filename'; כתובת חיצונית נשארת זמינה כחלופה). חוזרים לטיוטת n-gram כשמודל הטיוטה אינו זמין. |
draft_model_file | לא | — | שם קובץ של מודל טיוטה GGUF לא מחולק בחבילת עומס העבודה הזו. ה-SDK פותר אותו מתוך required_files, כך שדליי S3 פרטיים יכולים להשתמש בכתובת החתומה/פרוקסי שהשרת מספק במקום כתובת ציבורית. |
draft_model_url | לא | — | כתובת HTTPS חיצונית אופציונלית של מודל טיוטה GGUF זעיר. משמשת כחלופה כש-'Draft model bundled filename' חסר או אינו מופיע ב-required_files. |
speculative_max_draft | לא | 8 | חסם עליון למספר טוקני הטיוטה שמאומתים בכל בלוק. האורך האפקטיבי מסתגל לשיעור הקבלה שנצפה. |
min_remote_stages | לא | 0 | פקד הצבה לאבחון לבדיקות GGUF במקביליות צינור. כשהערך גדול מ-0, נקודת הבדיקה מוקצית רק לצמתים שיריצו לפחות מספר זה של שלבים דרך WebRTC ולא מקומית. חוזרים לאחור אחרי חלון החסד של עמית נקודת הבדיקה כדי לא לרעיב משימות ייצור. |
wire_hidden_dtype | לא | f16 | dtype של הפעלה נסתרת בין שלבי הצינור של GGUF. f16 מחצה את מטען החוט עבור prefill ובלוקים ספקולטיביים; f32 הוא חלופה לאבחון. |
wire_hidden_codec | לא | fp16 | קודק ניסיוני לבלוקי הפעלה נסתרת מרובי טוקנים בין שלבי צינור GGUF. פענוח טוקן יחיד נשאר בנתיב ה-dtype הזול; קודקים גנריים משמשים רק לבלוקי prefill/ספקולטיביים שבהם חיסכון הבתים יכול לקזז את עלות הקודק. fp16 הוא הבטוח ביותר; auto8/hq8 לאבחון. |
stage_chaining | לא | true | כשכל שלבי GGUF מרוחקים ותומכים בפרוטוקול השרשור, שולחים הפעלות נסתרות ישירות משלב לשלב, במקום להעביר כל גבול דרך מתאם נקודת הבדיקה. |
latent_mode | לא | off | Soft Thinking / SwiReasoning ללא אימון במהלך <think>…</think>. דורש GGUF WASM עם _lstage_eval_soft במארחי השלבים; אחרת חוזרים לפענוח בדיד. כבוי כברירת מחדל עד שה-WASM ב-CDN ייבנה מחדש. סותר ספקולציה כש-Soft Thinking פעיל. |
latent_phase | לא | tagged | tagged = סמני חשיבה; prefix = מצעד 0 (מודלים ללא סמנים). |
latent_exit_text | לא | Final answer: | בשימוש רק כש-latent_phase=prefix (טוקני אוצר מילים רגילים). |
latent_top_n | לא | 15 | Soft top-n |
latent_entropy_tau | לא | 0.05 | אנטרופיית Cold Stop τ |
latent_cold_stop_k | לא | 256 | צעדים רצופים של Cold Stop |
swi_dwell_window | לא | 512 | השהיית Swi מ-Explicit ל-Latent |
swi_max_switches | לא | 8 | מקסימום מעברי Swi מ-Latent ל-Explicit |
max_thinking_tokens | לא | 1536 | תקציב קשיח לפני </think> כפוי / יציאה מ-prefix. חייב להישאר נמוך משמעותית מ-`max_new_tokens`: תקציב הנמקה השווה לתקציב היצירה הכולל או גבוה ממנו גורם לתשובה שנחתכת באמצע המחשבה, בלי תשובה בכלל. מישור הבקרה מחשב מחדש את הערך לפי התקציב שההצבה שנבחרה יכולה להרשות לעצמה, כך שערך קטן יותר מכובד וערך גדול יותר מוגבל. |
min_thinking_tokens | לא | 0 | רצפה: מסתירים את </think> מהדגימה עד שקיימים מספר זה של טוקני הנמקה. 0 מבטל. מונע מבלוק חשיבה להיסגר בטוקן הראשון שנוצר ולענות בלי הנמקה כלל. |
prompt | כן | — | הודעת משתמש / הנחיה למודל הצ׳אט |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}תשאלו עם אותו מפתח API עד ש־status מגיע למצב סופי (COMPLETED, FAILED, CANCELED או MODERATION_BLOCKED). כשניהול תוכן מופעל, עבודות עשויות להתחיל במצב MODERATION_PENDING לפני שהן נכנסות לתור המחשוב. עבודות שהושלמו כוללות ערכי download_url חתומים מראש בכל פלט.
תגובת יצירה
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}תגובת השלמה
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}