LLM

צ׳אט Nemotron 3 Nano

שאלו שאלה או נסו משימת כתיבה קצרה. ההתחברות תתבצע כשתשלחו את ההודעה הראשונה.

Licensed by NVIDIA Corporation under the NVIDIA Open Model License

רישיונות המודל

NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24

NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.

רישיון המצורף למודל

הודעה משפטית

חינםאונלייןללא הגבלהLicensed by NVIDIA Corporation under the NVIDIA Open Model License גישת API

מתי שתהיו מוכנים.

כתבו את ההודעה ולחצו ״שליחה״ כדי להתחבר ולהתחיל.

שוחחו עם NVIDIA Nemotron 3 Nano, מודל פתוח גדול יותר מהצ׳אטים בגודל טלפון. צ׳אט בינה מלאכותית חינמי במכשירים שחיברתם. מחשב חזק אחד יכול להחזיק אותו; אחרת העבודה מתפצלת בין מכונות שתוסיפו. טקסט בלבד. ההורדה הראשונה גדולה, ושיחות מאוחרות יותר משתמשות בה שוב. המודל ברישיון NVIDIA Open Model License.

תיעוד API

שליחה דרך REST

השתמשו במפתח ה־API האישי שלכם (msk_…) כדי ליצור עבודות לעומס העבודה הזה מהכלים שלכם. עבודות שמתחילות כך רצות על אותם מכשירים שחיברתם בעמוד המכשירים שלך — לפחות אחד מהם צריך להיות מחובר.

הסתרת פרטי ה־API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

אימות באמצעות X-Organization-Api-Key: msk_your_personal_api_key. שם הכותרת זהה למפתחות ארגון; מפתחות אישיים משתמשים באותה נקודת קצה.

קובצי קלט:קראו ל־POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign עם אותו מפתח API, העלו את הקובץ ל־upload_url שמוחזר, ואז העבירו את download_url בתוך job_spec (למשל בתור input_image_url).

גוף הבקשה

{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

השדות של job_spec

שדהחובהברירת מחדלתיאור
system_promptלא—הנחיית מערכת אופציונלית
enable_thinkingלאtrueהפעלת חשיבה/הנמקה לפני התשובה הסופית. פריימרי Nemotron-3 Nano הם ChatML <think>/</think> (מזהים 12/13); השאירו מופעל להנמקה. temperature=1.0 / top_p=1.0 הם ברירות המחדל של הכרטיס למצב זה.
max_new_tokensלא2048מקסימום טוקנים שנוצרו (חשיבה + תשובה). הגדילו לפלט ארוך. ההנחיה והיצירה חולקות את חלון ההקשר, ולכן היצירה נעצרת בהקשר ואינה מגדילה את רצפת הזיכרון של השלב.
max_contextלא8192סך הטוקנים שמארחי השלבים מקצים עבור מצב KV/רקורנטי — הנחיה ויצירה יחד. התקרה היא ההקשר הגדול ביותר שה-Oracle מדד עבור המודל הזה, כך שההצבה אינה צריכה לבצע אקסטרפולציה מעבר לראיות. העלאת הערך מעלה את רצפת הזיכרון ולכן מצמצמת את המכשירים שיכולים להריץ את המשימה.
kv_hot_windowלא32768ה-KV הפיזי של הקשב מוגבל ל-N הטוקנים החדשים ביותר, כך ששיחה ארוכה מ-N שוכחת את התורות הוותיקות ביותר במקום להיעצר בגבול ההקשר. 0 משאיר את כל ההקשר תושב. בערך השווה לחלון ההקשר או נמוך ממנו אין שינוי — אותו זיכרון, אותו קשב — והורדה מתחת לחלון ההקשר מחליפה זיכרון ארוך טווח באורך שיחה בלתי מוגבל, כי המודל באמת אינו יכול לראות מעבר לחלון.
turnsלא—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureלא1Temperature
top_pלא1Top P
top_kלא20Top K
presence_penaltyלא0Presence Penalty
repetition_penaltyלא1Repetition Penalty
seedלא—Seed אקראי לשחזור
speculative_ngramלאfalseטיוטה לפי חיפוש בהנחיה: n-gram שחוזרים בהקשר מושמעים מחדש כבלוקי טיוטה ומאומתים על ידי המודל במעבר אחד, כך שהלוך-חזור יחיד ברשת יכול לאשר כמה טוקנים. אין מודל נוסף; הפלט זהה לפענוח סדרתי.
speculative_draft_modelלאfalseמריצים מודל טיוטה GGUF זעיר בצומת נקודת הבדיקה כדי להציע בלוקי טיוטה (מומלץ 'Draft model bundled filename'; כתובת חיצונית נשארת זמינה כחלופה). חוזרים לטיוטת n-gram כשמודל הטיוטה אינו זמין.
draft_model_fileלא—שם קובץ של מודל טיוטה GGUF לא מחולק בחבילת עומס העבודה הזו. ה-SDK פותר אותו מתוך required_files, כך שדליי S3 פרטיים יכולים להשתמש בכתובת החתומה/פרוקסי שהשרת מספק במקום כתובת ציבורית.
draft_model_urlלא—כתובת HTTPS חיצונית אופציונלית של מודל טיוטה GGUF זעיר. משמשת כחלופה כש-'Draft model bundled filename' חסר או אינו מופיע ב-required_files.
speculative_max_draftלא8חסם עליון למספר טוקני הטיוטה שמאומתים בכל בלוק. האורך האפקטיבי מסתגל לשיעור הקבלה שנצפה.
min_remote_stagesלא0פקד הצבה לאבחון לבדיקות GGUF במקביליות צינור. כשהערך גדול מ-0, נקודת הבדיקה מוקצית רק לצמתים שיריצו לפחות מספר זה של שלבים דרך WebRTC ולא מקומית. חוזרים לאחור אחרי חלון החסד של עמית נקודת הבדיקה כדי לא לרעיב משימות ייצור.
wire_hidden_dtypeלאf16dtype של הפעלה נסתרת בין שלבי הצינור של GGUF. f16 מחצה את מטען החוט עבור prefill ובלוקים ספקולטיביים; f32 הוא חלופה לאבחון.
wire_hidden_codecלאfp16קודק ניסיוני לבלוקי הפעלה נסתרת מרובי טוקנים בין שלבי צינור GGUF. פענוח טוקן יחיד נשאר בנתיב ה-dtype הזול; קודקים גנריים משמשים רק לבלוקי prefill/ספקולטיביים שבהם חיסכון הבתים יכול לקזז את עלות הקודק. fp16 הוא הבטוח ביותר; auto8/hq8 לאבחון.
stage_chainingלאtrueכשכל שלבי GGUF מרוחקים ותומכים בפרוטוקול השרשור, שולחים הפעלות נסתרות ישירות משלב לשלב, במקום להעביר כל גבול דרך מתאם נקודת הבדיקה.
latent_modeלאoffSoft Thinking / SwiReasoning ללא אימון במהלך <think>…</think>. דורש GGUF WASM עם _lstage_eval_soft במארחי השלבים; אחרת חוזרים לפענוח בדיד. כבוי כברירת מחדל עד שה-WASM ב-CDN ייבנה מחדש. סותר ספקולציה כש-Soft Thinking פעיל.
latent_phaseלאtaggedtagged = סמני חשיבה; prefix = מצעד 0 (מודלים ללא סמנים).
latent_exit_textלא Final answer: בשימוש רק כש-latent_phase=prefix (טוקני אוצר מילים רגילים).
latent_top_nלא15Soft top-n
latent_entropy_tauלא0.05אנטרופיית Cold Stop τ
latent_cold_stop_kלא256צעדים רצופים של Cold Stop
swi_dwell_windowלא512השהיית Swi מ-Explicit ל-Latent
swi_max_switchesלא8מקסימום מעברי Swi מ-Latent ל-Explicit
max_thinking_tokensלא1536תקציב קשיח לפני </think> כפוי / יציאה מ-prefix. חייב להישאר נמוך משמעותית מ-`max_new_tokens`: תקציב הנמקה השווה לתקציב היצירה הכולל או גבוה ממנו גורם לתשובה שנחתכת באמצע המחשבה, בלי תשובה בכלל. מישור הבקרה מחשב מחדש את הערך לפי התקציב שההצבה שנבחרה יכולה להרשות לעצמה, כך שערך קטן יותר מכובד וערך גדול יותר מוגבל.
min_thinking_tokensלא0רצפה: מסתירים את </think> מהדגימה עד שקיימים מספר זה של טוקני הנמקה. 0 מבטל. מונע מבלוק חשיבה להיסגר בטוקן הראשון שנוצר ולענות בלי הנמקה כלל.
promptכן—הודעת משתמש / הנחיה למודל הצ׳אט

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

תשאלו עם אותו מפתח API עד ש־status מגיע למצב סופי (COMPLETED,‏ FAILED,‏ CANCELED או MODERATION_BLOCKED). כשניהול תוכן מופעל, עבודות עשויות להתחיל במצב MODERATION_PENDING לפני שהן נכנסות לתור המחשוב. עבודות שהושלמו כוללות ערכי download_url חתומים מראש בכל פלט.

תגובת יצירה

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

תגובת השלמה

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}