LLM

Nemotron 3 Nano แชท

ถามคำถามหรือลองงานเขียนสั้น ๆ ลงชื่อเข้าใช้เมื่อคุณส่งข้อความแรก

Licensed by NVIDIA Corporation under the NVIDIA Open Model License

ใบอนุญาตโมเดล

NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24

NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.

ใบอนุญาตที่แนบมา

ประกาศ

ฟรีออนไลน์ไม่จำกัดLicensed by NVIDIA Corporation under the NVIDIA Open Model License การเข้าถึง API

พร้อมเมื่อคุณพร้อม

เขียนข้อความแล้วกดส่งเพื่อลงชื่อเข้าใช้และเริ่มต้น

แชทกับ NVIDIA Nemotron 3 Nano โมเดลโอเพนที่ใหญ่กว่าแชทขนาดโทรศัพท์ แชท AI ฟรีบนอุปกรณ์ที่คุณเชื่อมต่อ คอมพิวเตอร์ที่แรงเครื่องเดียวรับไว้ได้ มิฉะนั้นงานจะแบ่งไปยังเครื่องที่คุณเพิ่ม รองรับเฉพาะข้อความ การดาวน์โหลดครั้งแรกมีขนาดใหญ่ และแชทครั้งถัดไปจะใช้ซ้ำ โมเดลอยู่ภายใต้ NVIDIA Open Model License

เอกสารอ้างอิง API

ส่งผ่าน REST

ใช้คีย์ API ส่วนบุคคลของคุณ (msk_…) เพื่อสร้างงานสำหรับเวิร์กโหลดนี้จากเครื่องมือของคุณเอง งานที่เริ่มด้วยวิธีนี้จะทำงานบนอุปกรณ์เดียวกับที่คุณเชื่อมต่อไว้ใน อุปกรณ์ของคุณ — ต้องมีอย่างน้อยหนึ่งเครื่องที่ออนไลน์

ซ่อนรายละเอียด API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

ยืนยันตัวตนด้วย X-Organization-Api-Key: msk_your_personal_api_key ชื่อเฮดเดอร์ตรงกับคีย์ขององค์กร ส่วนคีย์ส่วนบุคคลใช้ปลายทางเดียวกัน

ไฟล์อินพุต:เรียก POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign ด้วยคีย์ API เดียวกัน อัปโหลดไฟล์ของคุณไปยัง upload_url ที่ได้รับ จากนั้นส่ง download_url ใน job_spec (เช่น เป็น input_image_url)

เนื้อหาคำขอ

{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

ฟิลด์ของ job_spec

ฟิลด์จำเป็นค่าเริ่มต้นคำอธิบาย
system_promptไม่—พรอมต์ระบบ (ไม่บังคับ)
enable_thinkingไม่trueเปิดใช้การคิด/การให้เหตุผลก่อนตอบสุดท้าย primer ของ Nemotron-3 Nano คือ ChatML <think>/</think> (id 12/13) ควรเปิดไว้เพื่อการให้เหตุผล temperature=1.0 / top_p=1.0 เป็นค่าเริ่มต้นตาม card สำหรับโหมดนั้น
max_new_tokensไม่2048จำนวนโทเค็นสูงสุดที่สร้าง (การคิด + คำตอบ) เพิ่มค่าสำหรับผลลัพธ์ยาว พรอมต์และการสร้างใช้หน้าต่างบริบทร่วมกัน การสร้างจึงหยุดที่บริบท แทนที่จะเพิ่มขั้นต่ำของหน่วยความจำของสเตจ
max_contextไม่8192จำนวนโทเค็นรวมที่โฮสต์สเตจจัดสรรสถานะ KV/recurrent ให้ ได้แก่พรอมต์รวมกับการสร้างคำตอบ เพดานคือบริบทที่ใหญ่ที่สุดที่ Oracle วัดโมเดลนี้ไว้ ทำให้การจัดวางไม่ต้องคาดการณ์เกินหลักฐาน การเพิ่มค่านี้ทำให้ขั้นต่ำของหน่วยความจำสูงขึ้น และทำให้อุปกรณ์ที่รันงานได้แคบลง
kv_hot_windowไม่32768KV ของ attention ทางกายภาพถูกจำกัดไว้ที่ N โทเค็นล่าสุด การสนทนาที่ยาวกว่า N จึงลืมช่วงแรกสุดแทนที่จะหยุดที่ขีดจำกัดบริบท 0 คือเก็บบริบททั้งหมดไว้ในหน่วยความจำ เมื่อเท่ากับหรือต่ำกว่าหน้าต่างบริบทจะไม่เปลี่ยนอะไร — หน่วยความจำและ attention เหมือนเดิม — และการลดต่ำกว่านั้นเป็นการแลกการจำระยะไกลกับความยาวบทสนทนาที่ไม่จำกัด เพราะโมเดลมองเห็นเกินหน้าต่างไม่ได้จริงๆ
turnsไม่—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureไม่1Temperature
top_pไม่1Top P
top_kไม่20Top K
presence_penaltyไม่0Presence Penalty
repetition_penaltyไม่1Repetition Penalty
seedไม่—ซีดสุ่มเพื่อให้ได้ผลซ้ำได้
speculative_ngramไม่falsePrompt-lookup drafting: n-gram ที่ซ้ำในบริบทจะถูกนำมาเล่นซ้ำเป็นบล็อกร่าง แล้วให้โมเดลตรวจสอบในรอบเดียว การไปกลับผ่านเครือข่ายครั้งเดียวจึงยืนยันได้หลายโทเค็น ไม่ใช้โมเดลเพิ่ม ผลลัพธ์เหมือนการถอดรหัสแบบทีละโทเค็นทุกประการ
speculative_draft_modelไม่falseรันโมเดลร่าง GGUF ขนาดเล็กบนโหนด checkpoint เพื่อเสนอบล็อกร่าง (แนะนำให้ใช้ 'ชื่อไฟล์โมเดลร่างที่มากับชุด' ส่วน URL ภายนอกยังใช้เป็นทางสำรองได้) จะถอยกลับไปใช้ n-gram drafting เมื่อไม่มีโมเดลร่าง
draft_model_fileไม่—ชื่อไฟล์ของโมเดลร่าง GGUF ที่ไม่ได้แบ่งส่วนในชุดเวิร์กโหลดนี้ SDK ระบุไฟล์จาก required_files บักเก็ต S3 ส่วนตัวจึงใช้ URL แบบ signed/proxy ที่เซิร์ฟเวอร์ให้ แทน URL สาธารณะได้
draft_model_urlไม่—URL HTTPS ภายนอกของโมเดลร่าง GGUF ขนาดเล็ก (ไม่บังคับ) ใช้เป็นทางสำรองเมื่อไม่มี 'ชื่อไฟล์โมเดลร่างที่มากับชุด' หรือไม่อยู่ใน required_files
speculative_max_draftไม่8ขีดจำกัดบนของโทเค็นร่างที่ตรวจสอบต่อบล็อก ความยาวที่ใช้จริงจะปรับตามอัตราการยอมรับที่สังเกตได้
min_remote_stagesไม่0ตัวปรับการจัดวางเพื่อการวินิจฉัยสำหรับทดสอบ GGUF pipeline-parallel เมื่อ > 0 checkpoint จะถูกมอบหมายเฉพาะโหนดที่จะรันสเตจอย่างน้อยจำนวนนี้ผ่าน WebRTC แทนการรันในเครื่อง จะถอยกลับหลังช่วงผ่อนผันของ checkpoint peer เพื่อไม่ให้งานจริงอดงาน
wire_hidden_dtypeไม่f16dtype ของ hidden activation ระหว่างสเตจ GGUF pipeline f16 ลด payload บนสายลงครึ่งหนึ่งสำหรับ prefill และบล็อก speculative; f32 เป็นทางสำรองเพื่อการวินิจฉัย
wire_hidden_codecไม่fp16โคเดกทดลองสำหรับบล็อก hidden activation หลายโทเค็นระหว่างสเตจ GGUF pipeline การ decode ทีละโทเค็นยังใช้เส้นทาง dtype ราคาถูก โคเดกทั่วไปใช้เฉพาะกับบล็อก prefill/speculative ที่การประหยัดไบต์ชดเชยต้นทุนโคเดกได้ fp16 ปลอดภัยที่สุด auto8/hq8 ใช้เพื่อการวินิจฉัย
stage_chainingไม่trueเมื่อทุกสเตจ GGUF เป็นสเตจระยะไกลและรองรับโปรโตคอล chain ระบบจะส่ง hidden activation ต่อกันโดยตรงจากสเตจหนึ่งไปอีกสเตจหนึ่ง แทนการส่งผ่าน checkpoint coordinator ที่ทุกรอยต่อ
latent_modeไม่offSoft Thinking / SwiReasoning แบบไม่ต้องฝึกเพิ่มระหว่าง <think>…</think> ต้องใช้ GGUF WASM ที่มี _lstage_eval_soft บนโฮสต์สเตจ มิฉะนั้นจะถอยกลับไปใช้การ decode แบบ discrete ปิดเป็นค่าเริ่มต้นจนกว่าจะสร้าง WASM บน CDN ใหม่ ใช้ร่วมกับ speculation ไม่ได้เมื่อเปิด Soft Thinking
latent_phaseไม่taggedtagged = ตัวทำเครื่องหมายการคิด; prefix = ตั้งแต่ขั้นตอนที่ 0 (โมเดลที่ไม่มีตัวทำเครื่องหมาย)
latent_exit_textไม่ Final answer: ใช้เฉพาะเมื่อ latent_phase=prefix (โทเค็นคำศัพท์ปกติ)
latent_top_nไม่15Soft top-n
latent_entropy_tauไม่0.05Cold Stop entropy τ
latent_cold_stop_kไม่256Cold Stop จำนวนขั้นตอนต่อเนื่อง
swi_dwell_windowไม่512Swi Explicit→Latent dwell
swi_max_switchesไม่8Swi จำนวนการสลับ Latent→Explicit สูงสุด
max_thinking_tokensไม่1536งบตายตัวก่อนบังคับ </think> / ออกจาก prefix ต้องต่ำกว่า `max_new_tokens` อย่างมีนัยสำคัญ เพราะงบการให้เหตุผลที่เท่ากับหรือสูงกว่างบการสร้างทั้งหมดจะทำให้คำตอบถูกตัดกลางความคิดโดยไม่มีคำตอบเลย control plane จะคำนวณค่านี้ใหม่จากงบที่การจัดวางที่เลือกรองรับได้จริง ค่าที่น้อยกว่าจึงถูกใช้ตามนั้น ส่วนค่าที่มากกว่าจะถูกจำกัด
min_thinking_tokensไม่0ขั้นต่ำ: ปิดบัง </think> ออกจากการสุ่มจนกว่าจะมีโทเค็นการให้เหตุผลครบจำนวนนี้ 0 คือปิดใช้ ป้องกันไม่ให้บล็อกการคิดปิดที่โทเค็นแรกที่สร้างแล้วตอบโดยไม่มีการให้เหตุผลเลย
promptใช่—ข้อความ / พรอมต์ของผู้ใช้สำหรับโมเดลแชท

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

โพลด้วยคีย์ API เดียวกันจนกว่า status จะเป็นสถานะสิ้นสุด (COMPLETED, FAILED, CANCELED หรือ MODERATION_BLOCKED) เมื่อเปิดใช้การกลั่นกรองเนื้อหา งานอาจเริ่มที่ MODERATION_PENDING ก่อนเข้าสู่คิวประมวลผล งานที่เสร็จสมบูรณ์จะมีค่า download_url ที่ลงนามล่วงหน้าในแต่ละเอาต์พุต

การตอบกลับเมื่อสร้าง

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

การตอบกลับเมื่อเสร็จสมบูรณ์

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}