LLM
Nemotron 3 Nano แชท
ถามคำถามหรือลองงานเขียนสั้น ๆ ลงชื่อเข้าใช้เมื่อคุณส่งข้อความแรก
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
ใบอนุญาตโมเดล
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
เลือกโมเดล
โมเดลปัจจุบัน:
Nemotron 3 Nano แชท
คุณภาพเอาต์พุต: 50%
คุณภาพดีที่สุดที่อุปกรณ์ของคุณรันได้ เพิ่มอีก อุปกรณ์เพื่อให้เสร็จเร็วขึ้น
เขียนข้อความแล้วกดส่งเพื่อลงชื่อเข้าใช้และเริ่มต้น
แชทกับ NVIDIA Nemotron 3 Nano โมเดลโอเพนที่ใหญ่กว่าแชทขนาดโทรศัพท์ แชท AI ฟรีบนอุปกรณ์ที่คุณเชื่อมต่อ คอมพิวเตอร์ที่แรงเครื่องเดียวรับไว้ได้ มิฉะนั้นงานจะแบ่งไปยังเครื่องที่คุณเพิ่ม รองรับเฉพาะข้อความ การดาวน์โหลดครั้งแรกมีขนาดใหญ่ และแชทครั้งถัดไปจะใช้ซ้ำ โมเดลอยู่ภายใต้ NVIDIA Open Model License
เอกสารอ้างอิง API
ส่งผ่าน REST
ใช้คีย์ API ส่วนบุคคลของคุณ (msk_…) เพื่อสร้างงานสำหรับเวิร์กโหลดนี้จากเครื่องมือของคุณเอง งานที่เริ่มด้วยวิธีนี้จะทำงานบนอุปกรณ์เดียวกับที่คุณเชื่อมต่อไว้ใน อุปกรณ์ของคุณ — ต้องมีอย่างน้อยหนึ่งเครื่องที่ออนไลน์
https://cp.meshlabs.cloud/v1/organizations/jobsยืนยันตัวตนด้วย X-Organization-Api-Key: msk_your_personal_api_key ชื่อเฮดเดอร์ตรงกับคีย์ขององค์กร ส่วนคีย์ส่วนบุคคลใช้ปลายทางเดียวกัน
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign ด้วยคีย์ API เดียวกัน อัปโหลดไฟล์ของคุณไปยัง upload_url ที่ได้รับ จากนั้นส่ง download_url ใน job_spec (เช่น เป็น input_image_url)เนื้อหาคำขอ
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}ฟิลด์ของ job_spec
| ฟิลด์ | จำเป็น | ค่าเริ่มต้น | คำอธิบาย |
|---|---|---|---|
system_prompt | ไม่ | — | พรอมต์ระบบ (ไม่บังคับ) |
enable_thinking | ไม่ | true | เปิดใช้การคิด/การให้เหตุผลก่อนตอบสุดท้าย primer ของ Nemotron-3 Nano คือ ChatML <think>/</think> (id 12/13) ควรเปิดไว้เพื่อการให้เหตุผล temperature=1.0 / top_p=1.0 เป็นค่าเริ่มต้นตาม card สำหรับโหมดนั้น |
max_new_tokens | ไม่ | 2048 | จำนวนโทเค็นสูงสุดที่สร้าง (การคิด + คำตอบ) เพิ่มค่าสำหรับผลลัพธ์ยาว พรอมต์และการสร้างใช้หน้าต่างบริบทร่วมกัน การสร้างจึงหยุดที่บริบท แทนที่จะเพิ่มขั้นต่ำของหน่วยความจำของสเตจ |
max_context | ไม่ | 8192 | จำนวนโทเค็นรวมที่โฮสต์สเตจจัดสรรสถานะ KV/recurrent ให้ ได้แก่พรอมต์รวมกับการสร้างคำตอบ เพดานคือบริบทที่ใหญ่ที่สุดที่ Oracle วัดโมเดลนี้ไว้ ทำให้การจัดวางไม่ต้องคาดการณ์เกินหลักฐาน การเพิ่มค่านี้ทำให้ขั้นต่ำของหน่วยความจำสูงขึ้น และทำให้อุปกรณ์ที่รันงานได้แคบลง |
kv_hot_window | ไม่ | 32768 | KV ของ attention ทางกายภาพถูกจำกัดไว้ที่ N โทเค็นล่าสุด การสนทนาที่ยาวกว่า N จึงลืมช่วงแรกสุดแทนที่จะหยุดที่ขีดจำกัดบริบท 0 คือเก็บบริบททั้งหมดไว้ในหน่วยความจำ เมื่อเท่ากับหรือต่ำกว่าหน้าต่างบริบทจะไม่เปลี่ยนอะไร — หน่วยความจำและ attention เหมือนเดิม — และการลดต่ำกว่านั้นเป็นการแลกการจำระยะไกลกับความยาวบทสนทนาที่ไม่จำกัด เพราะโมเดลมองเห็นเกินหน้าต่างไม่ได้จริงๆ |
turns | ไม่ | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | ไม่ | 1 | Temperature |
top_p | ไม่ | 1 | Top P |
top_k | ไม่ | 20 | Top K |
presence_penalty | ไม่ | 0 | Presence Penalty |
repetition_penalty | ไม่ | 1 | Repetition Penalty |
seed | ไม่ | — | ซีดสุ่มเพื่อให้ได้ผลซ้ำได้ |
speculative_ngram | ไม่ | false | Prompt-lookup drafting: n-gram ที่ซ้ำในบริบทจะถูกนำมาเล่นซ้ำเป็นบล็อกร่าง แล้วให้โมเดลตรวจสอบในรอบเดียว การไปกลับผ่านเครือข่ายครั้งเดียวจึงยืนยันได้หลายโทเค็น ไม่ใช้โมเดลเพิ่ม ผลลัพธ์เหมือนการถอดรหัสแบบทีละโทเค็นทุกประการ |
speculative_draft_model | ไม่ | false | รันโมเดลร่าง GGUF ขนาดเล็กบนโหนด checkpoint เพื่อเสนอบล็อกร่าง (แนะนำให้ใช้ 'ชื่อไฟล์โมเดลร่างที่มากับชุด' ส่วน URL ภายนอกยังใช้เป็นทางสำรองได้) จะถอยกลับไปใช้ n-gram drafting เมื่อไม่มีโมเดลร่าง |
draft_model_file | ไม่ | — | ชื่อไฟล์ของโมเดลร่าง GGUF ที่ไม่ได้แบ่งส่วนในชุดเวิร์กโหลดนี้ SDK ระบุไฟล์จาก required_files บักเก็ต S3 ส่วนตัวจึงใช้ URL แบบ signed/proxy ที่เซิร์ฟเวอร์ให้ แทน URL สาธารณะได้ |
draft_model_url | ไม่ | — | URL HTTPS ภายนอกของโมเดลร่าง GGUF ขนาดเล็ก (ไม่บังคับ) ใช้เป็นทางสำรองเมื่อไม่มี 'ชื่อไฟล์โมเดลร่างที่มากับชุด' หรือไม่อยู่ใน required_files |
speculative_max_draft | ไม่ | 8 | ขีดจำกัดบนของโทเค็นร่างที่ตรวจสอบต่อบล็อก ความยาวที่ใช้จริงจะปรับตามอัตราการยอมรับที่สังเกตได้ |
min_remote_stages | ไม่ | 0 | ตัวปรับการจัดวางเพื่อการวินิจฉัยสำหรับทดสอบ GGUF pipeline-parallel เมื่อ > 0 checkpoint จะถูกมอบหมายเฉพาะโหนดที่จะรันสเตจอย่างน้อยจำนวนนี้ผ่าน WebRTC แทนการรันในเครื่อง จะถอยกลับหลังช่วงผ่อนผันของ checkpoint peer เพื่อไม่ให้งานจริงอดงาน |
wire_hidden_dtype | ไม่ | f16 | dtype ของ hidden activation ระหว่างสเตจ GGUF pipeline f16 ลด payload บนสายลงครึ่งหนึ่งสำหรับ prefill และบล็อก speculative; f32 เป็นทางสำรองเพื่อการวินิจฉัย |
wire_hidden_codec | ไม่ | fp16 | โคเดกทดลองสำหรับบล็อก hidden activation หลายโทเค็นระหว่างสเตจ GGUF pipeline การ decode ทีละโทเค็นยังใช้เส้นทาง dtype ราคาถูก โคเดกทั่วไปใช้เฉพาะกับบล็อก prefill/speculative ที่การประหยัดไบต์ชดเชยต้นทุนโคเดกได้ fp16 ปลอดภัยที่สุด auto8/hq8 ใช้เพื่อการวินิจฉัย |
stage_chaining | ไม่ | true | เมื่อทุกสเตจ GGUF เป็นสเตจระยะไกลและรองรับโปรโตคอล chain ระบบจะส่ง hidden activation ต่อกันโดยตรงจากสเตจหนึ่งไปอีกสเตจหนึ่ง แทนการส่งผ่าน checkpoint coordinator ที่ทุกรอยต่อ |
latent_mode | ไม่ | off | Soft Thinking / SwiReasoning แบบไม่ต้องฝึกเพิ่มระหว่าง <think>…</think> ต้องใช้ GGUF WASM ที่มี _lstage_eval_soft บนโฮสต์สเตจ มิฉะนั้นจะถอยกลับไปใช้การ decode แบบ discrete ปิดเป็นค่าเริ่มต้นจนกว่าจะสร้าง WASM บน CDN ใหม่ ใช้ร่วมกับ speculation ไม่ได้เมื่อเปิด Soft Thinking |
latent_phase | ไม่ | tagged | tagged = ตัวทำเครื่องหมายการคิด; prefix = ตั้งแต่ขั้นตอนที่ 0 (โมเดลที่ไม่มีตัวทำเครื่องหมาย) |
latent_exit_text | ไม่ | Final answer: | ใช้เฉพาะเมื่อ latent_phase=prefix (โทเค็นคำศัพท์ปกติ) |
latent_top_n | ไม่ | 15 | Soft top-n |
latent_entropy_tau | ไม่ | 0.05 | Cold Stop entropy τ |
latent_cold_stop_k | ไม่ | 256 | Cold Stop จำนวนขั้นตอนต่อเนื่อง |
swi_dwell_window | ไม่ | 512 | Swi Explicit→Latent dwell |
swi_max_switches | ไม่ | 8 | Swi จำนวนการสลับ Latent→Explicit สูงสุด |
max_thinking_tokens | ไม่ | 1536 | งบตายตัวก่อนบังคับ </think> / ออกจาก prefix ต้องต่ำกว่า `max_new_tokens` อย่างมีนัยสำคัญ เพราะงบการให้เหตุผลที่เท่ากับหรือสูงกว่างบการสร้างทั้งหมดจะทำให้คำตอบถูกตัดกลางความคิดโดยไม่มีคำตอบเลย control plane จะคำนวณค่านี้ใหม่จากงบที่การจัดวางที่เลือกรองรับได้จริง ค่าที่น้อยกว่าจึงถูกใช้ตามนั้น ส่วนค่าที่มากกว่าจะถูกจำกัด |
min_thinking_tokens | ไม่ | 0 | ขั้นต่ำ: ปิดบัง </think> ออกจากการสุ่มจนกว่าจะมีโทเค็นการให้เหตุผลครบจำนวนนี้ 0 คือปิดใช้ ป้องกันไม่ให้บล็อกการคิดปิดที่โทเค็นแรกที่สร้างแล้วตอบโดยไม่มีการให้เหตุผลเลย |
prompt | ใช่ | — | ข้อความ / พรอมต์ของผู้ใช้สำหรับโมเดลแชท |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}โพลด้วยคีย์ API เดียวกันจนกว่า status จะเป็นสถานะสิ้นสุด (COMPLETED, FAILED, CANCELED หรือ MODERATION_BLOCKED) เมื่อเปิดใช้การกลั่นกรองเนื้อหา งานอาจเริ่มที่ MODERATION_PENDING ก่อนเข้าสู่คิวประมวลผล งานที่เสร็จสมบูรณ์จะมีค่า download_url ที่ลงนามล่วงหน้าในแต่ละเอาต์พุต
การตอบกลับเมื่อสร้าง
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}การตอบกลับเมื่อเสร็จสมบูรณ์
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}