LLM

Nemotron 3 Nano Chat

Ajukan pertanyaan atau coba tugas menulis singkat. Masuk saat Anda mengirim pesan pertama.

Licensed by NVIDIA Corporation under the NVIDIA Open Model License

Lisensi model

NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24

NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.

Lisensi yang disertakan

Pemberitahuan

GratisOnlineTanpa batasLicensed by NVIDIA Corporation under the NVIDIA Open Model License Akses API

Silakan mulai kapan pun Anda siap.

Tulis pesan Anda dan tekan Kirim untuk masuk dan memulai.

Chat dengan NVIDIA Nemotron 3 Nano, model terbuka yang lebih besar daripada chat berukuran ponsel. Chat AI gratis di perangkat yang Anda hubungkan. Satu komputer yang kuat dapat menampungnya; jika tidak, pekerjaan dibagi ke mesin yang Anda tambahkan. Hanya teks. Unduhan pertama besar, dan chat berikutnya memakainya kembali. Model ini berada di bawah NVIDIA Open Model License.

Referensi API

Kirim melalui REST

Gunakan kunci API pribadi Anda (msk_…) untuk membuat tugas bagi beban kerja ini dari alat Anda sendiri. Tugas yang dimulai dengan cara ini berjalan di perangkat yang sama yang Anda hubungkan di Perangkat Anda — setidaknya satu harus online.

Sembunyikan detail API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Autentikasi dengan X-Organization-Api-Key: msk_your_personal_api_key. Nama header sama dengan kunci organisasi; kunci pribadi menggunakan endpoint yang sama.

File input:Panggil POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign dengan kunci API yang sama, unggah file Anda ke upload_url yang dikembalikan, lalu teruskan download_url di job_spec (misalnya sebagai input_image_url).

Isi permintaan

{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Kolom job_spec

KolomWajibDefaultDeskripsi
system_promptTidak—System prompt opsional
enable_thinkingTidaktrueAktifkan thinking/reasoning sebelum jawaban akhir. Primer Nemotron-3 Nano adalah ChatML <think>/</think> (id 12/13); biarkan aktif untuk reasoning. temperature=1.0 / top_p=1.0 adalah default kartu model untuk mode tersebut.
max_new_tokensTidak2048Jumlah maksimum token yang dihasilkan (thinking + jawaban). Naikkan untuk keluaran panjang. Prompt dan generasi berbagi jendela konteks, sehingga generasi berhenti pada konteks, bukan menambah batas bawah memori tahap.
max_contextTidak8192Total token yang dialokasikan stage host untuk state KV/rekuren — prompt ditambah generasi. Batas atasnya adalah konteks terbesar yang diukur Oracle untuk model ini, sehingga penempatan tidak perlu mengekstrapolasi melampaui bukti. Menaikkannya menaikkan batas bawah memori dan karena itu mempersempit perangkat yang dapat menjalankan tugas.
kv_hot_windowTidak32768KV attention fisik dibatasi pada N token terbaru, sehingga percakapan yang lebih panjang dari N melupakan giliran tertuanya alih-alih berhenti pada batas konteks. 0 mempertahankan seluruh konteks tetap residen. Pada atau di bawah jendela konteks, ini tidak mengubah apa pun — memori sama, attention sama — dan menurunkannya di bawah jendela konteks menukar ingatan jarak jauh dengan panjang percakapan tanpa batas, karena model memang tidak dapat melihat melewati jendela.
turnsTidak—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureTidak1Temperature
top_pTidak1Top P
top_kTidak20Top K
presence_penaltyTidak0Presence Penalty
repetition_penaltyTidak1Repetition Penalty
seedTidak—Random seed untuk reprodusibilitas
speculative_ngramTidakfalsePrompt-lookup drafting: n-gram yang berulang dari konteks diputar ulang sebagai blok draf dan diverifikasi oleh model dalam SATU lintasan, sehingga satu kali bolak-balik jaringan dapat mengesahkan beberapa token. Tanpa model tambahan; keluarannya identik dengan decoding berurutan.
speculative_draft_modelTidakfalseJalankan model draf GGUF berukuran kecil di node checkpoint untuk mengusulkan blok draf (utamakan 'Draft model bundled filename'; URL eksternal tetap tersedia sebagai cadangan). Kembali ke drafting n-gram jika model draf tidak tersedia.
draft_model_fileTidak—Nama file model draf GGUF yang tidak dipartisi dalam bundel workload ini. SDK menyelesaikannya dari required_files, sehingga bucket S3 privat dapat memakai URL bertanda tangan/proxy dari server alih-alih URL publik.
draft_model_urlTidak—URL HTTPS eksternal opsional untuk model draf GGUF berukuran kecil. Digunakan sebagai cadangan jika 'Draft model bundled filename' tidak ada atau tidak tercantum di required_files.
speculative_max_draftTidak8Batas atas token draf yang diverifikasi per blok. Panjang efektif menyesuaikan dengan tingkat penerimaan yang teramati.
min_remote_stagesTidak0Parameter diagnostik penempatan untuk pengujian GGUF pipeline-parallel. Jika > 0, checkpoint hanya ditugaskan ke node yang menjalankan setidaknya sejumlah tahap ini melalui WebRTC, bukan secara lokal. Kembali setelah jendela tenggang peer checkpoint berakhir agar tugas produksi tidak kelaparan.
wire_hidden_dtypeTidakf16Dtype aktivasi hidden antar tahap pipeline GGUF. f16 memangkas muatan wire setengahnya untuk prefill dan blok spekulatif; f32 adalah cadangan diagnostik.
wire_hidden_codecTidakfp16Codec eksperimental untuk blok aktivasi hidden multi-token antar tahap pipeline GGUF. Decode satu token tetap memakai jalur dtype yang murah; codec generik hanya digunakan untuk blok prefill/spekulatif yang penghematan byte-nya dapat mengimbangi biaya codec. fp16 paling aman; auto8/hq8 adalah diagnostik.
stage_chainingTidaktrueJika semua tahap GGUF remote dan mendukung protokol chain, kirim aktivasi hidden langsung dari tahap ke tahap, alih-alih menyampaikan setiap batas lewat koordinator checkpoint.
latent_modeTidakoffSoft Thinking / SwiReasoning tanpa pelatihan selama <think>…</think>. Memerlukan WASM GGUF dengan _lstage_eval_soft pada stage host; jika tidak, kembali ke decode diskret. Default nonaktif sampai WASM CDN dibangun ulang. Saling eksklusif dengan speculation saat Soft Thinking aktif.
latent_phaseTidaktaggedtagged = penanda think; prefix = sejak langkah 0 (model tanpa penanda).
latent_exit_textTidak Final answer: Hanya digunakan saat latent_phase=prefix (token kosakata biasa).
latent_top_nTidak15Soft top-n
latent_entropy_tauTidak0.05Entropi τ Cold Stop
latent_cold_stop_kTidak256Langkah berturut-turut Cold Stop
swi_dwell_windowTidak512Dwell Swi Explicit→Latent
swi_max_switchesTidak8Maks. perpindahan Swi Latent→Explicit
max_thinking_tokensTidak1536Anggaran keras sebelum </think> / keluar prefix dipaksakan. Harus tetap jauh di bawah `max_new_tokens`: anggaran reasoning yang sama dengan atau melebihi total anggaran generasi menghasilkan balasan yang terputus di tengah pemikiran tanpa jawaban sama sekali. Control plane memotong ulang nilai ini dari anggaran yang benar-benar sanggup ditanggung penempatan terpilih, sehingga nilai yang lebih kecil dihormati dan nilai yang lebih besar dibatasi.
min_thinking_tokensTidak0Batas bawah: mask </think> dari sampling sampai sejumlah token reasoning ini terkumpul. 0 menonaktifkan. Mencegah blok think menutup pada token pertama yang dihasilkan dan menjawab tanpa reasoning sama sekali.
promptYa—Pesan pengguna / prompt untuk model chat

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Lakukan polling dengan kunci API yang sama sampai status mencapai status akhir (COMPLETED, FAILED, CANCELED, atau MODERATION_BLOCKED). Jika moderasi konten diaktifkan, tugas dapat dimulai dalam status MODERATION_PENDING sebelum masuk ke antrean komputasi. Tugas yang selesai menyertakan nilai download_url presigned pada setiap keluaran.

Respons pembuatan

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Respons selesai

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}