LLM

Chat Nemotron 3 Nano

Fai una domanda o prova una breve attività di scrittura. Accedi quando invii il primo messaggio.

Licensed by NVIDIA Corporation under the NVIDIA Open Model License

Licenze del modello

NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24

NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.

Licenza inclusa

Avviso

GratisOnlineIllimitatoLicensed by NVIDIA Corporation under the NVIDIA Open Model License Accesso API

Quando sei pronto.

Scrivi il tuo messaggio e premi Invia per accedere e iniziare.

Chatta con NVIDIA Nemotron 3 Nano, un modello aperto più grande delle chat a misura di telefono. Chat AI gratuita sui dispositivi che colleghi. Un solo computer potente può contenerlo; altrimenti il lavoro si divide tra le macchine che aggiungi. Solo testo. Il primo download è grande e le chat successive lo riutilizzano. Il modello è sotto la NVIDIA Open Model License.

Riferimento API

Invia tramite REST

Usa la tua chiave API personale (msk_…) per creare job per questo workload dai tuoi strumenti. I job avviati in questo modo vengono eseguiti sugli stessi dispositivi che hai collegato in I tuoi dispositivi: almeno uno deve essere online.

Nascondi dettagli API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Autenticati con X-Organization-Api-Key: msk_your_personal_api_key. Il nome dell'intestazione corrisponde a quello delle chiavi dell'organizzazione; le chiavi personali usano lo stesso endpoint.

File di input:Chiama POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign con la stessa chiave API, carica il tuo file su upload_url restituito, poi passa download_url in job_spec (ad esempio come input_image_url).

Corpo della richiesta

{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Campi di job_spec

CampoObbligatorioPredefinitoDescrizione
system_promptNo—Prompt di sistema facoltativo
enable_thinkingNotrueAttiva il ragionamento prima della risposta finale. I primer di Nemotron-3 Nano sono ChatML <think>/</think> (id 12/13); lascialo attivo per il ragionamento. temperature=1.0 / top_p=1.0 sono i valori predefiniti della scheda per quella modalità.
max_new_tokensNo2048Numero massimo di token generati (ragionamento + risposta). Aumentalo per output lunghi. Prompt e generazione condividono la finestra di contesto, quindi la generazione si ferma al contesto invece di far crescere la soglia minima di memoria dello stage.
max_contextNo8192Token totali per cui gli stage host allocano lo stato KV/ricorrente: prompt più generazione. Il limite massimo è il contesto più ampio con cui l'Oracle ha misurato questo modello, così il posizionamento non deve mai estrapolare oltre le evidenze. Aumentarlo alza la soglia minima di memoria e quindi restringe i dispositivi in grado di eseguire il lavoro.
kv_hot_windowNo32768Il KV fisico dell'attenzione è limitato agli ultimi N token, quindi una conversazione più lunga di N dimentica i turni più vecchi invece di fermarsi al limite di contesto. 0 mantiene residente l'intero contesto. Pari o inferiore alla finestra di contesto non cambia nulla (stessa memoria, stessa attenzione); abbassarla sotto la finestra di contesto scambia il richiamo a lungo raggio con una lunghezza di conversazione illimitata, perché il modello non può davvero vedere oltre la finestra.
turnsNo—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNo1Temperature
top_pNo1Top P
top_kNo20Top K
presence_penaltyNo0Presence Penalty
repetition_penaltyNo1Repetition Penalty
seedNo—Seed casuale per la riproducibilità
speculative_ngramNofalseBozze per ricerca nel prompt: gli n-gram ripetuti del contesto vengono riproposti come blocchi di bozza e verificati dal modello in UN solo passaggio, così un singolo round trip di rete può confermare più token. Nessun modello aggiuntivo; l'output è identico alla decodifica sequenziale.
speculative_draft_modelNofalseEsegue un piccolo modello di bozza GGUF sul nodo checkpoint per proporre blocchi di bozza (meglio 'Nome file del modello di bozza incluso'; l'URL esterno resta disponibile come ripiego). Se il modello di bozza non è disponibile, ripiega sulle bozze n-gram.
draft_model_fileNo—Nome file di un modello di bozza GGUF non partizionato presente nel bundle di questo workload. L'SDK lo risolve da required_files, così i bucket S3 privati possono usare l'URL firmato/proxy fornito dal server invece di un URL pubblico.
draft_model_urlNo—URL HTTPS esterno facoltativo del piccolo modello di bozza GGUF. Usato come ripiego quando 'Nome file del modello di bozza incluso' è assente o mancante da required_files.
speculative_max_draftNo8Limite superiore dei token di bozza verificati per blocco. La lunghezza effettiva si adatta al tasso di accettazione osservato.
min_remote_stagesNo0Parametro diagnostico di posizionamento per i test pipeline-parallel GGUF. Se > 0, il checkpoint viene assegnato solo ai nodi che eseguirebbero almeno questo numero di stage tramite WebRTC invece che in locale. Dopo la finestra di tolleranza del peer checkpoint ripiega, per non lasciare senza risorse i lavori di produzione.
wire_hidden_dtypeNof16Tipo di dato delle attivazioni nascoste tra gli stage della pipeline GGUF. f16 dimezza il payload sul wire per il prefill e per i blocchi speculativi; f32 è un ripiego diagnostico.
wire_hidden_codecNofp16Codec sperimentale per i blocchi di attivazioni nascoste multi-token tra gli stage della pipeline GGUF. La decodifica a singolo token mantiene il percorso economico per tipo di dato; i codec generici sono usati solo per i blocchi di prefill/speculativi, dove il risparmio di byte può compensare il costo del codec. fp16 è il più sicuro; auto8/hq8 sono diagnostici.
stage_chainingNotrueQuando tutti gli stage GGUF sono remoti e supportano il protocollo di chain, invia le attivazioni nascoste direttamente da stage a stage invece di far passare ogni confine dal coordinatore del checkpoint.
latent_modeNooffSoft Thinking / SwiReasoning senza addestramento durante <think>…</think>. Richiede GGUF WASM con _lstage_eval_soft sugli stage host; altrimenti ripiega sulla decodifica discreta. Disattivato per impostazione predefinita finché il WASM della CDN non viene ricompilato. Mutuamente esclusivo con la speculazione quando Soft Thinking è attivo.
latent_phaseNotaggedtagged = marcatori di ragionamento; prefix = dal passaggio 0 (modelli senza marcatori).
latent_exit_textNo Final answer: Usato solo quando latent_phase=prefix (token di vocabolario ordinari).
latent_top_nNo15Top-n soft
latent_entropy_tauNo0.05Entropia τ del Cold Stop
latent_cold_stop_kNo256Passaggi consecutivi del Cold Stop
swi_dwell_windowNo512Permanenza Swi da Explicit a Latent
swi_max_switchesNo8Swi: passaggi massimi da Latent a Explicit
max_thinking_tokensNo1536Budget massimo prima del </think> forzato / uscita dal prefisso. Deve restare nettamente al di sotto di `max_new_tokens`: un budget di ragionamento pari o superiore al budget totale di generazione produce una risposta interrotta a metà pensiero, senza alcuna risposta. Il control plane lo ricalcola in base al budget che il posizionamento scelto può permettersi, quindi un valore più piccolo viene rispettato e uno più grande viene ridotto.
min_thinking_tokensNo0Soglia minima: esclude </think> dal campionamento finché non esistono questi token di ragionamento. 0 disattiva. Impedisce a un blocco di ragionamento di chiudersi al primo token generato e di rispondere senza alcun ragionamento.
promptSì—Messaggio / prompt dell'utente per il modello di chat

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Fai polling con la stessa chiave API finché status non è terminale (COMPLETED, FAILED, CANCELED o MODERATION_BLOCKED). Quando la moderazione dei contenuti è abilitata, i job possono iniziare in MODERATION_PENDING prima di entrare nella coda di calcolo. I job completati includono valori download_url presigned su ogni output.

Risposta di creazione

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Risposta di completamento

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}