LLM
Chat Nemotron 3 Nano
Fai una domanda o prova una breve attività di scrittura. Accedi quando invii il primo messaggio.
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
Licenze del modello
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
Seleziona modello
Modello attuale:
Chat Nemotron 3 Nano
Qualità dell'output: 50%
La migliore qualità che il tuo dispositivo può eseguire. Aggiungine altri dispositivi per finire più in fretta.
Scrivi il tuo messaggio e premi Invia per accedere e iniziare.
Chatta con NVIDIA Nemotron 3 Nano, un modello aperto più grande delle chat a misura di telefono. Chat AI gratuita sui dispositivi che colleghi. Un solo computer potente può contenerlo; altrimenti il lavoro si divide tra le macchine che aggiungi. Solo testo. Il primo download è grande e le chat successive lo riutilizzano. Il modello è sotto la NVIDIA Open Model License.
Riferimento API
Invia tramite REST
Usa la tua chiave API personale (msk_…) per creare job per questo workload dai tuoi strumenti. I job avviati in questo modo vengono eseguiti sugli stessi dispositivi che hai collegato in I tuoi dispositivi: almeno uno deve essere online.
https://cp.meshlabs.cloud/v1/organizations/jobsAutenticati con X-Organization-Api-Key: msk_your_personal_api_key. Il nome dell'intestazione corrisponde a quello delle chiavi dell'organizzazione; le chiavi personali usano lo stesso endpoint.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign con la stessa chiave API, carica il tuo file su upload_url restituito, poi passa download_url in job_spec (ad esempio come input_image_url).Corpo della richiesta
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Campi di job_spec
| Campo | Obbligatorio | Predefinito | Descrizione |
|---|---|---|---|
system_prompt | No | — | Prompt di sistema facoltativo |
enable_thinking | No | true | Attiva il ragionamento prima della risposta finale. I primer di Nemotron-3 Nano sono ChatML <think>/</think> (id 12/13); lascialo attivo per il ragionamento. temperature=1.0 / top_p=1.0 sono i valori predefiniti della scheda per quella modalità. |
max_new_tokens | No | 2048 | Numero massimo di token generati (ragionamento + risposta). Aumentalo per output lunghi. Prompt e generazione condividono la finestra di contesto, quindi la generazione si ferma al contesto invece di far crescere la soglia minima di memoria dello stage. |
max_context | No | 8192 | Token totali per cui gli stage host allocano lo stato KV/ricorrente: prompt più generazione. Il limite massimo è il contesto più ampio con cui l'Oracle ha misurato questo modello, così il posizionamento non deve mai estrapolare oltre le evidenze. Aumentarlo alza la soglia minima di memoria e quindi restringe i dispositivi in grado di eseguire il lavoro. |
kv_hot_window | No | 32768 | Il KV fisico dell'attenzione è limitato agli ultimi N token, quindi una conversazione più lunga di N dimentica i turni più vecchi invece di fermarsi al limite di contesto. 0 mantiene residente l'intero contesto. Pari o inferiore alla finestra di contesto non cambia nulla (stessa memoria, stessa attenzione); abbassarla sotto la finestra di contesto scambia il richiamo a lungo raggio con una lunghezza di conversazione illimitata, perché il modello non può davvero vedere oltre la finestra. |
turns | No | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | No | 1 | Temperature |
top_p | No | 1 | Top P |
top_k | No | 20 | Top K |
presence_penalty | No | 0 | Presence Penalty |
repetition_penalty | No | 1 | Repetition Penalty |
seed | No | — | Seed casuale per la riproducibilità |
speculative_ngram | No | false | Bozze per ricerca nel prompt: gli n-gram ripetuti del contesto vengono riproposti come blocchi di bozza e verificati dal modello in UN solo passaggio, così un singolo round trip di rete può confermare più token. Nessun modello aggiuntivo; l'output è identico alla decodifica sequenziale. |
speculative_draft_model | No | false | Esegue un piccolo modello di bozza GGUF sul nodo checkpoint per proporre blocchi di bozza (meglio 'Nome file del modello di bozza incluso'; l'URL esterno resta disponibile come ripiego). Se il modello di bozza non è disponibile, ripiega sulle bozze n-gram. |
draft_model_file | No | — | Nome file di un modello di bozza GGUF non partizionato presente nel bundle di questo workload. L'SDK lo risolve da required_files, così i bucket S3 privati possono usare l'URL firmato/proxy fornito dal server invece di un URL pubblico. |
draft_model_url | No | — | URL HTTPS esterno facoltativo del piccolo modello di bozza GGUF. Usato come ripiego quando 'Nome file del modello di bozza incluso' è assente o mancante da required_files. |
speculative_max_draft | No | 8 | Limite superiore dei token di bozza verificati per blocco. La lunghezza effettiva si adatta al tasso di accettazione osservato. |
min_remote_stages | No | 0 | Parametro diagnostico di posizionamento per i test pipeline-parallel GGUF. Se > 0, il checkpoint viene assegnato solo ai nodi che eseguirebbero almeno questo numero di stage tramite WebRTC invece che in locale. Dopo la finestra di tolleranza del peer checkpoint ripiega, per non lasciare senza risorse i lavori di produzione. |
wire_hidden_dtype | No | f16 | Tipo di dato delle attivazioni nascoste tra gli stage della pipeline GGUF. f16 dimezza il payload sul wire per il prefill e per i blocchi speculativi; f32 è un ripiego diagnostico. |
wire_hidden_codec | No | fp16 | Codec sperimentale per i blocchi di attivazioni nascoste multi-token tra gli stage della pipeline GGUF. La decodifica a singolo token mantiene il percorso economico per tipo di dato; i codec generici sono usati solo per i blocchi di prefill/speculativi, dove il risparmio di byte può compensare il costo del codec. fp16 è il più sicuro; auto8/hq8 sono diagnostici. |
stage_chaining | No | true | Quando tutti gli stage GGUF sono remoti e supportano il protocollo di chain, invia le attivazioni nascoste direttamente da stage a stage invece di far passare ogni confine dal coordinatore del checkpoint. |
latent_mode | No | off | Soft Thinking / SwiReasoning senza addestramento durante <think>…</think>. Richiede GGUF WASM con _lstage_eval_soft sugli stage host; altrimenti ripiega sulla decodifica discreta. Disattivato per impostazione predefinita finché il WASM della CDN non viene ricompilato. Mutuamente esclusivo con la speculazione quando Soft Thinking è attivo. |
latent_phase | No | tagged | tagged = marcatori di ragionamento; prefix = dal passaggio 0 (modelli senza marcatori). |
latent_exit_text | No | Final answer: | Usato solo quando latent_phase=prefix (token di vocabolario ordinari). |
latent_top_n | No | 15 | Top-n soft |
latent_entropy_tau | No | 0.05 | Entropia τ del Cold Stop |
latent_cold_stop_k | No | 256 | Passaggi consecutivi del Cold Stop |
swi_dwell_window | No | 512 | Permanenza Swi da Explicit a Latent |
swi_max_switches | No | 8 | Swi: passaggi massimi da Latent a Explicit |
max_thinking_tokens | No | 1536 | Budget massimo prima del </think> forzato / uscita dal prefisso. Deve restare nettamente al di sotto di `max_new_tokens`: un budget di ragionamento pari o superiore al budget totale di generazione produce una risposta interrotta a metà pensiero, senza alcuna risposta. Il control plane lo ricalcola in base al budget che il posizionamento scelto può permettersi, quindi un valore più piccolo viene rispettato e uno più grande viene ridotto. |
min_thinking_tokens | No | 0 | Soglia minima: esclude </think> dal campionamento finché non esistono questi token di ragionamento. 0 disattiva. Impedisce a un blocco di ragionamento di chiudersi al primo token generato e di rispondere senza alcun ragionamento. |
prompt | Sì | — | Messaggio / prompt dell'utente per il modello di chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Fai polling con la stessa chiave API finché status non è terminale (COMPLETED, FAILED, CANCELED o MODERATION_BLOCKED). Quando la moderazione dei contenuti è abilitata, i job possono iniziare in MODERATION_PENDING prima di entrare nella coda di calcolo. I job completati includono valori download_url presigned su ogni output.
Risposta di creazione
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Risposta di completamento
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}