LLM
Nemotron 3 Nano-chat
Still et spørsmål eller prøv en kort skriveoppgave. Du logger inn når du sender den første meldingen.
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
Modellisenser
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
Chat med NVIDIA Nemotron 3 Nano, en større åpen modell enn chattene i telefonstørrelse. Gratis AI-chat på enheter du kobler til. Én kraftig datamaskin kan holde den, ellers fordeles arbeidet på maskiner du legger til. Bare tekst. Den første nedlastingen er stor, og senere chatter bruker den på nytt. Modellen er under NVIDIA Open Model License.
API-referanse
Send inn via REST
Bruk den personlige API-nøkkelen din (msk_…) til å opprette jobber for denne arbeidsbelastningen fra dine egne verktøy. Jobber som startes på denne måten, kjører på de samme enhetene du koblet til under Enhetene dine — minst én må være pålogget.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentiser med X-Organization-Api-Key: msk_your_personal_api_key. Headernavnet er det samme som for organisasjonsnøkler; personlige nøkler bruker samme endepunkt.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign med samme API-nøkkel, last opp filen din til den returnerte upload_url, og send deretter download_url i job_spec (for eksempel som input_image_url).Forespørselsinnhold
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Felt i job_spec
| Felt | Påkrevd | Standard | Beskrivelse |
|---|---|---|---|
system_prompt | Nei | — | Valgfri systemprompt |
enable_thinking | Nei | true | Aktiver tenking/resonnering før det endelige svaret. Nemotron-3 Nano-primere er ChatML <think>/</think> (id 12/13). La denne stå på for resonnering. temperature=1.0 / top_p=1.0 er kortets standardverdier for den modusen. |
max_new_tokens | Nei | 2048 | Maksimalt antall genererte tokens (tenking + svar). Øk for lange svar. Prompt og generering deler kontekstvinduet, så genereringen stopper ved konteksten i stedet for å øke trinnets minnegulv. |
max_context | Nei | 8192 | Totalt antall tokens som trinnvertene setter av KV-/rekurrent tilstand til – prompt pluss generering. Taket er den største konteksten Oracle har målt for denne modellen, slik at plasseringen aldri trenger å ekstrapolere utover det som er dokumentert. Å øke den hever minnegulvet og begrenser dermed hvilke enheter som kan kjøre jobben. |
kv_hot_window | Nei | 32768 | Den fysiske oppmerksomhets-KV-en begrenses til de nyeste N tokens, slik at en samtale som er lengre enn N glemmer de eldste vendingene i stedet for å stoppe ved kontekstgrensen. 0 holder hele konteksten resident. Ved eller under kontekstvinduet endrer dette ingenting – samme minne, samme oppmerksomhet – og å sette det under kontekstvinduet bytter bort langtrekkende hukommelse mot ubegrenset samtalelengde, fordi modellen faktisk ikke kan se forbi vinduet. |
turns | Nei | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Nei | 1 | Temperature |
top_p | Nei | 1 | Top P |
top_k | Nei | 20 | Top K |
presence_penalty | Nei | 0 | Presence Penalty |
repetition_penalty | Nei | 1 | Repetition Penalty |
seed | Nei | — | Tilfeldig seed for reproduserbarhet |
speculative_ngram | Nei | false | Prompt-oppslagsutkast: gjentatte n-gram fra konteksten spilles av på nytt som utkastblokker og verifiseres av modellen i ÉN gjennomgang, slik at én enkelt nettverksrunde kan bekrefte flere tokens. Ingen ekstra modell, og utdataene er identiske med sekvensiell dekoding. |
speculative_draft_model | Nei | false | Kjør en liten GGUF-utkastmodell på sjekkpunktnoden for å foreslå utkastblokker (foretrekk «Filnavn på medfølgende utkastmodell». Ekstern URL er fortsatt tilgjengelig som reserve). Faller tilbake til n-gram-utkast når utkastmodellen ikke er tilgjengelig. |
draft_model_file | Nei | — | Filnavn på en ikke-partisjonert GGUF-utkastmodell i denne arbeidsbelastningspakken. SDK-et løser den fra required_files, slik at private S3-bøtter kan bruke den serverleverte signerte/proxy-URL-en i stedet for en offentlig URL. |
draft_model_url | Nei | — | Valgfri ekstern HTTPS-URL til den lille GGUF-utkastmodellen. Brukes som reserve når «Filnavn på medfølgende utkastmodell» mangler eller ikke finnes i required_files. |
speculative_max_draft | Nei | 8 | Øvre grense for utkasttokens som verifiseres per blokk. Den effektive lengden tilpasser seg den observerte godkjenningsraten. |
min_remote_stages | Nei | 0 | Diagnostisk plasseringsvalg for testing av GGUF pipeline-parallellisme. Når > 0, tildeles sjekkpunktet bare til noder som ville kjørt minst så mange trinn over WebRTC i stedet for lokalt. Faller tilbake etter sjekkpunktpeerens utsettelsesvindu for å unngå å sulte produksjonsjobber. |
wire_hidden_dtype | Nei | f16 | Datatype for skjulte aktiveringer mellom GGUF-pipelinetrinn. f16 halverer nyttelasten på tråden for prefill og spekulative blokker. f32 er en diagnostisk reserve. |
wire_hidden_codec | Nei | fp16 | Eksperimentell kodek for skjulte aktiveringsblokker med flere tokens mellom GGUF-pipelinetrinn. Dekoding av enkelttokens beholder den billige datatypestien. Generiske kodeker brukes bare for prefill-/spekulative blokker der byte-besparelser kan veie opp for kodekkostnaden. fp16 er tryggest, auto8/hq8 er diagnostikk. |
stage_chaining | Nei | true | Når alle GGUF-trinn er eksterne og støtter kjedeprotokollen, sendes skjulte aktiveringer direkte fra trinn til trinn i stedet for å videresende hver grense via sjekkpunktkoordinatoren. |
latent_mode | Nei | off | Treningsfri Soft Thinking / SwiReasoning under <think>…</think>. Krever GGUF WASM med _lstage_eval_soft på trinnvertene, ellers faller den tilbake til diskret dekoding. Standard er av til CDN-WASM er bygget på nytt. Gjensidig utelukkende med spekulasjon når Soft Thinking er aktiv. |
latent_phase | Nei | tagged | tagged = tenkemarkører, prefix = fra steg 0 (modeller uten markører). |
latent_exit_text | Nei | Final answer: | Brukes bare når latent_phase=prefix (vanlige ordforrådstokens). |
latent_top_n | Nei | 15 | Soft top-n |
latent_entropy_tau | Nei | 0.05 | Cold Stop-entropi τ |
latent_cold_stop_k | Nei | 256 | Cold Stop påfølgende steg |
swi_dwell_window | Nei | 512 | Swi Eksplisitt→Latent oppholdstid |
swi_max_switches | Nei | 8 | Swi maks Latent→Eksplisitt-bytter |
max_thinking_tokens | Nei | 1536 | Hardt budsjett før tvungen </think> / prefiksutgang. Må holdes merkbart under `max_new_tokens`: et resonneringsbudsjett på eller over det totale genereringsbudsjettet gir et svar som kuttes midt i tankegangen uten noe svar i det hele tatt. Kontrollplanet beregner dette på nytt ut fra budsjettet den valgte plasseringen faktisk har råd til, slik at en mindre verdi respekteres og en større blir begrenset. |
min_thinking_tokens | Nei | 0 | Gulv: maskerer </think> ut av samplingen til så mange resonneringstokens finnes. 0 slår det av. Hindrer at en tenkeblokk lukkes på det første genererte tokenet og svarer helt uten resonnering. |
prompt | Ja | — | Brukermelding / prompt til chatmodellen |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Poll med samme API-nøkkel til status er endelig (COMPLETED, FAILED, CANCELED eller MODERATION_BLOCKED). Når innholdsmoderering er aktivert, kan jobber starte i MODERATION_PENDING før de går inn i beregningskøen. Fullførte jobber inneholder forhåndssignerte download_url-verdier for hvert utdata.
Svar ved oppretting
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Svar ved fullføring
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}