LLM

Nemotron 3 Nano -chat

Kysy kysymys tai kokeile lyhyttä kirjoitustehtävää. Kirjaudu sisään, kun lähetät ensimmäisen viestisi.

Licensed by NVIDIA Corporation under the NVIDIA Open Model License

Mallin lisenssit

NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24

NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.

Mukana toimitettu lisenssi

Ilmoitus

IlmainenVerkossaRajatonLicensed by NVIDIA Corporation under the NVIDIA Open Model License API-käyttö

Kun olet valmis.

Kirjoita viestisi ja paina Lähetä kirjautuaksesi sisään ja aloittaaksesi.

Keskustele NVIDIA Nemotron 3 Nanon kanssa, joka on suurempi avoin malli kuin puhelimen kokoiset chatit. Ilmainen tekoälychat yhdistämilläsi laitteilla. Yksi tehokas tietokone voi pitää sen muistissa; muuten työ jakautuu lisäämillesi koneille. Vain tekstiä. Ensimmäinen lataus on suuri, ja myöhemmät chatit käyttävät sitä uudelleen. Malli on NVIDIA Open Model License -lisenssillä.

API-viite

Lähetä RESTin kautta

Käytä henkilökohtaista API-avaintasi (msk_…) luodaksesi tämän työkuorman töitä omista työkaluistasi. Näin käynnistetyt työt suoritetaan samoilla laitteilla, jotka yhdistit sivulla Laitteesi – vähintään yhden on oltava verkossa.

Piilota API-tiedot
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Todenna otsakkeella X-Organization-Api-Key: msk_your_personal_api_key. Otsakkeen nimi on sama kuin organisaatioavaimilla; henkilökohtaiset avaimet käyttävät samaa päätepistettä.

Syötetiedostot:Kutsu POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign samalla API-avaimella, lataa tiedostosi palautettuun osoitteeseen upload_url ja välitä sitten download_url kentässä job_spec (esimerkiksi nimellä input_image_url).

Pyynnön runko

{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec – kentät

KenttäPakollinenOletusKuvaus
system_promptEi—Valinnainen järjestelmäkehote
enable_thinkingEitrueOta ajattelu tai päättely käyttöön ennen lopullista vastausta. Nemotron-3 Nanon aloitusmerkit ovat ChatML <think>/</think> (tunnisteet 12/13); pidä tämä päällä päättelyä varten. temperature=1.0 / top_p=1.0 ovat mallikortin oletukset kyseiselle tilalle.
max_new_tokensEi2048Generoitavien tokenien enimmäismäärä (ajattelu + vastaus). Nosta pitkää tulostetta varten. Kehote ja generointi jakavat kontekstti-ikkunan, joten generointi pysähtyy kontekstiin sen sijaan, että vaiheen muistin alaraja kasvaisi.
max_contextEi8192Tokenien kokonaismäärä, jolle vaihetoimittajat varaavat KV- tai rekurrenttitilan – kehote ja generointi yhteensä. Yläraja on suurin konteksti, jolla Oracle mittasi tämän mallin, joten sijoittelun ei tarvitse ekstrapoloida todisteiden ulkopuolelle. Sen nostaminen nostaa muistin vähimmäisvaatimusta ja kaventaa siten niiden laitteiden joukkoa, jotka voivat ajaa työn.
kv_hot_windowEi32768Fyysinen huomio-KV rajataan uusimpiin N tokeniin, joten N:ää pidempi keskustelu unohtaa vanhimmat vuoronsa sen sijaan, että pysähtyisi kontekstirajaan. 0 pitää koko kontekstin muistissa. Kontekstti-ikkunan tasolla tai alle tämä ei muuta mitään – sama muisti, sama huomio – ja sen laskeminen ikkunan alle vaihtaa pitkän kantaman muistin rajattomaan keskustelun pituuteen, koska malli ei todella näe ikkunan taakse.
turnsEi—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureEi1Temperature
top_pEi1Top P
top_kEi20Top K
presence_penaltyEi0Presence Penalty
repetition_penaltyEi1Repetition Penalty
seedEi—Satunnaissiemen toistettavuutta varten
speculative_ngramEifalseKehotehakuun perustuva luonnostelu: kontekstin toistuvat n-grammit toistetaan luonnoslohkoina ja malli varmentaa ne YHDELLÄ läpikäynnillä, joten yksi verkon edestakainen kierros voi vahvistaa useita tokeneita. Ei lisämallia; tulos on identtinen peräkkäisen dekoodauksen kanssa.
speculative_draft_modelEifalseAja pientä GGUF-luonnosmallia tarkistuspistesolmussa luonnoslohkojen ehdottamiseksi (suosi 'Luonnosmallin mukana toimitettu tiedostonimi'; ulkoinen URL on edelleen käytettävissä varavaihtoehtona). Palaa n-grammiluonnosteluun, jos luonnosmalli ei ole käytettävissä.
draft_model_fileEi—Tämän työkuormapaketin osittamattoman GGUF-luonnosmallin tiedostonimi. SDK ratkaisee sen required_files-luettelosta, joten yksityiset S3-bucketit voivat käyttää palvelimen antamaa allekirjoitettua tai välityspalvelin-URL:ia julkisen URL:n sijaan.
draft_model_urlEi—Pienen GGUF-luonnosmallin valinnainen ulkoinen HTTPS-URL. Käytetään varavaihtoehtona, kun 'Luonnosmallin mukana toimitettu tiedostonimi' puuttuu tai ei ole required_files-luettelossa.
speculative_max_draftEi8Lohkoa kohden varmennettavien luonnostokenien yläraja. Tehokas pituus mukautuu havaittuun hyväksymisasteeseen.
min_remote_stagesEi0Diagnostinen sijoittelusäädin GGUF-putkirinnakkaisuuden testaukseen. Kun > 0, tarkistuspiste annetaan vain solmuille, jotka ajaisivat vähintään näin monta vaihetta WebRTC:n yli paikallisesti ajamisen sijaan. Palaa takaisin tarkistuspisteen vertaisen armonajan jälkeen, jotta tuotantotyöt eivät näänny.
wire_hidden_dtypeEif16Piilotettujen aktivaatioiden tyyppi GGUF-putken vaiheiden välillä. f16 puolittaa siirtokuorman esitäytössä ja spekulatiivisissa lohkoissa; f32 on diagnostinen varavaihtoehto.
wire_hidden_codecEifp16Kokeellinen koodekki usean tokenin piilotettujen aktivaatioiden lohkoille GGUF-putken vaiheiden välillä. Yhden tokenin dekoodaus pitää edullisen tyyppipolun; yleisiä koodekkeja käytetään vain esitäytössä ja spekulatiivisissa lohkoissa, joissa tavusäästöt voivat kompensoida koodekin kustannuksen. fp16 on turvallisin; auto8/hq8 ovat diagnostiikkaa.
stage_chainingEitrueKun kaikki GGUF-vaiheet ovat etänä ja tukevat ketjuprotokollaa, lähetä piilotetut aktivaatiot suoraan vaiheelta toiselle sen sijaan, että jokainen raja välitettäisiin tarkistuspistekoordinaattorin kautta.
latent_modeEioffKoulutusvapaa Soft Thinking / SwiReasoning <think>…</think>-lohkon aikana. Vaatii GGUF WASM:n, jossa _lstage_eval_soft on vaihetoimittajilla; muuten palataan diskreettiin dekoodaukseen. Oletuksena pois, kunnes CDN-WASM on rakennettu uudelleen. Poissulkeva spekulaation kanssa, kun Soft Thinking on aktiivinen.
latent_phaseEitaggedtagged = ajattelumerkit; prefix = askeleesta 0 alkaen (merkittömät mallit).
latent_exit_textEi Final answer: Käytetään vain, kun latent_phase=prefix (tavalliset sanastotokenit).
latent_top_nEi15Soft top-n
latent_entropy_tauEi0.05Cold Stop -entropia τ
latent_cold_stop_kEi256Cold Stop peräkkäiset askeleet
swi_dwell_windowEi512Swi Explicit→Latent -viipymä
swi_max_switchesEi8Swi Latent→Explicit -vaihtojen enimmäismäärä
max_thinking_tokensEi1536Kova budjetti ennen pakotettua </think>- tai etuliitepoistumista. Arvon on pysyttävä selvästi alle `max_new_tokens`-arvon: päättelybudjetti, joka on yhtä suuri tai suurempi kuin koko generointibudjetti, johtaa vastaukseen, joka katkeaa kesken ajatuksen ilman varsinaista vastausta. Ohjaustaso laskee tämän uudelleen sen budjetin perusteella, jonka valittu sijoittelu todellisuudessa kestää, joten pienempää arvoa noudatetaan ja suurempi rajataan.
min_thinking_tokensEi0Alaraja: peitä </think> pois näytteenotosta, kunnes päättelytokeneita on tämän verran. 0 poistaa käytöstä. Estää ajatuslohkon sulkeutumisen ensimmäiseen generoituun tokeniin ja vastaamisen ilman päättelyä.
promptKyllä—Käyttäjän viesti tai kehote chat-mallille

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Kysele samalla API-avaimella, kunnes status on lopullinen (COMPLETED, FAILED, CANCELED tai MODERATION_BLOCKED). Kun sisällön moderointi on käytössä, työt voivat alkaa tilassa MODERATION_PENDING ennen siirtymistään laskentajonoon. Valmiiden töiden jokaisessa tulosteessa on valmiiksi allekirjoitetut download_url-arvot.

Luontivastaus

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Valmistumisvastaus

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}