LLM

Nemotron 3 Nano csevegés

Tegyen fel egy kérdést, vagy próbáljon ki egy rövid írási feladatot. Az első üzenet elküldésekor jelentkezzen be.

Licensed by NVIDIA Corporation under the NVIDIA Open Model License

Modelllicencek

NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24

NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.

Mellékelt licenc

Jogi közlemény

IngyenesOnlineKorlátlanLicensed by NVIDIA Corporation under the NVIDIA Open Model License API-hozzáférés

Amikor csak készen áll.

Írja meg üzenetét, és nyomja meg a Küldés gombot a bejelentkezéshez és a kezdéshez.

Csevegjen az NVIDIA Nemotron 3 Nano-val, egy a telefonméretű csevegőknél nagyobb nyílt modellel. Ingyenes AI csevegés az Ön által csatlakoztatott eszközökön. Egyetlen erős számítógép képes befogadni; egyébként a munka a hozzáadott gépek között oszlik meg. Csak szöveges. Az első letöltés nagy, a későbbi csevegések újra felhasználják. A modell az NVIDIA Open Model License alatt áll.

API-referencia

Beküldés REST-en keresztül

Személyes API-kulcsával (msk_…) saját eszközeiből is létrehozhat feladatokat ehhez a munkaterheléshez. Az így indított feladatok ugyanazokon az eszközökön futnak, amelyeket itt csatlakoztatott: Az Ön eszközei — legalább egynek online kell lennie.

API-részletek elrejtése
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Hitelesítés ezzel: X-Organization-Api-Key: msk_your_personal_api_key. A fejléc neve megegyezik a szervezeti kulcsokéval; a személyes kulcsok ugyanazt a végpontot használják.

Bemeneti fájlok:Hívja meg a(z) POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign végpontot ugyanazzal az API-kulccsal, töltse fel a fájlt a visszaadott upload_url címre, majd adja át a(z) download_url értéket a(z) job_spec mezőben (például input_image_url néven).

Kéréstörzs

{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec mezői

MezőKötelezőAlapértelmezettLeírás
system_promptNem—Opcionális rendszerüzenet
enable_thinkingNemtrueGondolkodás/érvelés engedélyezése a végső válasz előtt. A Nemotron-3 Nano alapozói ChatML <think>/</think> (12/13 azonosítók); érveléshez hagyja bekapcsolva. A temperature=1.0 / top_p=1.0 a modellkártya alapértékei ehhez a módhoz.
max_new_tokensNem2048A generált tokenek maximális száma (gondolkodás + válasz). Hosszú kimenethez növelje. A kérés és a generálás osztozik a kontextusablakon, így a generálás a kontextusnál leáll, nem pedig növeli a szakasz memóriaküszöbét.
max_contextNem8192A szakaszgazdák által a KV/rekurrens állapothoz lefoglalt tokenek összes száma – a kérés és a generálás együtt. A felső korlát az a legnagyobb kontextus, amelyen az Oracle a modellt mérte, így az elhelyezésnek soha nem kell a bizonyítékokon túl extrapolálnia. Növelése megemeli a memóriaküszöböt, így szűkíti azon eszközök körét, amelyek a feladatot futtathatják.
kv_hot_windowNem32768A fizikai figyelem-KV a legújabb N tokenre van korlátozva, így az N-nél hosszabb beszélgetés a legrégebbi szakaszait elfelejti, ahelyett hogy a kontextushatárnál megállna. A 0 a teljes kontextust memóriában tartja. A kontextusablaknál nem nagyobb értéknél ez semmit sem változtat – ugyanaz a memória, ugyanaz a figyelem –, a kontextusablak alá csökkentve pedig a hosszú távú felidézést cseréli korlátlan beszélgetéshossz ellenében, mert a modell valóban nem lát az ablakon túlra.
turnsNem—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNem1Temperature
top_pNem1Top P
top_kNem20Top K
presence_penaltyNem0Presence Penalty
repetition_penaltyNem1Repetition Penalty
seedNem—Véletlen seed a reprodukálhatósághoz
speculative_ngramNemfalsePrompt-lookup vázlatolás: a környezetből származó ismétlődő n-gramokat vázlatblokkokként játssza újra a rendszer, és a modell EGY menetben ellenőrzi őket, így egyetlen hálózati körút több tokent is véglegesíthet. Nincs extra modell; a kimenet azonos a szekvenciális dekódolással.
speculative_draft_modelNemfalseEgy apró GGUF vázlatmodellt futtat az ellenőrzőpont-csomóponton a vázlatblokkok javaslatához (inkább a „Vázlatmodell csomagolt fájlneve” használata javasolt; a külső URL tartalékként elérhető marad). Ha a vázlatmodell nem érhető el, n-gramos vázlatolásra tér vissza.
draft_model_fileNem—Egy nem particionált GGUF vázlatmodell fájlneve ebben a feladatcsomagban. Az SDK a required_files alapján oldja fel, így a privát S3 vödrök a nyilvános URL helyett a szerver által adott aláírt/proxy URL-t használhatják.
draft_model_urlNem—Az apró GGUF vázlatmodell opcionális külső HTTPS URL-je. Tartalékként használatos, ha a „Vázlatmodell csomagolt fájlneve” hiányzik, vagy nem szerepel a required_files-ban.
speculative_max_draftNem8Blokkonként ellenőrzött vázlattokenek felső határa. A tényleges hossz a megfigyelt elfogadási arányhoz igazodik.
min_remote_stagesNem0Diagnosztikai elhelyezési beállítás a GGUF csővezeték-párhuzamos teszteléshez. Ha > 0, az ellenőrzőpontot csak olyan csomópontokhoz rendeli, amelyek legalább ennyi szakaszt futtatnának WebRTC-n keresztül helyben futtatás helyett. Az ellenőrzőpont-társ türelmi ablaka után visszalép, hogy ne éheztesse ki az éles feladatokat.
wire_hidden_dtypeNemf16A rejtett aktivációk adattípusa a GGUF csővezeték-szakaszok között. Az f16 felezi az előtöltés és a spekulatív blokkok átviteli adatmennyiségét; az f32 diagnosztikai tartalék.
wire_hidden_codecNemfp16Kísérleti kodek a GGUF csővezeték-szakaszok közötti többtokenes rejtett aktivációs blokkokhoz. Az egytokenes dekódolás az olcsó adattípus-útvonalat tartja; az általános kodekeket csak az előtöltési/spekulatív blokkokhoz használja, ahol a bájtmegtakarítás ellensúlyozhatja a kodek költségét. Az fp16 a legbiztonságosabb; az auto8/hq8 diagnosztikai.
stage_chainingNemtrueHa minden GGUF szakasz távoli és támogatja a láncprotokollt, a rejtett aktivációkat közvetlenül szakaszról szakaszra küldi, ahelyett hogy minden határt az ellenőrzőpont-koordinátoron keresztül közvetítene.
latent_modeNemoffTanítást nem igénylő Soft Thinking / SwiReasoning a <think>…</think> alatt. Szakaszgazdákon _lstage_eval_soft-tal rendelkező GGUF WASM szükséges; egyébként diszkrét dekódolásra tér vissza. Alapértelmezetten ki van kapcsolva, amíg a CDN WASM újra nincs építve. Aktív Soft Thinking esetén kölcsönösen kizárja a spekulációt.
latent_phaseNemtaggedtagged = gondolkodásjelölők; prefix = a 0. lépéstől (jelölő nélküli modellek).
latent_exit_textNem Final answer: Csak latent_phase=prefix esetén használatos (szokásos szótári tokenek).
latent_top_nNem15Soft top-n
latent_entropy_tauNem0.05Cold Stop entrópia τ
latent_cold_stop_kNem256Cold Stop egymást követő lépések
swi_dwell_windowNem512Swi explicit→látens tartózkodás
swi_max_switchesNem8Swi látens→explicit váltások maximális száma
max_thinking_tokensNem1536Kemény keret a kényszerített </think> / prefix kilépés előtt. Érezhetően a `max_new_tokens` alatt kell maradnia: az összes generálási keretet elérő vagy meghaladó érvelési keret olyan választ eredményez, amely a gondolatmenet közepén megszakad, és egyáltalán nincs benne válasz. A vezérlősík ezt újraszámolja abból a keretből, amelyet a kiválasztott elhelyezés ténylegesen megengedhet magának, így a kisebb érték érvényesül, a nagyobbat pedig korlátozza.
min_thinking_tokensNem0Alsó korlát: a </think>-et kizárja a mintavételezésből, amíg ennyi érvelési token nem készül. A 0 kikapcsolja. Megakadályozza, hogy a gondolkodási blokk az első generált tokennél lezáruljon, és érvelés nélkül válaszoljon.
promptIgen—Felhasználói üzenet / kérés a csevegőmodellnek

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Kérdezze le ugyanazzal az API-kulccsal, amíg a(z) status végállapotba nem kerül (COMPLETED, FAILED, CANCELED vagy MODERATION_BLOCKED). Ha a tartalommoderálás engedélyezve van, a feladatok MODERATION_PENDING állapotban indulhatnak, mielőtt bekerülnek a számítási sorba. A befejezett feladatok minden kimenetén előre aláírt download_url értékek szerepelnek.

Létrehozási válasz

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Befejezési válasz

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}