LLM
Nemotron 3 Nano csevegés
Tegyen fel egy kérdést, vagy próbáljon ki egy rövid írási feladatot. Az első üzenet elküldésekor jelentkezzen be.
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
Modelllicencek
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
Csevegjen az NVIDIA Nemotron 3 Nano-val, egy a telefonméretű csevegőknél nagyobb nyílt modellel. Ingyenes AI csevegés az Ön által csatlakoztatott eszközökön. Egyetlen erős számítógép képes befogadni; egyébként a munka a hozzáadott gépek között oszlik meg. Csak szöveges. Az első letöltés nagy, a későbbi csevegések újra felhasználják. A modell az NVIDIA Open Model License alatt áll.
API-referencia
Beküldés REST-en keresztül
Személyes API-kulcsával (msk_…) saját eszközeiből is létrehozhat feladatokat ehhez a munkaterheléshez. Az így indított feladatok ugyanazokon az eszközökön futnak, amelyeket itt csatlakoztatott: Az Ön eszközei — legalább egynek online kell lennie.
https://cp.meshlabs.cloud/v1/organizations/jobsHitelesítés ezzel: X-Organization-Api-Key: msk_your_personal_api_key. A fejléc neve megegyezik a szervezeti kulcsokéval; a személyes kulcsok ugyanazt a végpontot használják.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign végpontot ugyanazzal az API-kulccsal, töltse fel a fájlt a visszaadott upload_url címre, majd adja át a(z) download_url értéket a(z) job_spec mezőben (például input_image_url néven).Kéréstörzs
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}job_spec mezői
| Mező | Kötelező | Alapértelmezett | Leírás |
|---|---|---|---|
system_prompt | Nem | — | Opcionális rendszerüzenet |
enable_thinking | Nem | true | Gondolkodás/érvelés engedélyezése a végső válasz előtt. A Nemotron-3 Nano alapozói ChatML <think>/</think> (12/13 azonosítók); érveléshez hagyja bekapcsolva. A temperature=1.0 / top_p=1.0 a modellkártya alapértékei ehhez a módhoz. |
max_new_tokens | Nem | 2048 | A generált tokenek maximális száma (gondolkodás + válasz). Hosszú kimenethez növelje. A kérés és a generálás osztozik a kontextusablakon, így a generálás a kontextusnál leáll, nem pedig növeli a szakasz memóriaküszöbét. |
max_context | Nem | 8192 | A szakaszgazdák által a KV/rekurrens állapothoz lefoglalt tokenek összes száma – a kérés és a generálás együtt. A felső korlát az a legnagyobb kontextus, amelyen az Oracle a modellt mérte, így az elhelyezésnek soha nem kell a bizonyítékokon túl extrapolálnia. Növelése megemeli a memóriaküszöböt, így szűkíti azon eszközök körét, amelyek a feladatot futtathatják. |
kv_hot_window | Nem | 32768 | A fizikai figyelem-KV a legújabb N tokenre van korlátozva, így az N-nél hosszabb beszélgetés a legrégebbi szakaszait elfelejti, ahelyett hogy a kontextushatárnál megállna. A 0 a teljes kontextust memóriában tartja. A kontextusablaknál nem nagyobb értéknél ez semmit sem változtat – ugyanaz a memória, ugyanaz a figyelem –, a kontextusablak alá csökkentve pedig a hosszú távú felidézést cseréli korlátlan beszélgetéshossz ellenében, mert a modell valóban nem lát az ablakon túlra. |
turns | Nem | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Nem | 1 | Temperature |
top_p | Nem | 1 | Top P |
top_k | Nem | 20 | Top K |
presence_penalty | Nem | 0 | Presence Penalty |
repetition_penalty | Nem | 1 | Repetition Penalty |
seed | Nem | — | Véletlen seed a reprodukálhatósághoz |
speculative_ngram | Nem | false | Prompt-lookup vázlatolás: a környezetből származó ismétlődő n-gramokat vázlatblokkokként játssza újra a rendszer, és a modell EGY menetben ellenőrzi őket, így egyetlen hálózati körút több tokent is véglegesíthet. Nincs extra modell; a kimenet azonos a szekvenciális dekódolással. |
speculative_draft_model | Nem | false | Egy apró GGUF vázlatmodellt futtat az ellenőrzőpont-csomóponton a vázlatblokkok javaslatához (inkább a „Vázlatmodell csomagolt fájlneve” használata javasolt; a külső URL tartalékként elérhető marad). Ha a vázlatmodell nem érhető el, n-gramos vázlatolásra tér vissza. |
draft_model_file | Nem | — | Egy nem particionált GGUF vázlatmodell fájlneve ebben a feladatcsomagban. Az SDK a required_files alapján oldja fel, így a privát S3 vödrök a nyilvános URL helyett a szerver által adott aláírt/proxy URL-t használhatják. |
draft_model_url | Nem | — | Az apró GGUF vázlatmodell opcionális külső HTTPS URL-je. Tartalékként használatos, ha a „Vázlatmodell csomagolt fájlneve” hiányzik, vagy nem szerepel a required_files-ban. |
speculative_max_draft | Nem | 8 | Blokkonként ellenőrzött vázlattokenek felső határa. A tényleges hossz a megfigyelt elfogadási arányhoz igazodik. |
min_remote_stages | Nem | 0 | Diagnosztikai elhelyezési beállítás a GGUF csővezeték-párhuzamos teszteléshez. Ha > 0, az ellenőrzőpontot csak olyan csomópontokhoz rendeli, amelyek legalább ennyi szakaszt futtatnának WebRTC-n keresztül helyben futtatás helyett. Az ellenőrzőpont-társ türelmi ablaka után visszalép, hogy ne éheztesse ki az éles feladatokat. |
wire_hidden_dtype | Nem | f16 | A rejtett aktivációk adattípusa a GGUF csővezeték-szakaszok között. Az f16 felezi az előtöltés és a spekulatív blokkok átviteli adatmennyiségét; az f32 diagnosztikai tartalék. |
wire_hidden_codec | Nem | fp16 | Kísérleti kodek a GGUF csővezeték-szakaszok közötti többtokenes rejtett aktivációs blokkokhoz. Az egytokenes dekódolás az olcsó adattípus-útvonalat tartja; az általános kodekeket csak az előtöltési/spekulatív blokkokhoz használja, ahol a bájtmegtakarítás ellensúlyozhatja a kodek költségét. Az fp16 a legbiztonságosabb; az auto8/hq8 diagnosztikai. |
stage_chaining | Nem | true | Ha minden GGUF szakasz távoli és támogatja a láncprotokollt, a rejtett aktivációkat közvetlenül szakaszról szakaszra küldi, ahelyett hogy minden határt az ellenőrzőpont-koordinátoron keresztül közvetítene. |
latent_mode | Nem | off | Tanítást nem igénylő Soft Thinking / SwiReasoning a <think>…</think> alatt. Szakaszgazdákon _lstage_eval_soft-tal rendelkező GGUF WASM szükséges; egyébként diszkrét dekódolásra tér vissza. Alapértelmezetten ki van kapcsolva, amíg a CDN WASM újra nincs építve. Aktív Soft Thinking esetén kölcsönösen kizárja a spekulációt. |
latent_phase | Nem | tagged | tagged = gondolkodásjelölők; prefix = a 0. lépéstől (jelölő nélküli modellek). |
latent_exit_text | Nem | Final answer: | Csak latent_phase=prefix esetén használatos (szokásos szótári tokenek). |
latent_top_n | Nem | 15 | Soft top-n |
latent_entropy_tau | Nem | 0.05 | Cold Stop entrópia τ |
latent_cold_stop_k | Nem | 256 | Cold Stop egymást követő lépések |
swi_dwell_window | Nem | 512 | Swi explicit→látens tartózkodás |
swi_max_switches | Nem | 8 | Swi látens→explicit váltások maximális száma |
max_thinking_tokens | Nem | 1536 | Kemény keret a kényszerített </think> / prefix kilépés előtt. Érezhetően a `max_new_tokens` alatt kell maradnia: az összes generálási keretet elérő vagy meghaladó érvelési keret olyan választ eredményez, amely a gondolatmenet közepén megszakad, és egyáltalán nincs benne válasz. A vezérlősík ezt újraszámolja abból a keretből, amelyet a kiválasztott elhelyezés ténylegesen megengedhet magának, így a kisebb érték érvényesül, a nagyobbat pedig korlátozza. |
min_thinking_tokens | Nem | 0 | Alsó korlát: a </think>-et kizárja a mintavételezésből, amíg ennyi érvelési token nem készül. A 0 kikapcsolja. Megakadályozza, hogy a gondolkodási blokk az első generált tokennél lezáruljon, és érvelés nélkül válaszoljon. |
prompt | Igen | — | Felhasználói üzenet / kérés a csevegőmodellnek |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Kérdezze le ugyanazzal az API-kulccsal, amíg a(z) status végállapotba nem kerül (COMPLETED, FAILED, CANCELED vagy MODERATION_BLOCKED). Ha a tartalommoderálás engedélyezve van, a feladatok MODERATION_PENDING állapotban indulhatnak, mielőtt bekerülnek a számítási sorba. A befejezett feladatok minden kimenetén előre aláírt download_url értékek szerepelnek.
Létrehozási válasz
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Befejezési válasz
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}