LLM
Czat Nemotron 3 Nano
Zadaj pytanie lub wypróbuj krótkie zadanie pisarskie. Zalogujesz się przy wysłaniu pierwszej wiadomości.
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
Licencje modelu
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
Wybierz model
Bieżący model:
Czat Nemotron 3 Nano
Jakość wyniku: 50%
Najwyższa jakość, jaką może uruchomić Twoje urządzenie. Dodaj więcej urządzeń, aby skończyć szybciej.
Napisz wiadomość i naciśnij Wyślij, aby się zalogować i zacząć.
Rozmawiaj z NVIDIA Nemotron 3 Nano, większym otwartym modelem niż czaty w rozmiarze na telefon. Darmowy czat AI na podłączonych urządzeniach. Jeden mocny komputer może go pomieścić; w przeciwnym razie praca dzieli się między dodane maszyny. Tylko tekst. Pierwsze pobieranie jest duże, a kolejne czaty z niego korzystają. Model jest objęty licencją NVIDIA Open Model License.
Dokumentacja API
Przesyłaj przez REST
Użyj swojego osobistego klucza API (msk_…), aby tworzyć zadania dla tego obciążenia z własnych narzędzi. Zadania uruchamiane w ten sposób działają na tych samych urządzeniach, które podłączyłeś(-aś) w sekcji Twoje urządzenia — co najmniej jedno musi być online.
https://cp.meshlabs.cloud/v1/organizations/jobsUwierzytelnij się za pomocą X-Organization-Api-Key: msk_your_personal_api_key. Nazwa nagłówka jest taka sama jak dla kluczy organizacji; klucze osobiste używają tego samego punktu końcowego.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign z tym samym kluczem API, prześlij plik pod zwrócony upload_url, a następnie przekaż download_url w job_spec (na przykład jako input_image_url).Treść żądania
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Pola: job_spec
| Pole | Wymagane | Domyślnie | Opis |
|---|---|---|---|
system_prompt | Nie | — | Opcjonalny prompt systemowy |
enable_thinking | Nie | true | Włącz myślenie/rozumowanie przed ostateczną odpowiedzią. Startery Nemotron-3 Nano to ChatML <think>/</think> (id 12/13); pozostaw włączone dla rozumowania. temperature=1.0 / top_p=1.0 to domyślne wartości z karty modelu dla tego trybu. |
max_new_tokens | Nie | 2048 | Maksymalna liczba wygenerowanych tokenów (myślenie + odpowiedź). Zwiększ dla długich wypowiedzi. Prompt i generowanie współdzielą okno kontekstu, więc generowanie zatrzymuje się na kontekście, zamiast zwiększać dolny próg pamięci etapu. |
max_context | Nie | 8192 | Łączna liczba tokenów, dla których hosty etapów rezerwują stan KV/rekurencyjny — prompt plus generowanie. Górną granicą jest największy kontekst, przy którym Oracle zmierzył ten model, dzięki czemu rozmieszczenie nigdy nie musi ekstrapolować poza dowody. Zwiększenie go podnosi dolny próg pamięci, a tym samym zawęża grono urządzeń, które mogą wykonać zadanie. |
kv_hot_window | Nie | 32768 | Fizyczna uwaga KV jest ograniczona do najnowszych N tokenów, więc rozmowa dłuższa niż N zapomina najstarsze tury, zamiast zatrzymać się na limicie kontekstu. 0 utrzymuje cały kontekst w pamięci. Przy wartości równej oknu kontekstu lub niższej od niego nic się nie zmienia — ta sama pamięć, ta sama uwaga — a obniżenie jej poniżej okna kontekstu wymienia pamięć dalekiego zasięgu na nieograniczoną długość rozmowy, ponieważ model naprawdę nie widzi poza oknem. |
turns | Nie | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Nie | 1 | Temperature |
top_p | Nie | 1 | Top P |
top_k | Nie | 20 | Top K |
presence_penalty | Nie | 0 | Presence Penalty |
repetition_penalty | Nie | 1 | Repetition Penalty |
seed | Nie | — | Ziarno losowości dla powtarzalności |
speculative_ngram | Nie | false | Drafty z wyszukiwania w prompcie: powtarzające się n-gramy z kontekstu są odtwarzane jako bloki robocze i weryfikowane przez model w JEDNYM przebiegu, więc jedna runda sieciowa może zatwierdzić kilka tokenów. Bez dodatkowego modelu; wynik jest identyczny jak przy dekodowaniu sekwencyjnym. |
speculative_draft_model | Nie | false | Uruchom malutki model roboczy GGUF na węźle punktu kontrolnego, aby proponował bloki robocze (preferuj „Nazwa dołączonego pliku modelu roboczego”; zewnętrzny URL pozostaje dostępny jako rozwiązanie zapasowe). Wraca do draftów n-gramowych, gdy model roboczy jest niedostępny. |
draft_model_file | Nie | — | Nazwa nierozdzielonego pliku modelu roboczego GGUF w pakiecie tego zadania. SDK rozwiązuje ją z required_files, więc prywatne koszyki S3 mogą używać podpisanego/proxy URL dostarczonego przez serwer zamiast publicznego URL. |
draft_model_url | Nie | — | Opcjonalny zewnętrzny adres HTTPS malutkiego modelu roboczego GGUF. Używany jako rozwiązanie zapasowe, gdy „Nazwa dołączonego pliku modelu roboczego” nie jest ustawiona lub brakuje jej w required_files. |
speculative_max_draft | Nie | 8 | Górna granica liczby tokenów roboczych weryfikowanych w jednym bloku. Efektywna długość dostosowuje się do obserwowanego wskaźnika akceptacji. |
min_remote_stages | Nie | 0 | Diagnostyczne ustawienie rozmieszczenia do testów równoległości potokowej GGUF. Gdy > 0, punkt kontrolny jest przypisywany tylko do węzłów, które uruchomiłyby co najmniej tyle etapów przez WebRTC zamiast lokalnie. Po upływie okresu karencji peera punktu kontrolnego następuje powrót do zwykłego trybu, aby nie zagłodzić zadań produkcyjnych. |
wire_hidden_dtype | Nie | f16 | Typ danych ukrytych aktywacji między etapami potoku GGUF. f16 zmniejsza ładunek transmisji o połowę dla prefill i bloków spekulatywnych; f32 to diagnostyczne rozwiązanie zapasowe. |
wire_hidden_codec | Nie | fp16 | Eksperymentalny kodek dla wielotokenowych bloków ukrytych aktywacji między etapami potoku GGUF. Dekodowanie pojedynczego tokenu zachowuje tanią ścieżkę typu danych; kodeki ogólne są używane tylko dla bloków prefill/spekulatywnych, gdzie oszczędność bajtów może zrównoważyć koszt kodeka. fp16 jest najbezpieczniejszy; auto8/hq8 to diagnostyka. |
stage_chaining | Nie | true | Gdy wszystkie etapy GGUF są zdalne i obsługują protokół łańcuchowy, ukryte aktywacje są wysyłane bezpośrednio z etapu do etapu, zamiast przekazywać każdą granicę przez koordynatora punktu kontrolnego. |
latent_mode | Nie | off | Soft Thinking / SwiReasoning bez treningu podczas <think>…</think>. Wymaga GGUF WASM z _lstage_eval_soft na hostach etapów; w przeciwnym razie wraca do dekodowania dyskretnego. Domyślnie wyłączone do czasu przebudowania WASM na CDN. Wzajemnie wykluczające się ze spekulacją, gdy Soft Thinking jest aktywne. |
latent_phase | Nie | tagged | tagged = znaczniki think; prefix = od kroku 0 (modele bez znaczników). |
latent_exit_text | Nie | Final answer: | Używane tylko gdy latent_phase=prefix (zwykłe tokeny słownika). |
latent_top_n | Nie | 15 | Soft top-n |
latent_entropy_tau | Nie | 0.05 | Entropia τ Cold Stop |
latent_cold_stop_k | Nie | 256 | Kolejne kroki Cold Stop |
swi_dwell_window | Nie | 512 | Czas przebywania Swi Explicit→Latent |
swi_max_switches | Nie | 8 | Maks. liczba przełączeń Swi Latent→Explicit |
max_thinking_tokens | Nie | 1536 | Twardy budżet przed wymuszonym </think> / wyjściem z prefiksu. Musi pozostać wyraźnie poniżej `max_new_tokens`: budżet rozumowania równy lub większy od całkowitego budżetu generowania daje odpowiedź ucięta w połowie myśli, bez żadnego wyniku. Control plane ponownie przycina tę wartość do budżetu, na który stać wybrane rozmieszczenie, więc mniejsza wartość jest respektowana, a większa — ograniczana. |
min_thinking_tokens | Nie | 0 | Dolny próg: maskuje </think> w próbkowaniu, dopóki nie powstanie tyle tokenów rozumowania. 0 wyłącza. Zapobiega zamknięciu bloku myślenia na pierwszym wygenerowanym tokenie i odpowiedzi bez żadnego rozumowania. |
prompt | Tak | — | Wiadomość użytkownika / prompt dla modelu czatu |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Odpytuj z tym samym kluczem API, aż status osiągnie stan końcowy (COMPLETED, FAILED, CANCELED lub MODERATION_BLOCKED). Gdy włączona jest moderacja treści, zadania mogą zaczynać się w stanie MODERATION_PENDING, zanim trafią do kolejki obliczeń. Ukończone zadania zawierają wstępnie podpisane wartości download_url przy każdym wyniku.
Odpowiedź na utworzenie
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Odpowiedź po ukończeniu
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}