LLM

Czat Nemotron 3 Nano

Zadaj pytanie lub wypróbuj krótkie zadanie pisarskie. Zalogujesz się przy wysłaniu pierwszej wiadomości.

Licensed by NVIDIA Corporation under the NVIDIA Open Model License

Licencje modelu

NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24

NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.

Dołączona licencja

Informacja prawna

BezpłatnieOnlineBez limituLicensed by NVIDIA Corporation under the NVIDIA Open Model License Dostęp przez API

Kiedy tylko zechcesz.

Napisz wiadomość i naciśnij Wyślij, aby się zalogować i zacząć.

Rozmawiaj z NVIDIA Nemotron 3 Nano, większym otwartym modelem niż czaty w rozmiarze na telefon. Darmowy czat AI na podłączonych urządzeniach. Jeden mocny komputer może go pomieścić; w przeciwnym razie praca dzieli się między dodane maszyny. Tylko tekst. Pierwsze pobieranie jest duże, a kolejne czaty z niego korzystają. Model jest objęty licencją NVIDIA Open Model License.

Dokumentacja API

Przesyłaj przez REST

Użyj swojego osobistego klucza API (msk_…), aby tworzyć zadania dla tego obciążenia z własnych narzędzi. Zadania uruchamiane w ten sposób działają na tych samych urządzeniach, które podłączyłeś(-aś) w sekcji Twoje urządzenia — co najmniej jedno musi być online.

Ukryj szczegóły API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Uwierzytelnij się za pomocą X-Organization-Api-Key: msk_your_personal_api_key. Nazwa nagłówka jest taka sama jak dla kluczy organizacji; klucze osobiste używają tego samego punktu końcowego.

Pliki wejściowe:Wywołaj POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign z tym samym kluczem API, prześlij plik pod zwrócony upload_url, a następnie przekaż download_url w job_spec (na przykład jako input_image_url).

Treść żądania

{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Pola: job_spec

PoleWymaganeDomyślnieOpis
system_promptNie—Opcjonalny prompt systemowy
enable_thinkingNietrueWłącz myślenie/rozumowanie przed ostateczną odpowiedzią. Startery Nemotron-3 Nano to ChatML <think>/</think> (id 12/13); pozostaw włączone dla rozumowania. temperature=1.0 / top_p=1.0 to domyślne wartości z karty modelu dla tego trybu.
max_new_tokensNie2048Maksymalna liczba wygenerowanych tokenów (myślenie + odpowiedź). Zwiększ dla długich wypowiedzi. Prompt i generowanie współdzielą okno kontekstu, więc generowanie zatrzymuje się na kontekście, zamiast zwiększać dolny próg pamięci etapu.
max_contextNie8192Łączna liczba tokenów, dla których hosty etapów rezerwują stan KV/rekurencyjny — prompt plus generowanie. Górną granicą jest największy kontekst, przy którym Oracle zmierzył ten model, dzięki czemu rozmieszczenie nigdy nie musi ekstrapolować poza dowody. Zwiększenie go podnosi dolny próg pamięci, a tym samym zawęża grono urządzeń, które mogą wykonać zadanie.
kv_hot_windowNie32768Fizyczna uwaga KV jest ograniczona do najnowszych N tokenów, więc rozmowa dłuższa niż N zapomina najstarsze tury, zamiast zatrzymać się na limicie kontekstu. 0 utrzymuje cały kontekst w pamięci. Przy wartości równej oknu kontekstu lub niższej od niego nic się nie zmienia — ta sama pamięć, ta sama uwaga — a obniżenie jej poniżej okna kontekstu wymienia pamięć dalekiego zasięgu na nieograniczoną długość rozmowy, ponieważ model naprawdę nie widzi poza oknem.
turnsNie—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNie1Temperature
top_pNie1Top P
top_kNie20Top K
presence_penaltyNie0Presence Penalty
repetition_penaltyNie1Repetition Penalty
seedNie—Ziarno losowości dla powtarzalności
speculative_ngramNiefalseDrafty z wyszukiwania w prompcie: powtarzające się n-gramy z kontekstu są odtwarzane jako bloki robocze i weryfikowane przez model w JEDNYM przebiegu, więc jedna runda sieciowa może zatwierdzić kilka tokenów. Bez dodatkowego modelu; wynik jest identyczny jak przy dekodowaniu sekwencyjnym.
speculative_draft_modelNiefalseUruchom malutki model roboczy GGUF na węźle punktu kontrolnego, aby proponował bloki robocze (preferuj „Nazwa dołączonego pliku modelu roboczego”; zewnętrzny URL pozostaje dostępny jako rozwiązanie zapasowe). Wraca do draftów n-gramowych, gdy model roboczy jest niedostępny.
draft_model_fileNie—Nazwa nierozdzielonego pliku modelu roboczego GGUF w pakiecie tego zadania. SDK rozwiązuje ją z required_files, więc prywatne koszyki S3 mogą używać podpisanego/proxy URL dostarczonego przez serwer zamiast publicznego URL.
draft_model_urlNie—Opcjonalny zewnętrzny adres HTTPS malutkiego modelu roboczego GGUF. Używany jako rozwiązanie zapasowe, gdy „Nazwa dołączonego pliku modelu roboczego” nie jest ustawiona lub brakuje jej w required_files.
speculative_max_draftNie8Górna granica liczby tokenów roboczych weryfikowanych w jednym bloku. Efektywna długość dostosowuje się do obserwowanego wskaźnika akceptacji.
min_remote_stagesNie0Diagnostyczne ustawienie rozmieszczenia do testów równoległości potokowej GGUF. Gdy > 0, punkt kontrolny jest przypisywany tylko do węzłów, które uruchomiłyby co najmniej tyle etapów przez WebRTC zamiast lokalnie. Po upływie okresu karencji peera punktu kontrolnego następuje powrót do zwykłego trybu, aby nie zagłodzić zadań produkcyjnych.
wire_hidden_dtypeNief16Typ danych ukrytych aktywacji między etapami potoku GGUF. f16 zmniejsza ładunek transmisji o połowę dla prefill i bloków spekulatywnych; f32 to diagnostyczne rozwiązanie zapasowe.
wire_hidden_codecNiefp16Eksperymentalny kodek dla wielotokenowych bloków ukrytych aktywacji między etapami potoku GGUF. Dekodowanie pojedynczego tokenu zachowuje tanią ścieżkę typu danych; kodeki ogólne są używane tylko dla bloków prefill/spekulatywnych, gdzie oszczędność bajtów może zrównoważyć koszt kodeka. fp16 jest najbezpieczniejszy; auto8/hq8 to diagnostyka.
stage_chainingNietrueGdy wszystkie etapy GGUF są zdalne i obsługują protokół łańcuchowy, ukryte aktywacje są wysyłane bezpośrednio z etapu do etapu, zamiast przekazywać każdą granicę przez koordynatora punktu kontrolnego.
latent_modeNieoffSoft Thinking / SwiReasoning bez treningu podczas <think>…</think>. Wymaga GGUF WASM z _lstage_eval_soft na hostach etapów; w przeciwnym razie wraca do dekodowania dyskretnego. Domyślnie wyłączone do czasu przebudowania WASM na CDN. Wzajemnie wykluczające się ze spekulacją, gdy Soft Thinking jest aktywne.
latent_phaseNietaggedtagged = znaczniki think; prefix = od kroku 0 (modele bez znaczników).
latent_exit_textNie Final answer: Używane tylko gdy latent_phase=prefix (zwykłe tokeny słownika).
latent_top_nNie15Soft top-n
latent_entropy_tauNie0.05Entropia τ Cold Stop
latent_cold_stop_kNie256Kolejne kroki Cold Stop
swi_dwell_windowNie512Czas przebywania Swi Explicit→Latent
swi_max_switchesNie8Maks. liczba przełączeń Swi Latent→Explicit
max_thinking_tokensNie1536Twardy budżet przed wymuszonym </think> / wyjściem z prefiksu. Musi pozostać wyraźnie poniżej `max_new_tokens`: budżet rozumowania równy lub większy od całkowitego budżetu generowania daje odpowiedź ucięta w połowie myśli, bez żadnego wyniku. Control plane ponownie przycina tę wartość do budżetu, na który stać wybrane rozmieszczenie, więc mniejsza wartość jest respektowana, a większa — ograniczana.
min_thinking_tokensNie0Dolny próg: maskuje </think> w próbkowaniu, dopóki nie powstanie tyle tokenów rozumowania. 0 wyłącza. Zapobiega zamknięciu bloku myślenia na pierwszym wygenerowanym tokenie i odpowiedzi bez żadnego rozumowania.
promptTak—Wiadomość użytkownika / prompt dla modelu czatu

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Odpytuj z tym samym kluczem API, aż status osiągnie stan końcowy (COMPLETED, FAILED, CANCELED lub MODERATION_BLOCKED). Gdy włączona jest moderacja treści, zadania mogą zaczynać się w stanie MODERATION_PENDING, zanim trafią do kolejki obliczeń. Ukończone zadania zawierają wstępnie podpisane wartości download_url przy każdym wyniku.

Odpowiedź na utworzenie

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Odpowiedź po ukończeniu

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}