LLM

Чат Nemotron 3 Nano

Поставте запитання або спробуйте коротке завдання з написання тексту. Увійдете, коли надішлете перше повідомлення.

Licensed by NVIDIA Corporation under the NVIDIA Open Model License

Ліцензії моделі

NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24

NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.

Додана ліцензія

Повідомлення

БезкоштовноОнлайнБез обмеженьLicensed by NVIDIA Corporation under the NVIDIA Open Model License Доступ через API

Коли будете готові.

Напишіть повідомлення й натисніть «Надіслати», щоб увійти й почати.

Спілкуйтеся з NVIDIA Nemotron 3 Nano — більшою відкритою моделлю, ніж чати розміру для телефона. Безкоштовний AI чат на підключених вами пристроях. Один потужний комп’ютер може вмістити її повністю; інакше робота розподіляється між доданими вами машинами. Лише текст. Перше завантаження велике, наступні чати використовують його повторно. Модель діє за NVIDIA Open Model License.

Довідник API

Надсилання через REST

Використовуйте свій особистий ключ API (msk_…), щоб створювати завдання для цього навантаження з власних інструментів. Завдання, запущені так, виконуються на тих самих пристроях, які ви під’єднали на сторінці Ваші пристрої, — принаймні один має бути в мережі.

Приховати деталі API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Автентифікуйтеся за допомогою X-Organization-Api-Key: msk_your_personal_api_key. Назва заголовка така сама, як для ключів організації; особисті ключі використовують ту саму кінцеву точку.

Вхідні файли:Викличте POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign з тим самим ключем API, завантажте файл на повернутий upload_url, а потім передайте download_url у job_spec (наприклад, як input_image_url).

Тіло запиту

{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Поля job_spec

ПолеОбов’язковеЗа замовчуваннямОпис
system_promptНі—Необов’язковий системний запит
enable_thinkingНіtrueУвімкнути міркування перед остаточною відповіддю. Праймери Nemotron-3 Nano — це ChatML <think>/</think> (id 12/13); залиште ввімкненим для міркувань. temperature=1.0 / top_p=1.0 — значення за замовчуванням з картки моделі для цього режиму.
max_new_tokensНі2048Максимальна кількість згенерованих токенів (міркування + відповідь). Збільште для довгих текстів. Запит і генерація ділять вікно контексту, тож генерація зупиняється на межі контексту, а не збільшує нижню межу пам’яті етапу.
max_contextНі8192Загальна кількість токенів, для яких вузли етапів виділяють стан KV/рекурентний стан, — запит плюс генерація. Верхня межа — найбільший контекст, на якому Oracle виміряв цю модель, тож розміщенню не доводиться екстраполювати поза межі підтверджених даних. Збільшення цього значення підвищує нижню межу пам’яті й відповідно звужує коло пристроїв, які можуть виконати завдання.
kv_hot_windowНі32768Фізичний KV уваги обмежується найновішими N токенами, тож розмова довша за N забуває найстаріші репліки, а не зупиняється на межі контексту. 0 зберігає весь контекст у пам’яті. На рівні вікна контексту або нижче нічого не змінюється — та сама пам’ять, та сама увага — а зниження нижче вікна контексту міняє довгострокову пам’ять на необмежену довжину розмови, бо модель справді не бачить далі за вікно.
turnsНі—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureНі1Temperature
top_pНі1Top P
top_kНі20Top K
presence_penaltyНі0Presence Penalty
repetition_penaltyНі1Repetition Penalty
seedНі—Випадкове значення seed для відтворюваності
speculative_ngramНіfalseЧернетування за пошуком у запиті: повторювані n-грами з контексту відтворюються як чернеткові блоки й перевіряються моделлю за ОДИН прохід, тож один мережевий обмін може зафіксувати кілька токенів. Додаткової моделі немає; результат ідентичний послідовному декодуванню.
speculative_draft_modelНіfalseЗапустіть крихітну чернеткову модель GGUF на вузлі з контрольною точкою, щоб пропонувати чернеткові блоки (віддавайте перевагу «Ім’ю вбудованого файлу чернеткової моделі»; зовнішній URL залишається запасним варіантом). Якщо чернеткова модель недоступна, відкочується до n-грамного чернетування.
draft_model_fileНі—Ім’я файлу нерозділеної чернеткової моделі GGUF у пакеті цього навантаження. SDK визначає його з required_files, тож приватні S3-бакети можуть використовувати підписаний/проксі-URL, наданий сервером, замість публічного URL.
draft_model_urlНі—Необов’язковий зовнішній HTTPS URL крихітної чернеткової моделі GGUF. Використовується як запасний варіант, коли «Ім’я вбудованого файлу чернеткової моделі» відсутнє або не зазначене в required_files.
speculative_max_draftНі8Верхня межа кількості чернеткових токенів, що перевіряються за один блок. Фактична довжина підлаштовується під спостережуваний рівень прийняття.
min_remote_stagesНі0Діагностичний параметр розміщення для тестування конвеєрного паралелізму GGUF. Якщо > 0, контрольна точка призначається лише вузлам, які виконували б щонайменше стільки етапів через WebRTC, а не локально. Після пільгового вікна для вузла контрольної точки відкочується, щоб не блокувати робочі завдання.
wire_hidden_dtypeНіf16Тип даних прихованої активації між етапами конвеєра GGUF. f16 удвічі зменшує корисне навантаження для prefill і спекулятивних блоків; f32 — діагностичний запасний варіант.
wire_hidden_codecНіfp16Експериментальний кодек для багатотокенових блоків прихованих активацій між етапами конвеєра GGUF. Декодування одного токена зберігає дешевий шлях за типом даних; загальні кодеки використовуються лише для prefill/спекулятивних блоків, де економія байтів може компенсувати вартість кодека. fp16 — найбезпечніший; auto8/hq8 — діагностичні.
stage_chainingНіtrueКоли всі етапи GGUF віддалені й підтримують протокол ланцюжка, надсилати приховані активації безпосередньо від етапу до етапу, а не пересилати кожну межу через координатор контрольної точки.
latent_modeНіoffSoft Thinking / SwiReasoning без навчання під час <think>…</think>. Потрібен GGUF WASM із _lstage_eval_soft на вузлах етапів; інакше відкочується до дискретного декодування. За замовчуванням вимкнено, доки не перебудовано CDN WASM. Взаємно виключається зі спекуляцією, коли активний Soft Thinking.
latent_phaseНіtaggedtagged = маркери think; prefix = з кроку 0 (моделі без маркерів).
latent_exit_textНі Final answer: Використовується лише за latent_phase=prefix (звичайні токени словника).
latent_top_nНі15Soft top-n
latent_entropy_tauНі0.05Ентропія Cold Stop τ
latent_cold_stop_kНі256Послідовні кроки Cold Stop
swi_dwell_windowНі512Витримка Swi Explicit→Latent
swi_max_switchesНі8Макс. перемикань Swi Latent→Explicit
max_thinking_tokensНі1536Жорсткий бюджет до примусового </think> / виходу за префіксом. Має залишатися помітно меншим за `max_new_tokens`: бюджет міркування, що дорівнює загальному бюджету генерації або перевищує його, дає відповідь, обірвану посеред думки, без жодної остаточної відповіді. Керівний сервер заново обчислює це з бюджету, який може собі дозволити обране розміщення, тож менше значення враховується, а більше — обмежується.
min_thinking_tokensНі0Нижня межа: маскувати </think> під час семплування, доки не набереться стільки токенів міркування. 0 вимикає. Не дає блоку think закритися на першому згенерованому токені й відповісти без жодних міркувань.
promptТак—Повідомлення користувача / запит для чат-моделі

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Опитуйте з тим самим ключем API, доки status не стане кінцевим (COMPLETED, FAILED, CANCELED або MODERATION_BLOCKED). Коли ввімкнено модерацію вмісту, завдання можуть починатися в стані MODERATION_PENDING, перш ніж потрапити в чергу обчислень. Завершені завдання містять попередньо підписані значення download_url для кожного результату.

Відповідь на створення

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Відповідь після завершення

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "nemotron3-nano-30b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 1,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}