LLM
Чат Nemotron 3 Nano
Задайте вопрос или попробуйте короткое задание на письмо. Войти нужно будет при отправке первого сообщения.
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
Лицензии модели
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
Выбор модели
Текущая модель:
Чат Nemotron 3 Nano
Качество результата: 50%
Наилучшее качество, которое может запустить ваше устройство. Добавьте ещё устройств, чтобы задания завершались быстрее.
Напишите сообщение и нажмите «Отправить», чтобы войти и начать.
Общайтесь с NVIDIA Nemotron 3 Nano — открытой моделью крупнее, чем чаты размером под телефон. Бесплатный ИИ-чат на подключённых вами устройствах. Один мощный компьютер может вместить модель целиком, а иначе работа делится между добавленными вами машинами. Только текст. Первая загрузка большая, последующие чаты используют её повторно. Модель распространяется по лицензии NVIDIA Open Model License.
Справочник API
Отправка через REST
Используйте свой личный ключ API (msk_…), чтобы создавать задания для этой рабочей нагрузки из собственных инструментов. Запущенные так задания выполняются на тех же устройствах, которые вы подключили в разделе Ваши устройства, — хотя бы одно из них должно быть в сети.
https://cp.meshlabs.cloud/v1/organizations/jobsАутентификация с помощью X-Organization-Api-Key: msk_your_personal_api_key. Имя заголовка совпадает с ключами организации; личные ключи используют ту же конечную точку.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign с тем же ключом API, загрузите файл по полученному upload_url, затем передайте download_url в job_spec (например, как input_image_url).Тело запроса
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Поля job_spec
| Поле | Обязательное | По умолчанию | Описание |
|---|---|---|---|
system_prompt | Нет | — | Необязательный системный промпт |
enable_thinking | Нет | true | Включить размышление (рассуждение) перед окончательным ответом. Для Nemotron-3 Nano используются праймеры ChatML <think>/</think> (id 12/13); оставьте включённым для рассуждений. temperature=1.0 / top_p=1.0 — значения по умолчанию из карточки модели для этого режима. |
max_new_tokens | Нет | 2048 | Максимальное число генерируемых токенов (размышление + ответ). Увеличьте для длинных ответов. Запрос и генерация делят окно контекста, поэтому генерация останавливается на границе контекста, а не увеличивает минимальный объём памяти этапа. |
max_context | Нет | 8192 | Общее число токенов, под которое хосты этапов выделяют состояние KV/рекуррентное состояние, — запрос плюс генерация. Верхняя граница — наибольший контекст, на котором Oracle измерил эту модель, поэтому размещению не приходится экстраполировать за пределы подтверждённых данных. Увеличение этого значения повышает минимальный объём памяти и сужает круг устройств, способных выполнить задачу. |
kv_hot_window | Нет | 32768 | Физический KV внимания ограничен последними N токенами, поэтому диалог длиннее N забывает самые старые реплики, а не останавливается на пределе контекста. 0 оставляет весь контекст в памяти. При значении, равном окну контекста или меньше него, ничего не меняется — та же память, то же внимание, — а уменьшение ниже окна контекста обменивает дальнюю память на неограниченную длину диалога, потому что модель действительно не видит ничего за пределами окна. |
turns | Нет | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Нет | 1 | Temperature |
top_p | Нет | 1 | Top P |
top_k | Нет | 20 | Top K |
presence_penalty | Нет | 0 | Presence Penalty |
repetition_penalty | Нет | 1 | Repetition Penalty |
seed | Нет | — | Случайное зерно (seed) для воспроизводимости |
speculative_ngram | Нет | false | Черновики по принципу поиска в промпте: повторяющиеся n-граммы из контекста воспроизводятся как черновые блоки, а модель проверяет их за ОДИН проход, поэтому за одно сетевое обращение можно зафиксировать несколько токенов. Дополнительная модель не нужна; результат идентичен последовательному декодированию. |
speculative_draft_model | Нет | false | Запускает крошечную черновую модель GGUF на узле контрольной точки, чтобы предлагать черновые блоки (лучше использовать «Имя файла встроенной черновой модели»; внешний URL остаётся запасным вариантом). Если черновая модель недоступна, используются черновики на n-граммах. |
draft_model_file | Нет | — | Имя файла нефрагментированной черновой модели GGUF в пакете этой задачи. SDK находит её по required_files, поэтому для приватных бакетов S3 можно использовать подписанный/прокси-URL от сервера вместо публичного. |
draft_model_url | Нет | — | Необязательный внешний HTTPS-URL крошечной черновой модели GGUF. Используется как запасной вариант, если «Имя файла встроенной черновой модели» не указано или отсутствует в required_files. |
speculative_max_draft | Нет | 8 | Верхняя граница числа черновых токенов, проверяемых в одном блоке. Фактическая длина подстраивается под наблюдаемую долю принятых токенов. |
min_remote_stages | Нет | 0 | Диагностический параметр размещения для тестирования конвейерного параллелизма GGUF. Если значение больше 0, контрольная точка назначается только узлам, которые будут выполнять не менее этого числа этапов по WebRTC, а не локально. После окна ожидания пира контрольной точки происходит возврат к обычному поведению, чтобы не оставлять боевые задачи без выполнения. |
wire_hidden_dtype | Нет | f16 | Тип данных скрытых активаций между этапами конвейера GGUF. f16 вдвое уменьшает объём передаваемых данных при префилле и спекулятивных блоках; f32 — диагностический запасной вариант. |
wire_hidden_codec | Нет | fp16 | Экспериментальный кодек для блоков скрытых активаций из нескольких токенов между этапами конвейера GGUF. Декодирование по одному токену использует дешёвый путь с типом данных; универсальные кодеки применяются только к блокам префилла и спекулятивным блокам, где экономия байтов может окупить стоимость кодека. fp16 — самый безопасный; auto8/hq8 — диагностические. |
stage_chaining | Нет | true | Когда все этапы GGUF удалённые и поддерживают протокол цепочки, скрытые активации отправляются напрямую от этапа к этапу, а не пересылаются на каждой границе через координатор контрольной точки. |
latent_mode | Нет | off | Soft Thinking / SwiReasoning без дообучения внутри <think>…</think>. Требует GGUF WASM с _lstage_eval_soft на хостах этапов; иначе происходит возврат к дискретному декодированию. По умолчанию выключено, пока не пересобран WASM в CDN. Взаимоисключающе со спекулятивным декодированием, когда активен Soft Thinking. |
latent_phase | Нет | tagged | tagged = маркеры размышления; prefix = с шага 0 (модели без маркеров). |
latent_exit_text | Нет | Final answer: | Используется только при latent_phase=prefix (обычные токены словаря). |
latent_top_n | Нет | 15 | Soft top-n |
latent_entropy_tau | Нет | 0.05 | Энтропия τ Cold Stop |
latent_cold_stop_k | Нет | 256 | Число последовательных шагов Cold Stop |
swi_dwell_window | Нет | 512 | Время пребывания Swi Explicit→Latent |
swi_max_switches | Нет | 8 | Максимум переключений Swi Latent→Explicit |
max_thinking_tokens | Нет | 1536 | Жёсткий бюджет до принудительного </think> / выхода из префикса. Значение должно оставаться заметно ниже `max_new_tokens`: если бюджет рассуждений равен общему бюджету генерации или превышает его, ответ обрывается на полуслове и ответа нет вовсе. Управляющий сервер пересчитывает это значение исходя из бюджета, который выбранное размещение реально может обеспечить: меньшее значение учитывается, а большее ограничивается. |
min_thinking_tokens | Нет | 0 | Нижняя граница: </think> исключается из семплирования, пока не накопится столько токенов рассуждения. 0 отключает. Не даёт блоку размышления закрыться на первом же сгенерированном токене и ответить вообще без рассуждений. |
prompt | Да | — | Сообщение пользователя / запрос для чат-модели |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Опрашивайте с тем же ключом API, пока status не перейдёт в конечное состояние (COMPLETED, FAILED, CANCELED или MODERATION_BLOCKED). Если включена модерация контента, задания могут начинаться в состоянии MODERATION_PENDING, прежде чем попасть в вычислительную очередь. Выполненные задания содержат предподписанные значения download_url для каждого результата.
Ответ на создание
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Ответ по завершении
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}