LLM
Nemotron 3 Nano Chat
Faça uma pergunta ou experimente uma tarefa curta de escrita. Você entra na conta ao enviar sua primeira mensagem.
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
Licenças do modelo
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
Selecionar modelo
Modelo atual:
Nemotron 3 Nano Chat
Qualidade da saída: 50%
A melhor qualidade que o seu dispositivo consegue executar. Adicione mais dispositivos para terminar mais rápido.
Escreva sua mensagem e pressione Enviar para entrar e começar.
Converse com o NVIDIA Nemotron 3 Nano, um modelo aberto maior que os chats do tamanho de um celular. Chat de IA grátis nos dispositivos que você conecta. Um computador potente consegue mantê-lo inteiro; caso contrário, o trabalho se divide entre as máquinas que você adicionar. Apenas texto. O primeiro download é grande, e as conversas seguintes o reutilizam. O modelo está sob a NVIDIA Open Model License.
Referência da API
Enviar via REST
Use sua chave de API pessoal (msk_…) para criar tarefas desta carga de trabalho a partir das suas próprias ferramentas. As tarefas iniciadas dessa forma rodam nos mesmos dispositivos que você conectou em Seus dispositivos — pelo menos um deles precisa estar online.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentique-se com X-Organization-Api-Key: msk_your_personal_api_key. O nome do cabeçalho é o mesmo das chaves de organização; as chaves pessoais usam o mesmo endpoint.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign com a mesma chave de API, envie seu arquivo para o upload_url retornado e depois passe download_url em job_spec (por exemplo, como input_image_url).Corpo da solicitação
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Campos de job_spec
| Campo | Obrigatório | Padrão | Descrição |
|---|---|---|---|
system_prompt | Não | — | Prompt de sistema opcional |
enable_thinking | Não | true | Ativa o raciocínio (thinking) antes da resposta final. Os primers do Nemotron-3 Nano são ChatML <think>/</think> (ids 12/13); deixe ativado para raciocínio. temperature=1.0 / top_p=1.0 são os padrões do card para esse modo. |
max_new_tokens | Não | 2048 | Máximo de tokens gerados (raciocínio + resposta). Aumente para saídas longas. O prompt e a geração compartilham a janela de contexto, então a geração para no contexto em vez de aumentar o piso de memória do estágio. |
max_context | Não | 8192 | Total de tokens para os quais os hosts de estágio alocam estado KV/recorrente — prompt mais geração. O teto é o maior contexto com que o Oracle mediu este modelo, de modo que o posicionamento nunca precise extrapolar além das evidências. Aumentá-lo eleva o piso de memória e, portanto, reduz os dispositivos que podem executar o trabalho. |
kv_hot_window | Não | 32768 | O KV de atenção físico é limitado aos N tokens mais recentes, de modo que uma conversa maior que N esquece os turnos mais antigos em vez de parar no limite de contexto. 0 mantém todo o contexto residente. Igual ou abaixo da janela de contexto, isso não muda nada — mesma memória, mesma atenção — e reduzi-lo abaixo dela troca memória de longo alcance por um tamanho de conversa ilimitado, porque o modelo realmente não enxerga além da janela. |
turns | Não | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Não | 1 | Temperature |
top_p | Não | 1 | Top P |
top_k | Não | 20 | Top K |
presence_penalty | Não | 0 | Presence Penalty |
repetition_penalty | Não | 1 | Repetition Penalty |
seed | Não | — | Seed aleatória para reprodutibilidade |
speculative_ngram | Não | false | Rascunho por consulta ao prompt: n-gramas repetidos do contexto são reaproveitados como blocos de rascunho e verificados pelo modelo em UMA passagem, de modo que uma única ida e volta de rede pode confirmar vários tokens. Sem modelo extra; a saída é idêntica à decodificação sequencial. |
speculative_draft_model | Não | false | Executa um pequeno modelo de rascunho GGUF no nó de checkpoint para propor blocos de rascunho (prefira 'Draft model bundled filename'; a URL externa continua disponível como alternativa). Recorre ao rascunho por n-gramas quando o modelo de rascunho não está disponível. |
draft_model_file | Não | — | Nome do arquivo de um modelo de rascunho GGUF não particionado neste pacote do workload. O SDK o resolve a partir de required_files, de modo que buckets S3 privados podem usar a URL assinada/proxy fornecida pelo servidor em vez de uma URL pública. |
draft_model_url | Não | — | URL HTTPS externa opcional do pequeno modelo de rascunho GGUF. Usada como alternativa quando 'Draft model bundled filename' está ausente ou não consta em required_files. |
speculative_max_draft | Não | 8 | Limite superior de tokens de rascunho verificados por bloco. O tamanho efetivo se adapta à taxa de aceitação observada. |
min_remote_stages | Não | 0 | Controle diagnóstico de posicionamento para testes de pipeline paralelo GGUF. Quando > 0, o checkpoint é atribuído apenas a nós que executariam pelo menos essa quantidade de estágios via WebRTC em vez de localmente. Recorre a outra opção após a janela de tolerância do par de checkpoint, para não deixar trabalhos de produção sem atendimento. |
wire_hidden_dtype | Não | f16 | Tipo de dado das ativações ocultas entre estágios do pipeline GGUF. f16 reduz à metade a carga transmitida em prefill e blocos especulativos; f32 é uma alternativa de diagnóstico. |
wire_hidden_codec | Não | fp16 | Codec experimental para blocos de ativações ocultas de vários tokens entre estágios do pipeline GGUF. A decodificação de um único token mantém o caminho barato de tipo de dado; codecs genéricos são usados apenas em blocos de prefill/especulativos, onde a economia de bytes pode compensar o custo do codec. fp16 é o mais seguro; auto8/hq8 são diagnósticos. |
stage_chaining | Não | true | Quando todos os estágios GGUF são remotos e oferecem suporte ao protocolo de cadeia, envia as ativações ocultas diretamente de estágio para estágio, em vez de retransmitir cada fronteira pelo coordenador de checkpoint. |
latent_mode | Não | off | Soft Thinking / SwiReasoning sem treinamento durante <think>…</think>. Requer GGUF WASM com _lstage_eval_soft nos hosts de estágio; caso contrário, recorre à decodificação discreta. Desligado por padrão até que o WASM do CDN seja reconstruído. Mutuamente exclusivo com a especulação quando o Soft Thinking está ativo. |
latent_phase | Não | tagged | tagged = marcadores think; prefix = desde o passo 0 (modelos sem marcadores). |
latent_exit_text | Não | Final answer: | Usado apenas com latent_phase=prefix (tokens comuns do vocabulário). |
latent_top_n | Não | 15 | Soft top-n |
latent_entropy_tau | Não | 0.05 | Entropia τ do Cold Stop |
latent_cold_stop_k | Não | 256 | Passos consecutivos do Cold Stop |
swi_dwell_window | Não | 512 | Permanência Swi Explicit→Latent |
swi_max_switches | Não | 8 | Máximo de trocas Swi Latent→Explicit |
max_thinking_tokens | Não | 1536 | Orçamento rígido antes do </think> forçado / saída do prefixo. Deve ficar bem abaixo de `max_new_tokens`: um orçamento de raciocínio igual ou superior ao orçamento total de geração produz uma resposta cortada no meio do raciocínio, sem nenhuma resposta. O plano de controle recalcula este valor a partir do orçamento que o posicionamento escolhido consegue de fato suportar; assim, um valor menor é respeitado e um maior é limitado. |
min_thinking_tokens | Não | 0 | Piso: mascara </think> da amostragem até que existam essa quantidade de tokens de raciocínio. 0 desativa. Impede que um bloco de raciocínio se feche no primeiro token gerado e responda sem nenhum raciocínio. |
prompt | Sim | — | Mensagem / prompt do usuário para o modelo de chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Consulte com a mesma chave de API até que status seja final (COMPLETED, FAILED, CANCELED ou MODERATION_BLOCKED). Quando a moderação de conteúdo está habilitada, as tarefas podem começar em MODERATION_PENDING antes de entrar na fila de computação. As tarefas concluídas incluem valores download_url pré-assinados em cada saída.
Resposta de criação
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Resposta de conclusão
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}