LLM
Nemotron 3 Nano 채팅
질문하거나 짧은 글쓰기 작업을 시도해 보세요. 첫 메시지를 보낼 때 로그인합니다.
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
모델 라이선스
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
모델 선택
메시지를 작성하고 보내기를 누르면 로그인 후 시작됩니다.
휴대폰 크기의 채팅 모델보다 큰 오픈 모델인 NVIDIA Nemotron 3 Nano와 채팅해 보세요. 연결한 기기에서 무료 AI 채팅을 이용할 수 있습니다. 성능 좋은 컴퓨터 한 대가 모델 전체를 담을 수 있고, 그렇지 않으면 추가한 기기들에 작업이 나뉩니다. 텍스트 전용입니다. 첫 다운로드 용량이 크며 이후 채팅은 이를 재사용합니다. 모델은 NVIDIA Open Model License를 따릅니다.
API 레퍼런스
REST로 제출
개인 API 키(msk_…)를 사용하여 내 도구에서 이 워크로드의 작업을 생성하세요. 이렇게 시작한 작업은 내 기기에서 연결한 기기와 동일한 기기에서 실행되며, 최소 한 대는 온라인이어야 합니다.
https://cp.meshlabs.cloud/v1/organizations/jobsX-Organization-Api-Key: msk_your_personal_api_key로 인증합니다. 헤더 이름은 조직 키와 같으며, 개인 키도 같은 엔드포인트를 사용합니다.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign을(를) 호출하고, 반환된 upload_url에 파일을 업로드한 다음, job_spec에 download_url을(를) 전달하세요(예: input_image_url로).요청 본문
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}job_spec 필드
| 필드 | 필수 | 기본값 | 설명 |
|---|---|---|---|
system_prompt | 아니요 | — | 선택 사항인 시스템 프롬프트 |
enable_thinking | 아니요 | true | 최종 답변 전에 사고/추론 과정을 사용합니다. Nemotron-3 Nano의 프라이머는 ChatML <think>/</think>(ID 12/13)이며 추론을 위해 켜 두세요. temperature=1.0 / top_p=1.0은 해당 모드의 모델 카드 기본값입니다. |
max_new_tokens | 아니요 | 2048 | 생성할 최대 토큰 수입니다(사고 + 답변). 긴 출력이 필요하면 높이세요. 프롬프트와 생성이 컨텍스트 윈도우를 공유하므로, 생성은 스테이지의 메모리 최소 요구량을 늘리지 않고 컨텍스트에서 멈춥니다. |
max_context | 아니요 | 8192 | 스테이지 호스트가 KV/순환 상태를 할당하는 전체 토큰 수로, 프롬프트와 생성 분량을 합한 값입니다. 상한은 Oracle이 이 모델에서 측정한 가장 큰 컨텍스트이므로, 배치가 측정된 근거를 넘어 추정할 필요가 없습니다. 값을 높이면 메모리 최소 요구량이 올라가 작업을 실행할 수 있는 기기가 줄어듭니다. |
kv_hot_window | 아니요 | 32768 | 물리적 어텐션 KV는 가장 최근 N개 토큰으로 제한되므로, N보다 긴 대화는 컨텍스트 한도에서 멈추지 않고 가장 오래된 턴을 잊어버립니다. 0이면 전체 컨텍스트를 메모리에 상주시킵니다. 컨텍스트 윈도우 이하에서는 아무것도 바뀌지 않으며 메모리도 어텐션도 동일합니다. 윈도우보다 낮추면 모델이 실제로 윈도우 밖을 볼 수 없으므로, 장거리 기억력을 포기하는 대신 대화 길이를 무제한으로 이어갈 수 있습니다. |
turns | 아니요 | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | 아니요 | 1 | Temperature |
top_p | 아니요 | 1 | Top P |
top_k | 아니요 | 20 | Top K |
presence_penalty | 아니요 | 0 | Presence Penalty |
repetition_penalty | 아니요 | 1 | Repetition Penalty |
seed | 아니요 | — | 재현을 위한 랜덤 시드 |
speculative_ngram | 아니요 | false | 프롬프트 룩업 드래프팅: 컨텍스트에서 반복되는 n-gram을 초안 블록으로 재사용하고 모델이 한 번의 패스로 검증하므로, 한 번의 네트워크 왕복으로 여러 토큰을 확정할 수 있습니다. 추가 모델이 필요 없으며 출력은 순차 디코딩과 동일합니다. |
speculative_draft_model | 아니요 | false | 체크포인트 노드에서 작은 GGUF 드래프트 모델을 실행해 초안 블록을 제안합니다('드래프트 모델 번들 파일 이름' 우선, 외부 URL은 대체 수단으로 계속 사용 가능). 드래프트 모델을 사용할 수 없으면 n-gram 드래프팅으로 전환됩니다. |
draft_model_file | 아니요 | — | 이 워크로드 번들에 포함된 비분할 GGUF 드래프트 모델의 파일 이름입니다. SDK가 required_files에서 이를 찾아 해석하므로, 비공개 S3 버킷은 공개 URL 대신 서버가 제공하는 서명/프록시 URL을 사용할 수 있습니다. |
draft_model_url | 아니요 | — | 작은 GGUF 드래프트 모델의 선택적 외부 HTTPS URL입니다. '드래프트 모델 번들 파일 이름'이 없거나 required_files에 없을 때 대체 수단으로 사용됩니다. |
speculative_max_draft | 아니요 | 8 | 블록마다 검증하는 드래프트 토큰 수의 상한입니다. 실제 길이는 관측된 수락률에 맞춰 조정됩니다. |
min_remote_stages | 아니요 | 0 | GGUF 파이프라인 병렬 테스트를 위한 진단용 배치 설정입니다. 0보다 크면 체크포인트가 로컬이 아닌 WebRTC를 통해 이 개수 이상의 스테이지를 실행하는 노드에만 배정됩니다. 프로덕션 작업이 굶지 않도록 체크포인트 피어 유예 시간이 지나면 일반 배치로 전환됩니다. |
wire_hidden_dtype | 아니요 | f16 | GGUF 파이프라인 스테이지 사이의 hidden 활성화 dtype입니다. f16은 프리필 및 추측 블록의 와이어 페이로드를 절반으로 줄이며, f32는 진단용 대체 옵션입니다. |
wire_hidden_codec | 아니요 | fp16 | GGUF 파이프라인 스테이지 사이의 다중 토큰 hidden 활성화 블록을 위한 실험적 코덱입니다. 단일 토큰 디코드는 가벼운 dtype 경로를 유지하며, 범용 코덱은 바이트 절감이 코덱 비용을 상쇄할 수 있는 프리필/추측 블록에만 사용됩니다. fp16이 가장 안전하며 auto8/hq8은 진단용입니다. |
stage_chaining | 아니요 | true | 모든 GGUF 스테이지가 원격이고 체인 프로토콜을 지원하면, 각 경계를 체크포인트 코디네이터를 거쳐 중계하지 않고 hidden 활성화를 스테이지끼리 직접 전달합니다. |
latent_mode | 아니요 | off | <think>…</think> 동안 학습이 필요 없는 Soft Thinking / SwiReasoning을 사용합니다. 스테이지 호스트에 _lstage_eval_soft가 있는 GGUF WASM이 필요하며, 그렇지 않으면 이산 디코드로 전환됩니다. CDN WASM이 다시 빌드될 때까지 기본값은 꺼짐입니다. Soft Thinking이 활성화되어 있으면 추측 디코딩과 함께 사용할 수 없습니다. |
latent_phase | 아니요 | tagged | tagged = 사고 마커 사용, prefix = 0단계부터 시작(마커가 없는 모델). |
latent_exit_text | 아니요 | Final answer: | latent_phase=prefix일 때만 사용됩니다(일반 어휘 토큰). |
latent_top_n | 아니요 | 15 | Soft top-n |
latent_entropy_tau | 아니요 | 0.05 | Cold Stop 엔트로피 τ |
latent_cold_stop_k | 아니요 | 256 | Cold Stop 연속 단계 수 |
swi_dwell_window | 아니요 | 512 | Swi 명시→잠재 체류 |
swi_max_switches | 아니요 | 8 | Swi 최대 잠재→명시 전환 횟수 |
max_thinking_tokens | 아니요 | 1536 | 강제 </think> / 프리픽스 종료 전의 하드 예산입니다. `max_new_tokens`보다 의미 있게 작아야 합니다. 추론 예산이 전체 생성 예산 이상이면 답변 없이 생각 도중에 잘린 응답이 나옵니다. 컨트롤 플레인은 선택된 배치가 실제로 감당할 수 있는 예산을 기준으로 이 값을 다시 조정하므로, 더 작은 값은 그대로 적용되고 더 큰 값은 상한에 맞춰 줄어듭니다. |
min_thinking_tokens | 아니요 | 0 | 하한: 추론 토큰이 이 개수만큼 생길 때까지 </think>를 샘플링에서 제외합니다. 0이면 비활성화됩니다. 첫 번째 생성 토큰에서 사고 블록이 닫혀 추론 없이 바로 답하는 일을 막습니다. |
prompt | 예 | — | 채팅 모델에 보내는 사용자 메시지/프롬프트 |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}status이(가) 최종 상태(COMPLETED, FAILED, CANCELED 또는 MODERATION_BLOCKED)가 될 때까지 같은 API 키로 폴링하세요. 콘텐츠 검토가 활성화된 경우, 작업은 컴퓨팅 대기열에 들어가기 전에 MODERATION_PENDING 상태로 시작할 수 있습니다. 완료된 작업의 각 출력에는 사전 서명된 download_url 값이 포함됩니다.
생성 응답
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}완료 응답
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}