LLM
Nemotron 3 Nano チャット
質問するか、短い文章作成を試してみましょう。最初のメッセージを送信するときにサインインします。
Licensed by NVIDIA Corporation under the NVIDIA Open Model License
モデルのライセンス
NVIDIA Nemotron 3 Nano IQ4_XS GGUF derivative · LicenseRef-NVIDIA-Open-Model-2025-10-24
NVIDIA Open Model License Agreement (24 October 2025). Keep the agreement and Notice with distributed model copies; comply with NVIDIA Trustworthy AI terms and retain applicable safeguards.
モデルを選択
メッセージを入力して「送信」を押すと、サインインして開始します。
スマートフォン向けサイズのチャットより大きなオープンモデル、NVIDIA Nemotron 3 Nano とチャットできます。接続したデバイスで無料の AI チャット。高性能なコンピューター1台で保持できますが、そうでない場合は、追加したマシンに処理が分割されます。テキスト専用です。最初のダウンロードは大きく、2回目以降のチャットはそれを再利用します。モデルは NVIDIA Open Model License に基づきます。
API リファレンス
REST で送信
個人用 API キー(msk_…)を使うと、ご自身のツールからこのワークロードのジョブを作成できます。この方法で開始したジョブは、あなたのデバイス で接続したのと同じデバイスで実行されます。少なくとも 1 台がオンラインである必要があります。
https://cp.meshlabs.cloud/v1/organizations/jobsX-Organization-Api-Key: msk_your_personal_api_key で認証します。ヘッダー名は組織キーと同じで、個人キーも同じエンドポイントを使用します。
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign を呼び出し、返された upload_url にファイルをアップロードしてから、job_spec に download_url を渡します(例:input_image_url として)。リクエストボディ
{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}job_spec のフィールド
| フィールド | 必須 | デフォルト | 説明 |
|---|---|---|---|
system_prompt | いいえ | — | 任意のシステムプロンプト |
enable_thinking | いいえ | true | 最終回答の前に思考・推論を有効にします。Nemotron-3 Nano のプライマーは ChatML の <think>/</think>(ID 12/13)で、推論のためにオンのままにしてください。temperature=1.0 / top_p=1.0 は、そのモードでのモデルカードの既定値です。 |
max_new_tokens | いいえ | 2048 | 生成するトークンの最大数(思考 + 回答)。長文の出力が必要なときは上げてください。プロンプトと生成はコンテキストウィンドウを共有するため、生成はステージのメモリ下限を増やさず、コンテキストの上限で停止します。 |
max_context | いいえ | 8192 | ステージホストが KV / リカレント状態として確保するトークンの合計(プロンプトと生成の合計)。上限は、Oracle がこのモデルで計測した最大のコンテキストで、配置が実測の裏付けを超えて外挿する必要が生じることはありません。値を上げると必要なメモリの下限が上がり、その分ジョブを実行できるデバイスが絞られます。 |
kv_hot_window | いいえ | 32768 | 物理的なアテンション KV は、最新の N トークンまでに制限されるため、N を超える長さの会話は、コンテキスト上限で停止する代わりに、最も古いターンを忘れます。0 ではコンテキスト全体が常駐します。コンテキストウィンドウ以上の値では何も変わりません(メモリもアテンションも同じ)。それより小さくすると、モデルはウィンドウの外を実際に見ることができないため、長距離の記憶と引き換えに、会話の長さを無制限にできます。 |
turns | いいえ | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | いいえ | 1 | Temperature |
top_p | いいえ | 1 | Top P |
top_k | いいえ | 20 | Top K |
presence_penalty | いいえ | 0 | Presence Penalty |
repetition_penalty | いいえ | 1 | Repetition Penalty |
seed | いいえ | — | 再現性のためのランダムシード |
speculative_ngram | いいえ | false | プロンプトルックアップ方式のドラフト: コンテキスト内で繰り返される n-gram をドラフトブロックとして再生し、モデルが1回のパスで検証するため、1回のネットワーク往復で複数のトークンを確定できます。追加のモデルは不要で、出力は逐次デコーディングと同一です。 |
speculative_draft_model | いいえ | false | チェックポイントノード上で小さな GGUF ドラフトモデルを実行し、ドラフトブロックを提案させます(「ドラフトモデルの同梱ファイル名」を推奨。外部 URL はフォールバックとして引き続き利用できます)。ドラフトモデルが利用できない場合は、n-gram ドラフトにフォールバックします。 |
draft_model_file | いいえ | — | このワークロードのバンドルに含まれる、非分割の GGUF ドラフトモデルのファイル名。SDK は required_files から解決するため、プライベートな S3 バケットでも、公開 URL の代わりにサーバーが提供する署名付き / プロキシ URL を使えます。 |
draft_model_url | いいえ | — | 小さな GGUF ドラフトモデルの外部 HTTPS URL(任意)。「ドラフトモデルの同梱ファイル名」がない場合、または required_files にない場合のフォールバックとして使われます。 |
speculative_max_draft | いいえ | 8 | ブロックごとに検証されるドラフトトークン数の上限。実際の長さは、観測された受理率に応じて調整されます。 |
min_remote_stages | いいえ | 0 | GGUF パイプライン並列のテスト用の診断的な配置設定。0 より大きい場合、チェックポイントは、ローカルではなく WebRTC 経由で少なくともこの数のステージを実行するノードにのみ割り当てられます。本番のジョブが滞らないよう、チェックポイントのピアの猶予期間の後はフォールバックします。 |
wire_hidden_dtype | いいえ | f16 | GGUF パイプラインステージ間の隠れ活性化の dtype。f16 はプリフィルと投機ブロックのワイヤのペイロードを半分にし、f32 は診断用のフォールバックです。 |
wire_hidden_codec | いいえ | fp16 | GGUF パイプラインステージ間の、複数トークンの隠れ活性化ブロック向けの実験的なコーデック。1トークンのデコードは軽量な dtype の経路を維持し、汎用コーデックは、バイト削減がコーデックのコストを上回りうるプリフィルと投機ブロックにのみ使用されます。fp16 が最も安全で、auto8/hq8 は診断用です。 |
stage_chaining | いいえ | true | すべての GGUF ステージがリモートでチェーンプロトコルに対応している場合、各境界をチェックポイントコーディネーター経由で中継する代わりに、隠れ活性化をステージ間で直接送信します。 |
latent_mode | いいえ | off | <think>…</think> の間の、学習不要の Soft Thinking / SwiReasoning。ステージホストに _lstage_eval_soft を備えた GGUF WASM が必要で、ない場合は離散デコードにフォールバックします。CDN の WASM が再ビルドされるまでは既定でオフです。Soft Thinking が有効な場合は、投機的デコーディングと同時には使えません。 |
latent_phase | いいえ | tagged | tagged = 思考マーカーを使用。prefix = ステップ 0 から(マーカーのないモデル用)。 |
latent_exit_text | いいえ | Final answer: | latent_phase=prefix の場合にのみ使用されます(通常の語彙トークン)。 |
latent_top_n | いいえ | 15 | Soft top-n |
latent_entropy_tau | いいえ | 0.05 | Cold Stop エントロピー τ |
latent_cold_stop_k | いいえ | 256 | Cold Stop 連続ステップ数 |
swi_dwell_window | いいえ | 512 | Swi 明示→潜在の滞留 |
swi_max_switches | いいえ | 8 | Swi 潜在→明示の最大切り替え回数 |
max_thinking_tokens | いいえ | 1536 | 強制的な </think> / プレフィックス終了までのハード上限。`max_new_tokens` を十分に下回る値にしてください。推論の予算が生成の総予算以上になると、思考の途中で打ち切られて回答がまったく得られない返信になります。コントロールプレーンは、選択された配置が実際に確保できる予算からこの値を再計算するため、小さい値はそのまま採用され、大きい値は上限に丸められます。 |
min_thinking_tokens | いいえ | 0 | 下限: この数の推論トークンが生成されるまで、</think> をサンプリングから除外します。0 で無効。最初に生成されたトークンで think ブロックが閉じ、推論なしで回答してしまうのを防ぎます。 |
prompt | はい | — | チャットモデルへのユーザーメッセージ / プロンプト |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "nemotron3-nano-30b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}status が終了状態(COMPLETED、FAILED、CANCELED、MODERATION_BLOCKED)になるまで、同じ API キーでポーリングします。コンテンツモデレーションが有効な場合、ジョブはコンピュートキューに入る前に MODERATION_PENDING から始まることがあります。完了したジョブには、各出力に署名済みの download_url の値が含まれます。
作成時のレスポンス
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}完了時のレスポンス
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "nemotron3-nano-30b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 1,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}