LLM
Qwen3.8 27B Q6 — コーディングチャット
質問するか、短い文章作成を試してみましょう。最初のメッセージを送信するときにサインインします。
Qwen3.8 by Alibaba Cloud
モデルのライセンス
Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0
Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.
コーディングの質問を入力すると、Qwen 3.8 27B の返信が得られます。これは、公式の Qwen3.8-27B モデルを、ビジョンエンコーダーなしで直接 Q6_K に量子化したものです。そのため、コンテキストウィンドウ全体を、会話とエージェントが読み取るファイルのために使えます。128k のコンテキストなら長いスレッドを保持でき、短いジョブは既定の 8k のままです。
API リファレンス
REST で送信
個人用 API キー(msk_…)を使うと、ご自身のツールからこのワークロードのジョブを作成できます。この方法で開始したジョブは、あなたのデバイス で接続したのと同じデバイスで実行されます。少なくとも 1 台がオンラインである必要があります。
https://cp.meshlabs.cloud/v1/organizations/jobsX-Organization-Api-Key: msk_your_personal_api_key で認証します。ヘッダー名は組織キーと同じで、個人キーも同じエンドポイントを使用します。
リクエストボディ
{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}job_spec のフィールド
| フィールド | 必須 | デフォルト | 説明 |
|---|---|---|---|
tools | いいえ | — | モデルが呼び出せる関数(OpenAI 形式: {"type": "function", "function": {"name", "description", "parameters"}})。呼び出しは、結果の中に tool_calls として、名前と引数とともに返されます。最大 16 ツール、各 8 KB、合計 32 KB まで。 |
max_context | いいえ | 8192 | ステージホストが KV / リカレント状態として確保するトークンの合計(プロンプトと生成の合計)。上限は、Oracle がこのモデルで計測した最大のコンテキストで、配置が実測の裏付けを超えて外挿する必要が生じることはありません。値を上げると必要なメモリの下限が上がり、その分ジョブを実行できるデバイスが絞られます。 |
kv_hot_window | いいえ | 0 | 物理的なアテンション KV は、最新の N トークンまでに制限されるため、N を超える長さの会話は、コンテキスト上限で停止する代わりに、最も古いターンを忘れます。0 ではコンテキスト全体が常駐します。コンテキストウィンドウ以上の値では何も変わりません(メモリもアテンションも同じ)。それより小さくすると、モデルはウィンドウの外を実際に見ることができないため、長距離の記憶と引き換えに、会話の長さを無制限にできます。 |
turns | いいえ | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
speculative_mtp | いいえ | true | モデル全体を保持するノードでは、モデル内蔵の次トークンヘッドがトークンを提案し、モデルが1回のパスでそれを検証します。出力は使わない場合と同じで、速くなるだけです。 |
mtp_model_file | いいえ | Qwen3.8-27B-Q6-mtp.gguf | このワークロードのバンドルに含まれる、ドラフトヘッドのファイル。 |
speculative_max_draft | いいえ | 2 | ドラフトヘッドが1回のパスで提案するトークン数。 |
enable_thinking | いいえ | true | Enable Thinking |
max_new_tokens | いいえ | 2048 | Max New Tokens |
prompt | はい | — | Prompt |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}status が終了状態(COMPLETED、FAILED、CANCELED、MODERATION_BLOCKED)になるまで、同じ API キーでポーリングします。コンテンツモデレーションが有効な場合、ジョブはコンピュートキューに入る前に MODERATION_PENDING から始まることがあります。完了したジョブには、各出力に署名済みの download_url の値が含まれます。
作成時のレスポンス
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}完了時のレスポンス
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}