LLM

Qwen3.8 27B Q6 — 程式碼聊天

提出問題,或試試簡短的寫作任務。傳送第一則訊息時再登入即可。

Qwen3.8 by Alibaba Cloud

模型授權

Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0

Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.

隨附授權

聲明

免費線上無限制Qwen3.8 by Alibaba Cloud API 存取

準備好了就開始吧。

輸入訊息並按下「傳送」,即可登入並開始。

輸入程式碼相關問題,即可取得 Qwen 3.8 27B 的回覆。這是官方 Qwen3.8-27B 模型直接量化為 Q6_K,且不含視覺編碼器,因此整個上下文視窗都可用於對話與代理讀取的檔案。128k 的上下文可容納很長的對話串;較短的工作則維持 8k 的預設值。

API 參考

透過 REST 提交

使用您的個人 API 金鑰(msk_…),從您自己的工具為此工作負載建立工作。以這種方式啟動的工作,會在您於 您的裝置 連接的同一批裝置上執行——至少須有一部在線上。

隱藏 API 詳細資料
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

使用 X-Organization-Api-Key: msk_your_personal_api_key 進行驗證。此標頭名稱與組織金鑰相同;個人金鑰使用同一個端點。

請求內文

{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec 欄位

欄位必填預設值說明
tools否—模型可呼叫的函式,採用 OpenAI 格式:{"type": "function", "function": {"name", "description", "parameters"}}。呼叫會以 tool_calls 回傳在結果中,每個都包含名稱與其參數。最多 16 個工具,每個 8 KB,總計 32 KB。
max_context否8192階段主機為 KV/循環狀態配置的 token 總數,包含提示詞與生成內容。上限是 Oracle 對此模型實測過的最大上下文,因此配置不必外推到證據範圍之外。提高此值會提高記憶體下限,也因此縮小能執行此工作的裝置範圍。
kv_hot_window否0實體注意力 KV 上限為最新的 N 個 token,因此超過 N 的對話會忘掉最早的幾輪,而不是在上下文上限處停止。0 表示保留完整上下文常駐。等於或低於上下文視窗時不會有任何改變,記憶體與注意力皆相同;若調低到上下文視窗以下,則是以長距離回想換取不受限的對話長度,因為模型確實看不到視窗之外的內容。
turns否—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
speculative_mtp否true在承載整個模型的節點上,模型內建的下一個 token 預測頭會提出 token,模型再一次傳遞驗證。輸出與未使用時相同,只是更快。
mtp_model_file否Qwen3.8-27B-Q6-mtp.gguf此工作負載套件中的草稿頭檔案。
speculative_max_draft否2草稿頭每次傳遞所提出的 token 數。
enable_thinking否trueEnable Thinking
max_new_tokens否2048Max New Tokens
prompt是—Prompt

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

使用同一個 API 金鑰輪詢,直到 status 進入終止狀態(COMPLETED、FAILED、CANCELED 或 MODERATION_BLOCKED)。啟用內容審核時,工作可能會先處於 MODERATION_PENDING 狀態,之後才進入運算佇列。已完成的工作會在每個輸出上附帶預先簽署的 download_url 值。

建立回應

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

完成回應

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}