LLM視覺
Qwen3.8 Flash Next Coder
提出問題,或試試簡短的寫作任務。傳送第一則訊息時再登入即可。
Qwen3.8 Flash Next Coder — 程式碼助理
模型授權
Qwen3.8-Flash-Next · LicenseRef-Qwen-Community-1.0
Qwen Community License 1.0: keep the notice; a licensee over 100M MAU or US$20M monthly revenue must display the model name; a Model-as-a-Service or AI Work Assistant business needs a separate Qwen licence for commercial use. Owner confirmed this condition is handled (2026-11-12).
GSQ-RCO Coder GGUF quantization (ISTA-DASLab) · Apache-2.0
Apache License 2.0. Keep the licence text with the weights. Card declares apache-2.0; the repo publishes no LICENSE file, so the standard text is shipped.
描述您想建置的內容,或貼上程式碼與其產生的錯誤,即可取得程式碼、修正或白話解說。這個免費 AI 程式碼助理執行的是 Qwen3.8 Flash Next,這是擁有 1250 億參數的混合專家模型,每個 token 約使用 60 億個參數,採用 ISTA-DASLab 的壓縮版 Coder 建置。它能讀取長篇輸入,例如大型檔案或一次多個檔案,您也可以附上螢幕截圖。它在您連接的裝置上免費、無限制地執行:這個瀏覽器、桌面應用程式,或您擁有的另一台電腦。首次執行會將大型模型下載到那些裝置上,較長的輸入在第一次傳遞時需要更久。 授權:Qwen3.8-Flash-Next 由 Qwen(阿里雲)發布,採用 Qwen Community License 1.0(https://huggingface.co/Qwen/Qwen3.8-Flash-Next/blob/de4b8e4d43b917e7706784d8bb445c9af86a3540/LICENSE)。所提供的權重已經修改:採用 ISTA-DASLab 的 GSQ-RCO Coder 量化,由 Mesh 拆成逐層階段,圖像投影器則重新量化為 Q8_0。若您自行在提供模型存取服務、或 AI 程式碼/辦公產品的企業中執行這些權重,授權要求您另向 Qwen 取得商業使用授權。
API 參考
透過 REST 提交
使用您的個人 API 金鑰(msk_…),從您自己的工具為此工作負載建立工作。以這種方式啟動的工作,會在您於 您的裝置 連接的同一批裝置上執行——至少須有一部在線上。
https://cp.meshlabs.cloud/v1/organizations/jobs使用 X-Organization-Api-Key: msk_your_personal_api_key 進行驗證。此標頭名稱與組織金鑰相同;個人金鑰使用同一個端點。
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign,將您的檔案上傳到傳回的 upload_url,然後在 job_spec 中傳入 download_url(例如作為 input_image_url)。請求內文
{
"workload_type": "qwen38-flash-next-coder-gguf-pp",
"job_spec": {
"enable_thinking": true,
"reasoning_effort": "xhigh",
"max_new_tokens": 2048,
"max_context": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"max_thinking_tokens": 1536,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"prompt": "A photorealistic lighthouse at dusk",
"vision_max_pixels": 4194304,
"vision_max_tokens": 4096,
"vision_merge_size": 2,
"vision_min_tokens": 256,
"vision_patch_size": 16
}
}job_spec 欄位
| 欄位 | 必填 | 預設值 | 說明 |
|---|---|---|---|
system_prompt | 否 | — | 選填的系統提示詞 |
tools | 否 | — | 模型可呼叫的函式,採用 OpenAI 格式:{"type": "function", "function": {"name", "description", "parameters"}}。呼叫會以 tool_calls 回傳在結果中,每個都包含名稱與其參數。最多 16 個工具,每個 8 KB,總計 32 KB。 |
enable_thinking | 否 | true | 回答前先思考。需要快速、直接的工具呼叫時請關閉。 |
reasoning_effort | 否 | xhigh | Reasoning Effort |
max_new_tokens | 否 | 2048 | 生成 token 數上限(思考加答案)。提示詞與生成內容共用上下文視窗。 |
max_context | 否 | 32768 | 階段主機為 KV/循環狀態配置的 token 總數,包含提示詞與生成內容。上限是 Oracle 對此模型實測過的最大上下文,因此配置不必外推到證據範圍之外。提高此值會提高記憶體下限,也因此縮小能執行此工作的裝置範圍。 |
turns | 否 | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | 否 | 1 | Temperature |
top_p | 否 | 0.95 | Top P |
top_k | 否 | 20 | Top K |
presence_penalty | 否 | 0 | Presence Penalty |
max_thinking_tokens | 否 | 1536 | 在思考 token 達到此數量後強制結束推理區塊。此值必須明顯低於 `max_new_tokens`:若推理預算等於或高於總生成預算,回覆會在思考途中被截斷,完全沒有答案。控制平面會根據所選配置實際負擔得起的預算重新裁定此值,因此較小的值會被採用,較大的值則會被限縮。 |
repetition_penalty | 否 | 1 | Repetition Penalty |
seed | 否 | — | 可重現結果的隨機種子 |
speculative_ngram | 否 | false | 提示詞查找草稿:將上下文中重複的 n-gram 作為草稿區塊重播,並由模型在一次傳遞中驗證,因此單次網路往返就能確認多個 token。不需額外模型;輸出與逐步解碼完全相同。 |
speculative_draft_model | 否 | false | 在檢查點節點上執行小型 GGUF 草稿模型來提出草稿區塊(建議使用「內建草稿模型檔名」;外部 URL 仍可作為備援)。當草稿模型無法使用時,會退回 n-gram 草稿。 |
draft_model_file | 否 | — | 此工作負載套件中未分割的 GGUF 草稿模型檔名。SDK 會從 required_files 解析它,因此私有 S3 儲存貯體可使用伺服器提供的簽署/代理 URL,而不必使用公開 URL。 |
draft_model_url | 否 | — | 小型 GGUF 草稿模型的選填外部 HTTPS URL。當「內建草稿模型檔名」未設定或不在 required_files 中時,作為備援使用。 |
speculative_max_draft | 否 | 8 | 每個區塊所驗證的草稿 token 數上限。實際長度會依觀察到的接受率調整。 |
min_remote_stages | 否 | 0 | 用於 GGUF 管線平行測試的診斷配置選項。大於 0 時,檢查點只會指派給至少會透過 WebRTC(而非本機)執行這麼多階段的節點。在檢查點對等節點寬限期過後會退回,以免讓正式工作餓死。 |
wire_hidden_dtype | 否 | f16 | GGUF 管線階段之間的隱藏啟動值資料型別。f16 讓預填與推測區塊的傳輸負載減半;f32 為診斷用的備援。 |
wire_hidden_codec | 否 | fp16 | 用於 GGUF 管線階段之間多 token 隱藏啟動值區塊的實驗性編解碼器。單 token 解碼維持低成本的資料型別路徑;通用編解碼器僅用於位元組節省足以抵銷編解碼成本的預填/推測區塊。fp16 最安全;auto8/hq8 為診斷用。 |
stage_chaining | 否 | true | 當所有 GGUF 階段都在遠端且支援串接協定時,直接在階段之間傳送隱藏啟動值,而不必經由檢查點協調器轉送每個邊界。 |
input_image_url | 否 | — | Input Image Url |
prompt | 是 | — | 要建置的內容,或程式碼與錯誤 |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "qwen38-flash-next-coder-gguf-pp",
"job_spec": {
"enable_thinking": true,
"reasoning_effort": "xhigh",
"max_new_tokens": 2048,
"max_context": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"max_thinking_tokens": 1536,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"prompt": "A photorealistic lighthouse at dusk",
"vision_max_pixels": 4194304,
"vision_max_tokens": 4096,
"vision_merge_size": 2,
"vision_min_tokens": 256,
"vision_patch_size": 16
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}使用同一個 API 金鑰輪詢,直到 status 進入終止狀態(COMPLETED、FAILED、CANCELED 或 MODERATION_BLOCKED)。啟用內容審核時,工作可能會先處於 MODERATION_PENDING 狀態,之後才進入運算佇列。已完成的工作會在每個輸出上附帶預先簽署的 download_url 值。
建立回應
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-flash-next-coder-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"reasoning_effort": "xhigh",
"max_new_tokens": 2048,
"max_context": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"max_thinking_tokens": 1536,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"prompt": "A photorealistic lighthouse at dusk",
"vision_max_pixels": 4194304,
"vision_max_tokens": 4096,
"vision_merge_size": 2,
"vision_min_tokens": 256,
"vision_patch_size": 16
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}完成回應
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-flash-next-coder-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"reasoning_effort": "xhigh",
"max_new_tokens": 2048,
"max_context": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"max_thinking_tokens": 1536,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"prompt": "A photorealistic lighthouse at dusk",
"vision_max_pixels": 4194304,
"vision_max_tokens": 4096,
"vision_merge_size": 2,
"vision_min_tokens": 256,
"vision_patch_size": 16
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}