大语言模型视觉
Qwen3.8 Flash Next Coder
提个问题,或试试一个简短的写作任务。发送第一条消息时再登录。
Qwen3.8 Flash Next Coder:编程助手
模型许可证
Qwen3.8-Flash-Next · LicenseRef-Qwen-Community-1.0
Qwen Community License 1.0: keep the notice; a licensee over 100M MAU or US$20M monthly revenue must display the model name; a Model-as-a-Service or AI Work Assistant business needs a separate Qwen licence for commercial use. Owner confirmed this condition is handled (2026-11-12).
GSQ-RCO Coder GGUF quantization (ISTA-DASLab) · Apache-2.0
Apache License 2.0. Keep the licence text with the weights. Card declares apache-2.0; the repo publishes no LICENSE file, so the standard text is shipped.
描述您想构建的东西,或粘贴代码及其抛出的错误,即可获得代码、修复方案或通俗易懂的解释。这款免费 AI 编程助手运行的是 Qwen3.8 Flash Next,一个 1250 亿参数的混合专家模型,每个 token 约使用 60 亿参数,采用 ISTA-DASLab 的压缩版 Coder 构建。它能读取很长的输入,例如大文件或同时多个文件,您还可以附上截图。它在您连接的设备上免费且不限量地运行:当前浏览器、桌面应用,或您拥有的另一台电脑。首次运行会把一个大模型下载到这些设备上,较长的输入在第一次处理时需要更长时间。 许可:Qwen3.8-Flash-Next 由 Qwen(阿里云)提供,采用 Qwen Community License 1.0(https://huggingface.co/Qwen/Qwen3.8-Flash-Next/blob/de4b8e4d43b917e7706784d8bb445c9af86a3540/LICENSE)。所提供的权重经过修改:采用 ISTA-DASLab 的 GSQ-RCO Coder 量化,由 Mesh 拆分为逐层阶段,图像投影器重新量化为 Q8_0。如果您在提供模型访问服务的企业中,或在 AI 编程、办公产品中自行运行这些权重,许可要求您就商业用途另行向 Qwen 申请许可。
API 参考
通过 REST 提交
使用您的个人 API 密钥(msk_…),从您自己的工具为此工作负载创建任务。以这种方式启动的任务会在您于您的设备中连接的同一批设备上运行——至少需要有一台在线。
https://cp.meshlabs.cloud/v1/organizations/jobs使用 X-Organization-Api-Key: msk_your_personal_api_key 进行身份验证。该请求头名称与组织密钥相同;个人密钥使用相同的端点。
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign,将文件上传到返回的 upload_url,然后在 job_spec 中传入 download_url(例如作为 input_image_url)。请求体
{
"workload_type": "qwen38-flash-next-coder-gguf-pp",
"job_spec": {
"enable_thinking": true,
"reasoning_effort": "xhigh",
"max_new_tokens": 2048,
"max_context": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"max_thinking_tokens": 1536,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"prompt": "A photorealistic lighthouse at dusk",
"vision_max_pixels": 4194304,
"vision_max_tokens": 4096,
"vision_merge_size": 2,
"vision_min_tokens": 256,
"vision_patch_size": 16
}
}job_spec 字段
| 字段 | 必填 | 默认值 | 说明 |
|---|---|---|---|
system_prompt | 否 | — | 可选的系统提示词 |
tools | 否 | — | 模型可以调用的函数,采用 OpenAI 格式:{"type": "function", "function": {"name", "description", "parameters"}}。调用会在结果中以 tool_calls 返回,每个都带有名称及其参数。最多 16 个工具,每个 8 KB,总计 32 KB。 |
enable_thinking | 否 | true | 回答前先思考。需要快速、直接的工具调用时请关闭。 |
reasoning_effort | 否 | xhigh | Reasoning Effort |
max_new_tokens | 否 | 2048 | 最大生成 token 数(思考 + 回答)。提示词与生成内容共享上下文窗口。 |
max_context | 否 | 32768 | 阶段主机为 KV/循环状态分配的总 token 数,即提示词加生成内容。上限是 Oracle 测得该模型支持的最大上下文,因此部署决策无需外推到证据之外。调高它会提高内存下限,从而缩小能运行该任务的设备范围。 |
turns | 否 | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | 否 | 1 | Temperature |
top_p | 否 | 0.95 | Top P |
top_k | 否 | 20 | Top K |
presence_penalty | 否 | 0 | Presence Penalty |
max_thinking_tokens | 否 | 1536 | 在达到这么多思考 token 后强制关闭推理块。必须明显低于 `max_new_tokens`:推理预算等于或高于总生成预算,会导致回复在思考中途被截断,完全没有答案。控制平面会根据所选部署方案实际能承受的预算重新裁剪该值,因此较小的值会被采纳,较大的值会被限制。 |
repetition_penalty | 否 | 1 | Repetition Penalty |
seed | 否 | — | 用于复现结果的随机种子 |
speculative_ngram | 否 | false | 提示词查找式草稿:上下文中重复出现的 n-gram 会作为草稿块重放,并由模型在一次前向计算中验证,因此一次网络往返即可确认多个 token。无需额外模型;输出与顺序解码完全一致。 |
speculative_draft_model | 否 | false | 在检查点节点上运行一个很小的 GGUF 草稿模型来提出草稿块(优先使用“草稿模型内置文件名”;外部 URL 仍可作为备用)。当草稿模型不可用时,回退到 n-gram 草稿。 |
draft_model_file | 否 | — | 此工作负载包中未分区的 GGUF 草稿模型的文件名。SDK 会从 required_files 解析它,因此私有 S3 存储桶可以使用服务器提供的签名/代理 URL,而无需公开 URL。 |
draft_model_url | 否 | — | 小型 GGUF 草稿模型的可选外部 HTTPS URL。当“草稿模型内置文件名”缺失或不在 required_files 中时用作备用。 |
speculative_max_draft | 否 | 8 | 每块验证的草稿 token 数上限。实际长度会根据观察到的接受率自适应调整。 |
min_remote_stages | 否 | 0 | 用于 GGUF 流水线并行测试的诊断性部署开关。大于 0 时,检查点只会分配给那些至少会通过 WebRTC(而非本地)运行这么多阶段的节点。在检查点对等节点宽限窗口之后会回退,以免让生产任务无法分配。 |
wire_hidden_dtype | 否 | f16 | GGUF 流水线阶段之间的隐藏激活值数据类型。f16 可使预填充和推测块的传输负载减半;f32 是诊断用的回退选项。 |
wire_hidden_codec | 否 | fp16 | 用于 GGUF 流水线阶段之间多 token 隐藏激活块的实验性编解码器。单 token 解码仍走低开销的数据类型路径;通用编解码器仅用于预填充/推测块,因为在这些场景下节省的字节数可以抵消编解码开销。fp16 最安全;auto8/hq8 为诊断用途。 |
stage_chaining | 否 | true | 当所有 GGUF 阶段都在远程并支持链式协议时,隐藏激活值直接在阶段之间发送,而不是让每个边界都经由检查点协调器中转。 |
input_image_url | 否 | — | Input Image Url |
prompt | 是 | — | 要构建什么,或代码和错误 |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "qwen38-flash-next-coder-gguf-pp",
"job_spec": {
"enable_thinking": true,
"reasoning_effort": "xhigh",
"max_new_tokens": 2048,
"max_context": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"max_thinking_tokens": 1536,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"prompt": "A photorealistic lighthouse at dusk",
"vision_max_pixels": 4194304,
"vision_max_tokens": 4096,
"vision_merge_size": 2,
"vision_min_tokens": 256,
"vision_patch_size": 16
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}使用同一 API 密钥轮询,直到 status 进入终态(COMPLETED、FAILED、CANCELED 或 MODERATION_BLOCKED)。启用内容审核时,任务可能会先处于 MODERATION_PENDING 状态,然后才进入计算队列。已完成的任务会在每个输出上包含预签名的 download_url 值。
创建响应
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-flash-next-coder-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"reasoning_effort": "xhigh",
"max_new_tokens": 2048,
"max_context": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"max_thinking_tokens": 1536,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"prompt": "A photorealistic lighthouse at dusk",
"vision_max_pixels": 4194304,
"vision_max_tokens": 4096,
"vision_merge_size": 2,
"vision_min_tokens": 256,
"vision_patch_size": 16
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}完成响应
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-flash-next-coder-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"reasoning_effort": "xhigh",
"max_new_tokens": 2048,
"max_context": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"max_thinking_tokens": 1536,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"prompt": "A photorealistic lighthouse at dusk",
"vision_max_pixels": 4194304,
"vision_max_tokens": 4096,
"vision_merge_size": 2,
"vision_min_tokens": 256,
"vision_patch_size": 16
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}