LLM
Qwen3.8 27B Q6 — Trò chuyện lập trình
Đặt câu hỏi hoặc thử một yêu cầu viết ngắn. Bạn sẽ đăng nhập khi gửi tin nhắn đầu tiên.
Qwen3.8 by Alibaba Cloud
Giấy phép mô hình
Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0
Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.
Nhập câu hỏi lập trình và nhận câu trả lời từ Qwen 3.8 27B. Đây là mô hình Qwen3.8-27B chính thức được lượng tử hóa trực tiếp sang Q6_K, không có bộ mã hóa thị giác, nên toàn bộ cửa sổ ngữ cảnh dành cho cuộc trò chuyện và các tệp mà tác tử đọc. Ngữ cảnh 128k chứa được một chuỗi hội thoại dài; các tác vụ ngắn hơn giữ mặc định 8k.
Tài liệu tham khảo API
Gửi qua REST
Dùng khóa API cá nhân của bạn (msk_…) để tạo tác vụ cho workload này từ công cụ của riêng bạn. Tác vụ khởi chạy theo cách này chạy trên chính các thiết bị bạn đã kết nối tại Thiết bị của bạn — ít nhất một thiết bị phải trực tuyến.
https://cp.meshlabs.cloud/v1/organizations/jobsXác thực bằng X-Organization-Api-Key: msk_your_personal_api_key. Tên header giống với khóa tổ chức; khóa cá nhân dùng cùng endpoint.
Nội dung yêu cầu
{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}Các trường của job_spec
| Trường | Bắt buộc | Mặc định | Mô tả |
|---|---|---|---|
tools | Không | — | Các hàm mô hình có thể gọi, theo định dạng OpenAI: {"type": "function", "function": {"name", "description", "parameters"}}. Một lệnh gọi trả về trong kết quả dưới dạng tool_calls, mỗi lệnh kèm tên và đối số. Tối đa 16 công cụ, mỗi công cụ 8 KB và tổng cộng 32 KB. |
max_context | Không | 8192 | Tổng số token mà các máy chủ giai đoạn cấp phát cho trạng thái KV/hồi quy — gồm lời nhắc và phần sinh. Mức trần là ngữ cảnh lớn nhất mà Oracle đã đo cho mô hình này, nhờ đó việc bố trí không bao giờ phải ngoại suy vượt quá bằng chứng. Tăng giá trị này sẽ nâng mức bộ nhớ tối thiểu và do đó thu hẹp số thiết bị có thể chạy tác vụ. |
kv_hot_window | Không | 0 | KV attention vật lý bị giới hạn ở N token mới nhất, nên cuộc trò chuyện dài hơn N sẽ quên những lượt cũ nhất thay vì dừng ở giới hạn ngữ cảnh. 0 giữ toàn bộ ngữ cảnh thường trú. Ở mức bằng hoặc thấp hơn cửa sổ ngữ cảnh thì không có gì thay đổi — cùng bộ nhớ, cùng attention — và hạ thấp xuống dưới cửa sổ ngữ cảnh là đánh đổi khả năng nhớ xa để lấy độ dài cuộc trò chuyện không giới hạn, vì mô hình thực sự không thể nhìn ra ngoài cửa sổ. |
turns | Không | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
speculative_mtp | Không | true | Trên node chứa toàn bộ mô hình, đầu dự đoán token kế tiếp tích hợp sẵn của mô hình đề xuất các token và mô hình kiểm tra chúng trong một lượt. Đầu ra giống như khi không dùng; chỉ nhanh hơn. |
mtp_model_file | Không | Qwen3.8-27B-Q6-mtp.gguf | Tệp của đầu nháp trong gói workload này. |
speculative_max_draft | Không | 2 | Số token mà đầu nháp đề xuất mỗi lượt. |
enable_thinking | Không | true | Enable Thinking |
max_new_tokens | Không | 2048 | Max New Tokens |
prompt | Có | — | Prompt |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Thăm dò bằng cùng khóa API cho đến khi status ở trạng thái kết thúc (COMPLETED, FAILED, CANCELED hoặc MODERATION_BLOCKED). Khi kiểm duyệt nội dung được bật, tác vụ có thể bắt đầu ở MODERATION_PENDING trước khi vào hàng đợi tính toán. Tác vụ đã hoàn tất có các giá trị download_url được ký trước trên mỗi đầu ra.
Phản hồi khi tạo
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Phản hồi khi hoàn tất
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}