LLM
Qwen3.8 27B Q6 — чат для програмування
Поставте запитання або спробуйте коротке завдання з написання тексту. Увійдете, коли надішлете перше повідомлення.
Qwen3.8 by Alibaba Cloud
Ліцензії моделі
Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0
Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.
Введіть запитання з програмування й отримайте відповідь Qwen 3.8 27B. Це офіційна модель Qwen3.8-27B, квантована безпосередньо до Q6_K, без візуального кодувальника, тож усе вікно контексту доступне для розмови та файлів, які читає агент. Контекст 128k вміщує довгу розмову; коротші завдання лишаються на значенні за замовчуванням 8k.
Довідник API
Надсилання через REST
Використовуйте свій особистий ключ API (msk_…), щоб створювати завдання для цього навантаження з власних інструментів. Завдання, запущені так, виконуються на тих самих пристроях, які ви під’єднали на сторінці Ваші пристрої, — принаймні один має бути в мережі.
https://cp.meshlabs.cloud/v1/organizations/jobsАвтентифікуйтеся за допомогою X-Organization-Api-Key: msk_your_personal_api_key. Назва заголовка така сама, як для ключів організації; особисті ключі використовують ту саму кінцеву точку.
Тіло запиту
{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}Поля job_spec
| Поле | Обов’язкове | За замовчуванням | Опис |
|---|---|---|---|
tools | Ні | — | Функції, які модель може викликати, у форматі OpenAI: {"type": "function", "function": {"name", "description", "parameters"}}. Виклик повертається в результаті як tool_calls, кожен з іменем і аргументами. Щонайбільше 16 інструментів, по 8 КБ кожен і 32 КБ загалом. |
max_context | Ні | 8192 | Загальна кількість токенів, для яких вузли етапів виділяють стан KV/рекурентний стан, — запит плюс генерація. Верхня межа — найбільший контекст, на якому Oracle виміряв цю модель, тож розміщенню не доводиться екстраполювати поза межі підтверджених даних. Збільшення цього значення підвищує нижню межу пам’яті й відповідно звужує коло пристроїв, які можуть виконати завдання. |
kv_hot_window | Ні | 0 | Фізичний KV уваги обмежується найновішими N токенами, тож розмова довша за N забуває найстаріші репліки, а не зупиняється на межі контексту. 0 зберігає весь контекст у пам’яті. На рівні вікна контексту або нижче нічого не змінюється — та сама пам’ять, та сама увага — а зниження нижче вікна контексту міняє довгострокову пам’ять на необмежену довжину розмови, бо модель справді не бачить далі за вікно. |
turns | Ні | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
speculative_mtp | Ні | true | На вузлі, що утримує всю модель, вбудована голова наступного токена моделі пропонує токени, а модель перевіряє їх за один прохід. Результат такий самий, як без цього; лише швидше. |
mtp_model_file | Ні | Qwen3.8-27B-Q6-mtp.gguf | Файл чернеткової голови в пакеті цього навантаження. |
speculative_max_draft | Ні | 2 | Скільки токенів пропонує чернеткова голова за прохід. |
enable_thinking | Ні | true | Enable Thinking |
max_new_tokens | Ні | 2048 | Max New Tokens |
prompt | Так | — | Prompt |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Опитуйте з тим самим ключем API, доки status не стане кінцевим (COMPLETED, FAILED, CANCELED або MODERATION_BLOCKED). Коли ввімкнено модерацію вмісту, завдання можуть починатися в стані MODERATION_PENDING, перш ніж потрапити в чергу обчислень. Завершені завдання містять попередньо підписані значення download_url для кожного результату.
Відповідь на створення
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Відповідь після завершення
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}