LLM
Qwen3.8 27B Q6 — чат для программирования
Задайте вопрос или попробуйте короткое задание на письмо. Войти нужно будет при отправке первого сообщения.
Qwen3.8 by Alibaba Cloud
Лицензии модели
Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0
Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.
Введите вопрос по программированию и получите ответ Qwen 3.8 27B. Это официальная модель Qwen3.8-27B, квантованная напрямую в Q6_K, без визуального энкодера, поэтому всё окно контекста доступно для диалога и файлов, которые читает агент. Контекст 128k вмещает длинную переписку; более короткие задачи остаются на значении по умолчанию — 8k.
Справочник API
Отправка через REST
Используйте свой личный ключ API (msk_…), чтобы создавать задания для этой рабочей нагрузки из собственных инструментов. Запущенные так задания выполняются на тех же устройствах, которые вы подключили в разделе Ваши устройства, — хотя бы одно из них должно быть в сети.
https://cp.meshlabs.cloud/v1/organizations/jobsАутентификация с помощью X-Organization-Api-Key: msk_your_personal_api_key. Имя заголовка совпадает с ключами организации; личные ключи используют ту же конечную точку.
Тело запроса
{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}Поля job_spec
| Поле | Обязательное | По умолчанию | Описание |
|---|---|---|---|
tools | Нет | — | Функции, которые модель может вызывать, в формате OpenAI: {"type": "function", "function": {"name", "description", "parameters"}}. Вызов возвращается в результате как tool_calls, каждый с именем и аргументами. Не более 16 инструментов, по 8 КБ каждый и 32 КБ в сумме. |
max_context | Нет | 8192 | Общее число токенов, под которое хосты этапов выделяют состояние KV/рекуррентное состояние, — запрос плюс генерация. Верхняя граница — наибольший контекст, на котором Oracle измерил эту модель, поэтому размещению не приходится экстраполировать за пределы подтверждённых данных. Увеличение этого значения повышает минимальный объём памяти и сужает круг устройств, способных выполнить задачу. |
kv_hot_window | Нет | 0 | Физический KV внимания ограничен последними N токенами, поэтому диалог длиннее N забывает самые старые реплики, а не останавливается на пределе контекста. 0 оставляет весь контекст в памяти. При значении, равном окну контекста или меньше него, ничего не меняется — та же память, то же внимание, — а уменьшение ниже окна контекста обменивает дальнюю память на неограниченную длину диалога, потому что модель действительно не видит ничего за пределами окна. |
turns | Нет | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
speculative_mtp | Нет | true | На узле, который держит всю модель, встроенная в неё голова предсказания следующего токена предлагает токены, а модель проверяет их за один проход. Результат такой же, как и без неё; она лишь ускоряет работу. |
mtp_model_file | Нет | Qwen3.8-27B-Q6-mtp.gguf | Файл черновой головы в пакете этой задачи. |
speculative_max_draft | Нет | 2 | Сколько токенов черновая голова предлагает за один проход. |
enable_thinking | Нет | true | Enable Thinking |
max_new_tokens | Нет | 2048 | Max New Tokens |
prompt | Да | — | Prompt |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Опрашивайте с тем же ключом API, пока status не перейдёт в конечное состояние (COMPLETED, FAILED, CANCELED или MODERATION_BLOCKED). Если включена модерация контента, задания могут начинаться в состоянии MODERATION_PENDING, прежде чем попасть в вычислительную очередь. Выполненные задания содержат предподписанные значения download_url для каждого результата.
Ответ на создание
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Ответ по завершении
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}