LLM
Qwen3.8 27B Q6 — programmeerchat
Stel een vraag of probeer een korte schrijfopdracht. U logt in wanneer u uw eerste bericht verzendt.
Qwen3.8 by Alibaba Cloud
Modellicenties
Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0
Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.
Typ een programmeervraag en ontvang een antwoord van Qwen 3.8 27B. Dit is het officiële Qwen3.8-27B-model, rechtstreeks gekwantiseerd naar Q6_K, zonder vision-encoder, zodat het hele contextvenster beschikbaar is voor het gesprek en de bestanden die de agent leest. Een context van 128k bevat een lange thread; kortere taken blijven bij de standaard van 8k.
API-referentie
Indienen via REST
Gebruik uw persoonlijke API-sleutel (msk_…) om vanuit uw eigen tools taken voor deze workload aan te maken. Taken die op deze manier worden gestart, draaien op dezelfde apparaten die u hebt gekoppeld op Uw apparaten — ten minste één daarvan moet online zijn.
https://cp.meshlabs.cloud/v1/organizations/jobsAuthenticeer met X-Organization-Api-Key: msk_your_personal_api_key. De headernaam is dezelfde als bij organisatiesleutels; persoonlijke sleutels gebruiken hetzelfde endpoint.
Request-body
{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}Velden van job_spec
| Veld | Verplicht | Standaard | Beschrijving |
|---|---|---|---|
tools | Nee | — | Functies die het model mag aanroepen, in het OpenAI-formaat: {"type": "function", "function": {"name", "description", "parameters"}}. Een aanroep komt in het resultaat terug als tool_calls, elk met een naam en de bijbehorende argumenten. Maximaal 16 tools, 8 KB per stuk en 32 KB in totaal. |
max_context | Nee | 8192 | Totaal aantal tokens waarvoor de stage-hosts KV-/recurrente toestand reserveren — prompt plus generatie. De bovengrens is de grootste context waarmee de Oracle dit model heeft gemeten, zodat de plaatsing nooit verder dan het bewijs hoeft te extrapoleren. Een hogere waarde verhoogt de geheugendrempel en beperkt daarmee welke apparaten de taak kunnen uitvoeren. |
kv_hot_window | Nee | 0 | De fysieke attention-KV wordt begrensd tot de nieuwste N tokens, zodat een gesprek dat langer is dan N de oudste beurten vergeet in plaats van bij de contextgrens te stoppen. 0 houdt de volledige context resident. Op of onder het contextvenster verandert dit niets — hetzelfde geheugen, dezelfde attention — en verlagen eronder ruilt herinnering over lange afstand in voor onbegrensde gesprekslengte, omdat het model echt niet voorbij het venster kan kijken. |
turns | Nee | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
speculative_mtp | Nee | true | Op een node die het hele model draagt, stelt de ingebouwde next-token-head van het model tokens voor en controleert het model ze in één doorgang. De uitvoer is dezelfde als zonder; het is alleen sneller. |
mtp_model_file | Nee | Qwen3.8-27B-Q6-mtp.gguf | Het bestand van de draft head in deze workload-bundel. |
speculative_max_draft | Nee | 2 | Hoeveel tokens de draft head per doorgang voorstelt. |
enable_thinking | Nee | true | Enable Thinking |
max_new_tokens | Nee | 2048 | Max New Tokens |
prompt | Ja | — | Prompt |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Poll met dezelfde API-sleutel totdat status een eindstatus heeft (COMPLETED, FAILED, CANCELED of MODERATION_BLOCKED). Wanneer inhoudsmoderatie is ingeschakeld, kunnen taken in MODERATION_PENDING starten voordat ze in de rekenwachtrij komen. Voltooide taken bevatten vooraf ondertekende download_url-waarden bij elke uitvoer.
Antwoord bij aanmaken
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Antwoord bij voltooiing
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}