LLM

Qwen3.8 27B Q6 – kodchatt

Ställ en fråga eller prova en kort skrivuppgift. Logga in när du skickar ditt första meddelande.

Qwen3.8 by Alibaba Cloud

Modelllicenser

Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0

Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.

Medföljande licens

Meddelande

GratisOnlineObegränsatQwen3.8 by Alibaba Cloud API-åtkomst

När du är redo.

Skriv ditt meddelande och tryck på Skicka för att logga in och börja.

Skriv en kodfråga och få ett svar från Qwen 3.8 27B. Det här är den officiella Qwen3.8-27B-modellen kvantiserad direkt till Q6_K, utan visionskodare, så hela kontextfönstret finns tillgängligt för konversationen och de filer som agenten läser. En kontext på 128k rymmer en lång tråd; kortare jobb stannar vid standardvärdet 8k.

API-referens

Skicka via REST

Använd din personliga API-nyckel (msk_…) för att skapa jobb för den här arbetslasten från dina egna verktyg. Jobb som startas på det här sättet körs på samma enheter som du har anslutit under Dina enheter — minst en måste vara online.

Dölj API-detaljer
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Autentisera med X-Organization-Api-Key: msk_your_personal_api_key. Huvudnamnet är detsamma som för organisationsnycklar; personliga nycklar använder samma slutpunkt.

Begärans brödtext

{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Fält för job_spec

FältObligatorisktStandardBeskrivning
toolsNej—Funktioner som modellen får anropa, i OpenAI-formatet: {"type": "function", "function": {"name", "description", "parameters"}}. Ett anrop kommer tillbaka i resultatet som tool_calls, vart och ett med ett namn och sina argument. Högst 16 verktyg, 8 KB vardera och 32 KB totalt.
max_contextNej8192Totalt antal tokens som stegvärdarna allokerar KV-/rekurrent tillstånd för – prompt plus generering. Taket är den största kontext som Oracle mätte den här modellen vid, så placeringen behöver aldrig extrapolera bortom bevisen. Om du höjer det höjs minnesgolvet, vilket minskar antalet enheter som kan köra jobbet.
kv_hot_windowNej0Fysiskt attention-KV begränsas till de senaste N tokens, så en konversation längre än N glömmer sina äldsta repliker i stället för att stanna vid kontextgränsen. 0 behåller hela kontexten residente. På eller under kontextfönstret ändras ingenting – samma minne, samma attention – och om du sänker det under kontextfönstret byter du långdistansminne mot obegränsad konversationslängd, eftersom modellen faktiskt inte kan se bortom fönstret.
turnsNej—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
speculative_mtpNejtruePå en nod som håller hela modellen föreslår modellens inbyggda nästa-token-huvud tokens och modellen kontrollerar dem i ett pass. Utdata är desamma som utan det; det går bara snabbare.
mtp_model_fileNejQwen3.8-27B-Q6-mtp.ggufUtkasthuvudets fil i det här arbetsbelastningspaketet.
speculative_max_draftNej2Hur många tokens utkasthuvudet föreslår per pass.
enable_thinkingNejtrueEnable Thinking
max_new_tokensNej2048Max New Tokens
promptJa—Prompt

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Polla med samma API-nyckel tills status är slutgiltig (COMPLETED, FAILED, CANCELED eller MODERATION_BLOCKED). När innehållsmoderering är aktiverad kan jobb börja i MODERATION_PENDING innan de går in i beräkningskön. Slutförda jobb innehåller försignerade download_url-värden för varje utdata.

Svar vid skapande

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Svar vid slutförande

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}