LLM

Qwen3.8 27B Q6 – Coding-Chat

Stellen Sie eine Frage oder probieren Sie eine kurze Schreibaufgabe. Angemeldet werden Sie, wenn Sie Ihre erste Nachricht senden.

Qwen3.8 by Alibaba Cloud

Modelllizenzen

Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0

Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.

Mitgelieferte Lizenz

Hinweis

KostenlosOnlineUnbegrenztQwen3.8 by Alibaba Cloud API-Zugang

Wann immer Sie bereit sind.

Schreiben Sie Ihre Nachricht und tippen Sie auf „Senden“, um sich anzumelden und loszulegen.

Geben Sie eine Programmierfrage ein und erhalten Sie eine Antwort von Qwen 3.8 27B. Das ist das offizielle Qwen3.8-27B-Modell, direkt auf Q6_K quantisiert, ohne Vision-Encoder, sodass das gesamte Kontextfenster für das Gespräch und die vom Agenten gelesenen Dateien zur Verfügung steht. Ein Kontext von 128k fasst einen langen Verlauf; kürzere Aufträge bleiben bei der Voreinstellung von 8k.

API-Referenz

Per REST übermitteln

Verwenden Sie Ihren persönlichen API-Schlüssel (msk_…), um aus Ihren eigenen Tools Jobs für diesen Workload zu erstellen. So gestartete Jobs laufen auf denselben Geräten, die Sie unter Ihre Geräte verbunden haben – mindestens eines muss online sein.

API-Details ausblenden
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Authentifizieren Sie sich mit X-Organization-Api-Key: msk_your_personal_api_key. Der Header-Name entspricht dem der Organisationsschlüssel; persönliche Schlüssel verwenden denselben Endpunkt.

Anfrage-Body

{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Felder von job_spec

FeldErforderlichStandardBeschreibung
toolsNein—Funktionen, die das Modell aufrufen darf, im OpenAI-Format: {"type": "function", "function": {"name", "description", "parameters"}}. Ein Aufruf kommt im Ergebnis als tool_calls zurück, jeweils mit Name und Argumenten. Höchstens 16 Tools, je 8 KB und insgesamt 32 KB.
max_contextNein8192Gesamtzahl der Tokens, für die die Stufen-Hosts KV-/rekurrenten Zustand reservieren – Prompt plus Generierung. Die Obergrenze ist der größte Kontext, bei dem das Oracle dieses Modell gemessen hat, sodass die Platzierung nie über die Messwerte hinaus extrapolieren muss. Ein höherer Wert erhöht die Speicheruntergrenze und schränkt damit ein, welche Geräte den Auftrag ausführen können.
kv_hot_windowNein0Der physische Attention-KV wird auf die neuesten N Tokens begrenzt, sodass eine Unterhaltung, die länger als N ist, ihre ältesten Beiträge vergisst, statt an der Kontextgrenze anzuhalten. 0 hält den gesamten Kontext resident. Bei oder unterhalb des Kontextfensters ändert dies nichts – gleicher Speicher, gleiche Attention – und eine Senkung darunter tauscht Langzeiterinnerung gegen unbegrenzte Unterhaltungslänge, weil das Modell jenseits des Fensters tatsächlich nichts sehen kann.
turnsNein—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
speculative_mtpNeintrueAuf einem Knoten, der das gesamte Modell hält, schlägt der eingebaute Next-Token-Head des Modells Tokens vor, und das Modell prüft sie in einem Durchlauf. Die Ausgabe ist dieselbe wie ohne; es ist nur schneller.
mtp_model_fileNeinQwen3.8-27B-Q6-mtp.ggufDie Datei des Draft-Heads in diesem Workload-Bundle.
speculative_max_draftNein2Wie viele Tokens der Draft-Head pro Durchlauf vorschlägt.
enable_thinkingNeintrueEnable Thinking
max_new_tokensNein2048Max New Tokens
promptJa—Prompt

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Fragen Sie mit demselben API-Schlüssel ab, bis status einen Endzustand erreicht (COMPLETED, FAILED, CANCELED oder MODERATION_BLOCKED). Ist die Inhaltsmoderation aktiviert, können Jobs in MODERATION_PENDING beginnen, bevor sie in die Compute-Warteschlange gelangen. Abgeschlossene Jobs enthalten für jede Ausgabe vorsignierte download_url-Werte.

Antwort beim Erstellen

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Antwort nach Abschluss

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}