LLM

Qwen3.8 27B Q6 — कोडिंग चैट

कोई सवाल पूछें या कोई छोटा लेखन कार्य आज़माएँ। पहला संदेश भेजते समय साइन इन करें।

Qwen3.8 by Alibaba Cloud

मॉडल लाइसेंस

Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0

Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.

वितरित लाइसेंस

सूचना

मुफ़्तऑनलाइनअसीमितQwen3.8 by Alibaba Cloud API पहुँच

जब आप तैयार हों।

अपना संदेश लिखें और साइन इन करके शुरू करने के लिए भेजें दबाएँ।

कोडिंग का सवाल लिखें और Qwen 3.8 27B का जवाब पाएँ। यह आधिकारिक Qwen3.8-27B मॉडल है जो सीधे Q6_K में क्वांटाइज़ किया गया है, बिना विज़न एन्कोडर के, इसलिए पूरी कॉन्टेक्स्ट विंडो बातचीत और एजेंट द्वारा पढ़ी जाने वाली फ़ाइलों के लिए उपलब्ध रहती है। 128k कॉन्टेक्स्ट लंबी थ्रेड रख सकता है; छोटे जॉब 8k डिफ़ॉल्ट पर रहते हैं।

API संदर्भ

REST से सबमिट करें

अपने टूल से इस वर्कलोड के लिए जॉब बनाने हेतु अपनी व्यक्तिगत API कुंजी (msk_…) का उपयोग करें। इस तरह शुरू किए गए जॉब उन्हीं डिवाइस पर चलते हैं जिन्हें आपने आपके डिवाइस पर कनेक्ट किया है — कम से कम एक का ऑनलाइन होना ज़रूरी है।

API विवरण छिपाएँ
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

X-Organization-Api-Key: msk_your_personal_api_key से प्रमाणित करें। हेडर का नाम ऑर्ग कुंजियों जैसा ही है; व्यक्तिगत कुंजियाँ उसी एंडपॉइंट का उपयोग करती हैं।

अनुरोध बॉडी

{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec फ़ील्ड

फ़ील्डआवश्यकडिफ़ॉल्टविवरण
toolsनहीं—वे फ़ंक्शन जिन्हें मॉडल कॉल कर सकता है, OpenAI फ़ॉर्मैट में: {"type": "function", "function": {"name", "description", "parameters"}}। कॉल नतीजे में tool_calls के रूप में लौटती है, हर एक में नाम और उसके आर्ग्युमेंट। अधिकतम 16 टूल, हर एक 8 KB और कुल 32 KB।
max_contextनहीं8192कुल टोकन जिनके लिए स्टेज होस्ट KV/रिकरेंट स्टेट आवंटित करते हैं — प्रॉम्प्ट और जनरेशन मिलाकर। ऊपरी सीमा वह सबसे बड़ा कॉन्टेक्स्ट है जिस पर Oracle ने इस मॉडल को मापा है, ताकि प्लेसमेंट को प्रमाण से आगे अनुमान न लगाना पड़े। इसे बढ़ाने से मेमोरी की न्यूनतम सीमा बढ़ती है और इसलिए जॉब चला सकने वाले डिवाइस कम हो जाते हैं।
kv_hot_windowनहीं0फ़िज़िकल अटेंशन KV सबसे नए N टोकन तक सीमित रहता है, इसलिए N से लंबी बातचीत कॉन्टेक्स्ट सीमा पर रुकने की बजाय अपने सबसे पुराने टर्न भूल जाती है। 0 पूरा कॉन्टेक्स्ट रेज़िडेंट रखता है। कॉन्टेक्स्ट विंडो के बराबर या उससे कम पर इससे कुछ नहीं बदलता — वही मेमोरी, वही अटेंशन — और इसे उससे नीचे घटाने पर लंबी दूरी की स्मृति के बदले असीमित बातचीत की लंबाई मिलती है, क्योंकि मॉडल सचमुच विंडो के पार नहीं देख सकता।
turnsनहीं—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
speculative_mtpनहींtrueपूरा मॉडल रखने वाले नोड पर, मॉडल का बिल्ट-इन नेक्स्ट-टोकन हेड टोकन सुझाता है और मॉडल उन्हें एक ही पास में जाँचता है। आउटपुट इसके बिना जैसा ही रहता है; बस तेज़ होता है।
mtp_model_fileनहींQwen3.8-27B-Q6-mtp.ggufइस वर्कलोड बंडल में ड्राफ़्ट हेड की फ़ाइल।
speculative_max_draftनहीं2ड्राफ़्ट हेड प्रति पास कितने टोकन सुझाता है।
enable_thinkingनहींtrueEnable Thinking
max_new_tokensनहीं2048Max New Tokens
promptहाँ—Prompt

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

उसी API कुंजी से तब तक पोल करें जब तक status अंतिम स्थिति (COMPLETED, FAILED, CANCELED या MODERATION_BLOCKED) में न पहुँच जाए। जब सामग्री मॉडरेशन सक्षम होता है, तो कंप्यूट कतार में जाने से पहले जॉब MODERATION_PENDING में शुरू हो सकते हैं। पूरे हुए जॉब में हर आउटपुट पर presigned download_url मान होते हैं।

Create प्रतिक्रिया

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Completed प्रतिक्रिया

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}