LLM

Qwen3.8 27B Q6 — 코딩 채팅

질문하거나 짧은 글쓰기 작업을 시도해 보세요. 첫 메시지를 보낼 때 로그인합니다.

Qwen3.8 by Alibaba Cloud

모델 라이선스

Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0

Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.

포함된 라이선스

고지

무료온라인무제한Qwen3.8 by Alibaba Cloud API 액세스

준비되면 언제든지 시작하세요.

메시지를 작성하고 보내기를 누르면 로그인 후 시작됩니다.

코딩 질문을 입력하면 Qwen 3.8 27B의 답변을 받을 수 있습니다. 공식 Qwen3.8-27B 모델을 Q6_K로 직접 양자화한 버전이며 비전 인코더가 없으므로, 컨텍스트 윈도우 전체를 대화와 에이전트가 읽는 파일에 사용할 수 있습니다. 128k 컨텍스트는 긴 스레드를 담을 수 있으며, 짧은 작업은 기본값인 8k로 유지됩니다.

API 레퍼런스

REST로 제출

개인 API 키(msk_…)를 사용하여 내 도구에서 이 워크로드의 작업을 생성하세요. 이렇게 시작한 작업은 내 기기에서 연결한 기기와 동일한 기기에서 실행되며, 최소 한 대는 온라인이어야 합니다.

API 세부 정보 숨기기
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

X-Organization-Api-Key: msk_your_personal_api_key로 인증합니다. 헤더 이름은 조직 키와 같으며, 개인 키도 같은 엔드포인트를 사용합니다.

요청 본문

{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec 필드

필드필수기본값설명
tools아니요—모델이 호출할 수 있는 함수이며 OpenAI 형식입니다: {"type": "function", "function": {"name", "description", "parameters"}}. 호출은 결과에 tool_calls로 돌아오며 각각 이름과 인자를 포함합니다. 최대 16개 도구, 각 8 KB, 총 32 KB입니다.
max_context아니요8192스테이지 호스트가 KV/순환 상태를 할당하는 전체 토큰 수로, 프롬프트와 생성 분량을 합한 값입니다. 상한은 Oracle이 이 모델에서 측정한 가장 큰 컨텍스트이므로, 배치가 측정된 근거를 넘어 추정할 필요가 없습니다. 값을 높이면 메모리 최소 요구량이 올라가 작업을 실행할 수 있는 기기가 줄어듭니다.
kv_hot_window아니요0물리적 어텐션 KV는 가장 최근 N개 토큰으로 제한되므로, N보다 긴 대화는 컨텍스트 한도에서 멈추지 않고 가장 오래된 턴을 잊어버립니다. 0이면 전체 컨텍스트를 메모리에 상주시킵니다. 컨텍스트 윈도우 이하에서는 아무것도 바뀌지 않으며 메모리도 어텐션도 동일합니다. 윈도우보다 낮추면 모델이 실제로 윈도우 밖을 볼 수 없으므로, 장거리 기억력을 포기하는 대신 대화 길이를 무제한으로 이어갈 수 있습니다.
turns아니요—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
speculative_mtp아니요true모델 전체를 담고 있는 노드에서는 모델에 내장된 다음 토큰 헤드가 토큰을 제안하고 모델이 이를 한 번의 패스로 검증합니다. 출력은 사용하지 않을 때와 같으며 더 빠를 뿐입니다.
mtp_model_file아니요Qwen3.8-27B-Q6-mtp.gguf이 워크로드 번들에 포함된 드래프트 헤드 파일입니다.
speculative_max_draft아니요2드래프트 헤드가 패스마다 제안하는 토큰 수입니다.
enable_thinking아니요trueEnable Thinking
max_new_tokens아니요2048Max New Tokens
prompt예—Prompt

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "job_spec": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

status이(가) 최종 상태(COMPLETED, FAILED, CANCELED 또는 MODERATION_BLOCKED)가 될 때까지 같은 API 키로 폴링하세요. 콘텐츠 검토가 활성화된 경우, 작업은 컴퓨팅 대기열에 들어가기 전에 MODERATION_PENDING 상태로 시작할 수 있습니다. 완료된 작업의 각 출력에는 사전 서명된 download_url 값이 포함됩니다.

생성 응답

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

완료 응답

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "qwen38-27b-q6-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "max_context": 8192,
    "kv_hot_window": 0,
    "speculative_mtp": true,
    "mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
    "speculative_max_draft": 2,
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}