LLM
Qwen3.8 27B Q6 — 코딩 채팅
질문하거나 짧은 글쓰기 작업을 시도해 보세요. 첫 메시지를 보낼 때 로그인합니다.
Qwen3.8 by Alibaba Cloud
모델 라이선스
Qwen3.8-27B Q6_K pipeline stages, MTP and tokenizer · Apache-2.0
Retain the original Apache-2.0 licence and copyright/attribution notices, accompany modified files with their change notices, and respect patent termination and trademark limitations. The licence grants commercial use and redistribution; it grants no automatic rights in arbitrary user inputs or generated content.
코딩 질문을 입력하면 Qwen 3.8 27B의 답변을 받을 수 있습니다. 공식 Qwen3.8-27B 모델을 Q6_K로 직접 양자화한 버전이며 비전 인코더가 없으므로, 컨텍스트 윈도우 전체를 대화와 에이전트가 읽는 파일에 사용할 수 있습니다. 128k 컨텍스트는 긴 스레드를 담을 수 있으며, 짧은 작업은 기본값인 8k로 유지됩니다.
API 레퍼런스
REST로 제출
개인 API 키(msk_…)를 사용하여 내 도구에서 이 워크로드의 작업을 생성하세요. 이렇게 시작한 작업은 내 기기에서 연결한 기기와 동일한 기기에서 실행되며, 최소 한 대는 온라인이어야 합니다.
https://cp.meshlabs.cloud/v1/organizations/jobsX-Organization-Api-Key: msk_your_personal_api_key로 인증합니다. 헤더 이름은 조직 키와 같으며, 개인 키도 같은 엔드포인트를 사용합니다.
요청 본문
{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}job_spec 필드
| 필드 | 필수 | 기본값 | 설명 |
|---|---|---|---|
tools | 아니요 | — | 모델이 호출할 수 있는 함수이며 OpenAI 형식입니다: {"type": "function", "function": {"name", "description", "parameters"}}. 호출은 결과에 tool_calls로 돌아오며 각각 이름과 인자를 포함합니다. 최대 16개 도구, 각 8 KB, 총 32 KB입니다. |
max_context | 아니요 | 8192 | 스테이지 호스트가 KV/순환 상태를 할당하는 전체 토큰 수로, 프롬프트와 생성 분량을 합한 값입니다. 상한은 Oracle이 이 모델에서 측정한 가장 큰 컨텍스트이므로, 배치가 측정된 근거를 넘어 추정할 필요가 없습니다. 값을 높이면 메모리 최소 요구량이 올라가 작업을 실행할 수 있는 기기가 줄어듭니다. |
kv_hot_window | 아니요 | 0 | 물리적 어텐션 KV는 가장 최근 N개 토큰으로 제한되므로, N보다 긴 대화는 컨텍스트 한도에서 멈추지 않고 가장 오래된 턴을 잊어버립니다. 0이면 전체 컨텍스트를 메모리에 상주시킵니다. 컨텍스트 윈도우 이하에서는 아무것도 바뀌지 않으며 메모리도 어텐션도 동일합니다. 윈도우보다 낮추면 모델이 실제로 윈도우 밖을 볼 수 없으므로, 장거리 기억력을 포기하는 대신 대화 길이를 무제한으로 이어갈 수 있습니다. |
turns | 아니요 | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
speculative_mtp | 아니요 | true | 모델 전체를 담고 있는 노드에서는 모델에 내장된 다음 토큰 헤드가 토큰을 제안하고 모델이 이를 한 번의 패스로 검증합니다. 출력은 사용하지 않을 때와 같으며 더 빠를 뿐입니다. |
mtp_model_file | 아니요 | Qwen3.8-27B-Q6-mtp.gguf | 이 워크로드 번들에 포함된 드래프트 헤드 파일입니다. |
speculative_max_draft | 아니요 | 2 | 드래프트 헤드가 패스마다 제안하는 토큰 수입니다. |
enable_thinking | 아니요 | true | Enable Thinking |
max_new_tokens | 아니요 | 2048 | Max New Tokens |
prompt | 예 | — | Prompt |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "qwen38-27b-q6-gguf-pp",
"job_spec": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}status이(가) 최종 상태(COMPLETED, FAILED, CANCELED 또는 MODERATION_BLOCKED)가 될 때까지 같은 API 키로 폴링하세요. 콘텐츠 검토가 활성화된 경우, 작업은 컴퓨팅 대기열에 들어가기 전에 MODERATION_PENDING 상태로 시작할 수 있습니다. 완료된 작업의 각 출력에는 사전 서명된 download_url 값이 포함됩니다.
생성 응답
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}완료 응답
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "qwen38-27b-q6-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"max_context": 8192,
"kv_hot_window": 0,
"speculative_mtp": true,
"mtp_model_file": "Qwen3.8-27B-Q6-mtp.gguf",
"speculative_max_draft": 2,
"enable_thinking": true,
"max_new_tokens": 2048,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}