LLM

Ornith 1.5 35B A3B

ถามคำถามหรือลองงานเขียนสั้น ๆ ลงชื่อเข้าใช้เมื่อคุณส่งข้อความแรก

Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.

Copyright 2026 Alibaba Cloud

ใบอนุญาตโมเดล

Ornith-1.5-35B-A3B · MIT

Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.

ใบอนุญาตที่แนบมา

ประกาศ

Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0

Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.

ใบอนุญาตที่แนบมา

ฟรีออนไลน์ไม่จำกัดPublisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weig การเข้าถึง API

พร้อมเมื่อคุณพร้อม

เขียนข้อความแล้วกดส่งเพื่อลงชื่อเข้าใช้และเริ่มต้น

พิมพ์พรอมต์แล้วรับคำตอบจาก Ornith 1.5 35B — โมเดลที่คิดก่อนตอบ และสร้างมาสำหรับการเขียนโค้ด การดีบัก และการให้เหตุผลทีละขั้นตอน เป็นโมเดลแบบ mixture-of-experts มีพารามิเตอร์รวม 35 พันล้านตัว แต่ใช้เพียงราวสามพันล้านตัวต่อหนึ่งคำ จึงทำให้โมเดลที่เก่งขนาดนี้รันบนฮาร์ดแวร์ทั่วไปได้ การให้บริการแบบปกติต้องใช้ GPU ดาต้าเซ็นเตอร์ขนาด 80 GB ที่นี่โมเดลถูกแบ่งเป็นชิ้นเล็กๆ กระจายไปทั่วอุปกรณ์ที่คุณเชื่อมต่อ — แล็ปท็อป เดสก์ท็อป เครื่องสำรอง หรือหลายเครื่องรวมกัน — โดยแต่ละเครื่องรับไม่ถึงหนึ่งกิกะไบต์ ทำให้นี่เป็น LLM ออนไลน์ฟรีที่คุณรันเองได้จริง แทนที่จะเช่า ขอให้เขียนฟังก์ชัน หาบั๊ก วางแผนรีแฟกเตอร์ หรือไล่คิดคำถามยากๆ โมเดลจะแสดงการให้เหตุผลก่อนแล้วจึงให้คำตอบ ข้อความเข้า ข้อความออก — ไม่อ่านหรือสร้างภาพ และคำตอบมาเป็นข้อความธรรมดาที่คัดลอกได้

เอกสารอ้างอิง API

ส่งผ่าน REST

ใช้คีย์ API ส่วนบุคคลของคุณ (msk_…) เพื่อสร้างงานสำหรับเวิร์กโหลดนี้จากเครื่องมือของคุณเอง งานที่เริ่มด้วยวิธีนี้จะทำงานบนอุปกรณ์เดียวกับที่คุณเชื่อมต่อไว้ใน อุปกรณ์ของคุณ — ต้องมีอย่างน้อยหนึ่งเครื่องที่ออนไลน์

ซ่อนรายละเอียด API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

ยืนยันตัวตนด้วย X-Organization-Api-Key: msk_your_personal_api_key ชื่อเฮดเดอร์ตรงกับคีย์ขององค์กร ส่วนคีย์ส่วนบุคคลใช้ปลายทางเดียวกัน

ไฟล์อินพุต:เรียก POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign ด้วยคีย์ API เดียวกัน อัปโหลดไฟล์ของคุณไปยัง upload_url ที่ได้รับ จากนั้นส่ง download_url ใน job_spec (เช่น เป็น input_image_url)

เนื้อหาคำขอ

{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

ฟิลด์ของ job_spec

ฟิลด์จำเป็นค่าเริ่มต้นคำอธิบาย
system_promptไม่—พรอมต์ระบบ (ไม่บังคับ)
enable_thinkingไม่trueเปิดใช้การคิด/การให้เหตุผลก่อนตอบสุดท้าย chat template ของ Ornith เปิดบล็อก `<think>` ควรเปิดไว้
max_new_tokensไม่2048จำนวนโทเค็นสูงสุดที่สร้าง (การคิด + คำตอบ) เพิ่มค่าสำหรับผลลัพธ์ยาว พรอมต์และการสร้างใช้หน้าต่างบริบทร่วมกัน การสร้างจึงหยุดที่บริบท แทนที่จะเพิ่มขั้นต่ำของหน่วยความจำของสเตจ
max_contextไม่8192จำนวนโทเค็นรวมที่โฮสต์สเตจจัดสรรสถานะ KV/recurrent ให้ ได้แก่พรอมต์รวมกับการสร้างคำตอบ เพดานคือบริบทที่ใหญ่ที่สุดที่ Oracle วัดโมเดลนี้ไว้ ทำให้การจัดวางไม่ต้องคาดการณ์เกินหลักฐาน การเพิ่มค่านี้ทำให้ขั้นต่ำของหน่วยความจำสูงขึ้น และทำให้อุปกรณ์ที่รันงานได้แคบลง
kv_hot_windowไม่32768KV ของ attention ทางกายภาพถูกจำกัดไว้ที่ N โทเค็นล่าสุด การสนทนาที่ยาวกว่า N จึงลืมช่วงแรกสุดแทนที่จะหยุดที่ขีดจำกัดบริบท 0 คือเก็บบริบททั้งหมดไว้ในหน่วยความจำ เมื่อเท่ากับหรือต่ำกว่าหน้าต่างบริบทจะไม่เปลี่ยนอะไร — หน่วยความจำและ attention เหมือนเดิม — และการลดต่ำกว่านั้นเป็นการแลกการจำระยะไกลกับความยาวบทสนทนาที่ไม่จำกัด เพราะโมเดลมองเห็นเกินหน้าต่างไม่ได้จริงๆ
turnsไม่—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureไม่0.6Temperature
top_pไม่0.95Top P
top_kไม่20Top K
presence_penaltyไม่0Presence Penalty
repetition_penaltyไม่1Repetition Penalty
seedไม่—ซีดสุ่มเพื่อให้ได้ผลซ้ำได้
speculative_ngramไม่falsePrompt-lookup drafting: n-gram ที่ซ้ำในบริบทจะถูกนำมาเล่นซ้ำเป็นบล็อกร่าง แล้วให้โมเดลตรวจสอบในรอบเดียว การไปกลับผ่านเครือข่ายครั้งเดียวจึงยืนยันได้หลายโทเค็น ไม่ใช้โมเดลเพิ่ม ผลลัพธ์เหมือนการถอดรหัสแบบทีละโทเค็นทุกประการ
speculative_draft_modelไม่falseรันโมเดลร่าง GGUF ขนาดเล็กบนโหนด checkpoint เพื่อเสนอบล็อกร่าง (แนะนำให้ใช้ 'ชื่อไฟล์โมเดลร่างที่มากับชุด' ส่วน URL ภายนอกยังใช้เป็นทางสำรองได้) จะถอยกลับไปใช้ n-gram drafting เมื่อไม่มีโมเดลร่าง
draft_model_fileไม่—ชื่อไฟล์ของโมเดลร่าง GGUF ที่ไม่ได้แบ่งส่วนในชุดเวิร์กโหลดนี้ SDK ระบุไฟล์จาก required_files บักเก็ต S3 ส่วนตัวจึงใช้ URL แบบ signed/proxy ที่เซิร์ฟเวอร์ให้ แทน URL สาธารณะได้
draft_model_urlไม่—URL HTTPS ภายนอกของโมเดลร่าง GGUF ขนาดเล็ก (ไม่บังคับ) ใช้เป็นทางสำรองเมื่อไม่มี 'ชื่อไฟล์โมเดลร่างที่มากับชุด' หรือไม่อยู่ใน required_files
speculative_max_draftไม่8ขีดจำกัดบนของโทเค็นร่างที่ตรวจสอบต่อบล็อก ความยาวที่ใช้จริงจะปรับตามอัตราการยอมรับที่สังเกตได้
min_remote_stagesไม่0ตัวปรับการจัดวางเพื่อการวินิจฉัยสำหรับทดสอบ GGUF pipeline-parallel เมื่อ > 0 checkpoint จะถูกมอบหมายเฉพาะโหนดที่จะรันสเตจอย่างน้อยจำนวนนี้ผ่าน WebRTC แทนการรันในเครื่อง จะถอยกลับหลังช่วงผ่อนผันของ checkpoint peer เพื่อไม่ให้งานจริงอดงาน
wire_hidden_dtypeไม่f16dtype ของ hidden activation ระหว่างสเตจ GGUF pipeline f16 ลด payload บนสายลงครึ่งหนึ่งสำหรับ prefill และบล็อก speculative; f32 เป็นทางสำรองเพื่อการวินิจฉัย
wire_hidden_codecไม่fp16โคเดกทดลองสำหรับบล็อก hidden activation หลายโทเค็นระหว่างสเตจ GGUF pipeline การ decode ทีละโทเค็นยังใช้เส้นทาง dtype ราคาถูก โคเดกทั่วไปใช้เฉพาะกับบล็อก prefill/speculative ที่การประหยัดไบต์ชดเชยต้นทุนโคเดกได้ fp16 ปลอดภัยที่สุด auto8/hq8 ใช้เพื่อการวินิจฉัย
stage_chainingไม่trueเมื่อทุกสเตจ GGUF เป็นสเตจระยะไกลและรองรับโปรโตคอล chain ระบบจะส่ง hidden activation ต่อกันโดยตรงจากสเตจหนึ่งไปอีกสเตจหนึ่ง แทนการส่งผ่าน checkpoint coordinator ที่ทุกรอยต่อ
latent_modeไม่offSoft Thinking / SwiReasoning แบบไม่ต้องฝึกเพิ่มระหว่าง <think>…</think> ต้องใช้ GGUF WASM ที่มี _lstage_eval_soft บนโฮสต์สเตจ มิฉะนั้นจะถอยกลับไปใช้การ decode แบบ discrete ปิดเป็นค่าเริ่มต้นจนกว่าจะสร้าง WASM บน CDN ใหม่ ใช้ร่วมกับ speculation ไม่ได้เมื่อเปิด Soft Thinking
latent_phaseไม่taggedtagged = ตัวทำเครื่องหมายการคิด; prefix = ตั้งแต่ขั้นตอนที่ 0 (โมเดลที่ไม่มีตัวทำเครื่องหมาย)
latent_exit_textไม่ Final answer: ใช้เฉพาะเมื่อ latent_phase=prefix (โทเค็นคำศัพท์ปกติ)
latent_top_nไม่15Soft top-n
latent_entropy_tauไม่0.05Cold Stop entropy τ
latent_cold_stop_kไม่256Cold Stop จำนวนขั้นตอนต่อเนื่อง
swi_dwell_windowไม่512Swi Explicit→Latent dwell
swi_max_switchesไม่8Swi จำนวนการสลับ Latent→Explicit สูงสุด
max_thinking_tokensไม่1536งบตายตัวก่อนบังคับ </think> / ออกจาก prefix ต้องต่ำกว่า `max_new_tokens` อย่างมีนัยสำคัญ เพราะงบการให้เหตุผลที่เท่ากับหรือสูงกว่างบการสร้างทั้งหมดจะทำให้คำตอบถูกตัดกลางความคิดโดยไม่มีคำตอบเลย control plane จะคำนวณค่านี้ใหม่จากงบที่การจัดวางที่เลือกรองรับได้จริง ค่าที่น้อยกว่าจึงถูกใช้ตามนั้น ส่วนค่าที่มากกว่าจะถูกจำกัด
min_thinking_tokensไม่0ขั้นต่ำ: ปิดบัง </think> ออกจากการสุ่มจนกว่าจะมีโทเค็นการให้เหตุผลครบจำนวนนี้ 0 คือปิดใช้ ป้องกันไม่ให้บล็อกการคิดปิดที่โทเค็นแรกที่สร้างแล้วตอบโดยไม่มีการให้เหตุผลเลย
promptใช่—ข้อความ / พรอมต์ของผู้ใช้สำหรับโมเดลแชท

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

โพลด้วยคีย์ API เดียวกันจนกว่า status จะเป็นสถานะสิ้นสุด (COMPLETED, FAILED, CANCELED หรือ MODERATION_BLOCKED) เมื่อเปิดใช้การกลั่นกรองเนื้อหา งานอาจเริ่มที่ MODERATION_PENDING ก่อนเข้าสู่คิวประมวลผล งานที่เสร็จสมบูรณ์จะมีค่า download_url ที่ลงนามล่วงหน้าในแต่ละเอาต์พุต

การตอบกลับเมื่อสร้าง

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

การตอบกลับเมื่อเสร็จสมบูรณ์

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}