LLM

Ornith 1.5 35B A3B

Поставте запитання або спробуйте коротке завдання з написання тексту. Увійдете, коли надішлете перше повідомлення.

Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.

Copyright 2026 Alibaba Cloud

Ліцензії моделі

Ornith-1.5-35B-A3B · MIT

Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.

Додана ліцензія

Повідомлення

Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0

Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.

Додана ліцензія

БезкоштовноОнлайнБез обмеженьPublisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weig Доступ через API

Коли будете готові.

Напишіть повідомлення й натисніть «Надіслати», щоб увійти й почати.

Введіть запит і отримайте відповідь від Ornith 1.5 35B — моделі, яка думає, перш ніж відповісти, і створена для програмування, налагодження та покрокових міркувань. Це модель типу mixture-of-experts: 35 мільярдів параметрів загалом, але для кожного слова використовується лише близько трьох мільярдів, завдяки чому така потужна модель взагалі може працювати на звичайному обладнанні. Звичайний спосіб запуску потребує 80 ГБ GPU для дата-центру. Тут вона розділена на невеликі частини, які розподіляються між підключеними вами пристроями — ноутбуком, настільним комп’ютером, запасною машиною чи кількома разом, — і кожен утримує менше гігабайта. Тож це безкоштовний онлайн LLM, який ви справді можете запустити самі, а не орендувати. Попросіть написати функцію, знайти помилку, спланувати рефакторинг або розібрати складне запитання; спершу модель покаже свої міркування, а потім дасть відповідь. Текст на вході, текст на виході — модель не читає зображень і не створює їх, а відповідь надходить як звичайний текст, який можна скопіювати.

Довідник API

Надсилання через REST

Використовуйте свій особистий ключ API (msk_…), щоб створювати завдання для цього навантаження з власних інструментів. Завдання, запущені так, виконуються на тих самих пристроях, які ви під’єднали на сторінці Ваші пристрої, — принаймні один має бути в мережі.

Приховати деталі API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Автентифікуйтеся за допомогою X-Organization-Api-Key: msk_your_personal_api_key. Назва заголовка така сама, як для ключів організації; особисті ключі використовують ту саму кінцеву точку.

Вхідні файли:Викличте POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign з тим самим ключем API, завантажте файл на повернутий upload_url, а потім передайте download_url у job_spec (наприклад, як input_image_url).

Тіло запиту

{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Поля job_spec

ПолеОбов’язковеЗа замовчуваннямОпис
system_promptНі—Необов’язковий системний запит
enable_thinkingНіtrueУвімкнути міркування перед остаточною відповіддю. Шаблон чату Ornith відкриває блок `<think>`; залиште це ввімкненим.
max_new_tokensНі2048Максимальна кількість згенерованих токенів (міркування + відповідь). Збільште для довгих текстів. Запит і генерація ділять вікно контексту, тож генерація зупиняється на межі контексту, а не збільшує нижню межу пам’яті етапу.
max_contextНі8192Загальна кількість токенів, для яких вузли етапів виділяють стан KV/рекурентний стан, — запит плюс генерація. Верхня межа — найбільший контекст, на якому Oracle виміряв цю модель, тож розміщенню не доводиться екстраполювати поза межі підтверджених даних. Збільшення цього значення підвищує нижню межу пам’яті й відповідно звужує коло пристроїв, які можуть виконати завдання.
kv_hot_windowНі32768Фізичний KV уваги обмежується найновішими N токенами, тож розмова довша за N забуває найстаріші репліки, а не зупиняється на межі контексту. 0 зберігає весь контекст у пам’яті. На рівні вікна контексту або нижче нічого не змінюється — та сама пам’ять, та сама увага — а зниження нижче вікна контексту міняє довгострокову пам’ять на необмежену довжину розмови, бо модель справді не бачить далі за вікно.
turnsНі—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureНі0.6Temperature
top_pНі0.95Top P
top_kНі20Top K
presence_penaltyНі0Presence Penalty
repetition_penaltyНі1Repetition Penalty
seedНі—Випадкове значення seed для відтворюваності
speculative_ngramНіfalseЧернетування за пошуком у запиті: повторювані n-грами з контексту відтворюються як чернеткові блоки й перевіряються моделлю за ОДИН прохід, тож один мережевий обмін може зафіксувати кілька токенів. Додаткової моделі немає; результат ідентичний послідовному декодуванню.
speculative_draft_modelНіfalseЗапустіть крихітну чернеткову модель GGUF на вузлі з контрольною точкою, щоб пропонувати чернеткові блоки (віддавайте перевагу «Ім’ю вбудованого файлу чернеткової моделі»; зовнішній URL залишається запасним варіантом). Якщо чернеткова модель недоступна, відкочується до n-грамного чернетування.
draft_model_fileНі—Ім’я файлу нерозділеної чернеткової моделі GGUF у пакеті цього навантаження. SDK визначає його з required_files, тож приватні S3-бакети можуть використовувати підписаний/проксі-URL, наданий сервером, замість публічного URL.
draft_model_urlНі—Необов’язковий зовнішній HTTPS URL крихітної чернеткової моделі GGUF. Використовується як запасний варіант, коли «Ім’я вбудованого файлу чернеткової моделі» відсутнє або не зазначене в required_files.
speculative_max_draftНі8Верхня межа кількості чернеткових токенів, що перевіряються за один блок. Фактична довжина підлаштовується під спостережуваний рівень прийняття.
min_remote_stagesНі0Діагностичний параметр розміщення для тестування конвеєрного паралелізму GGUF. Якщо > 0, контрольна точка призначається лише вузлам, які виконували б щонайменше стільки етапів через WebRTC, а не локально. Після пільгового вікна для вузла контрольної точки відкочується, щоб не блокувати робочі завдання.
wire_hidden_dtypeНіf16Тип даних прихованої активації між етапами конвеєра GGUF. f16 удвічі зменшує корисне навантаження для prefill і спекулятивних блоків; f32 — діагностичний запасний варіант.
wire_hidden_codecНіfp16Експериментальний кодек для багатотокенових блоків прихованих активацій між етапами конвеєра GGUF. Декодування одного токена зберігає дешевий шлях за типом даних; загальні кодеки використовуються лише для prefill/спекулятивних блоків, де економія байтів може компенсувати вартість кодека. fp16 — найбезпечніший; auto8/hq8 — діагностичні.
stage_chainingНіtrueКоли всі етапи GGUF віддалені й підтримують протокол ланцюжка, надсилати приховані активації безпосередньо від етапу до етапу, а не пересилати кожну межу через координатор контрольної точки.
latent_modeНіoffSoft Thinking / SwiReasoning без навчання під час <think>…</think>. Потрібен GGUF WASM із _lstage_eval_soft на вузлах етапів; інакше відкочується до дискретного декодування. За замовчуванням вимкнено, доки не перебудовано CDN WASM. Взаємно виключається зі спекуляцією, коли активний Soft Thinking.
latent_phaseНіtaggedtagged = маркери think; prefix = з кроку 0 (моделі без маркерів).
latent_exit_textНі Final answer: Використовується лише за latent_phase=prefix (звичайні токени словника).
latent_top_nНі15Soft top-n
latent_entropy_tauНі0.05Ентропія Cold Stop τ
latent_cold_stop_kНі256Послідовні кроки Cold Stop
swi_dwell_windowНі512Витримка Swi Explicit→Latent
swi_max_switchesНі8Макс. перемикань Swi Latent→Explicit
max_thinking_tokensНі1536Жорсткий бюджет до примусового </think> / виходу за префіксом. Має залишатися помітно меншим за `max_new_tokens`: бюджет міркування, що дорівнює загальному бюджету генерації або перевищує його, дає відповідь, обірвану посеред думки, без жодної остаточної відповіді. Керівний сервер заново обчислює це з бюджету, який може собі дозволити обране розміщення, тож менше значення враховується, а більше — обмежується.
min_thinking_tokensНі0Нижня межа: маскувати </think> під час семплування, доки не набереться стільки токенів міркування. 0 вимикає. Не дає блоку think закритися на першому згенерованому токені й відповісти без жодних міркувань.
promptТак—Повідомлення користувача / запит для чат-моделі

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Опитуйте з тим самим ключем API, доки status не стане кінцевим (COMPLETED, FAILED, CANCELED або MODERATION_BLOCKED). Коли ввімкнено модерацію вмісту, завдання можуть починатися в стані MODERATION_PENDING, перш ніж потрапити в чергу обчислень. Завершені завдання містять попередньо підписані значення download_url для кожного результату.

Відповідь на створення

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Відповідь після завершення

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}