LLM
Ornith 1.5 35B A3B
Поставте запитання або спробуйте коротке завдання з написання тексту. Увійдете, коли надішлете перше повідомлення.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Ліцензії моделі
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Введіть запит і отримайте відповідь від Ornith 1.5 35B — моделі, яка думає, перш ніж відповісти, і створена для програмування, налагодження та покрокових міркувань. Це модель типу mixture-of-experts: 35 мільярдів параметрів загалом, але для кожного слова використовується лише близько трьох мільярдів, завдяки чому така потужна модель взагалі може працювати на звичайному обладнанні. Звичайний спосіб запуску потребує 80 ГБ GPU для дата-центру. Тут вона розділена на невеликі частини, які розподіляються між підключеними вами пристроями — ноутбуком, настільним комп’ютером, запасною машиною чи кількома разом, — і кожен утримує менше гігабайта. Тож це безкоштовний онлайн LLM, який ви справді можете запустити самі, а не орендувати. Попросіть написати функцію, знайти помилку, спланувати рефакторинг або розібрати складне запитання; спершу модель покаже свої міркування, а потім дасть відповідь. Текст на вході, текст на виході — модель не читає зображень і не створює їх, а відповідь надходить як звичайний текст, який можна скопіювати.
Довідник API
Надсилання через REST
Використовуйте свій особистий ключ API (msk_…), щоб створювати завдання для цього навантаження з власних інструментів. Завдання, запущені так, виконуються на тих самих пристроях, які ви під’єднали на сторінці Ваші пристрої, — принаймні один має бути в мережі.
https://cp.meshlabs.cloud/v1/organizations/jobsАвтентифікуйтеся за допомогою X-Organization-Api-Key: msk_your_personal_api_key. Назва заголовка така сама, як для ключів організації; особисті ключі використовують ту саму кінцеву точку.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign з тим самим ключем API, завантажте файл на повернутий upload_url, а потім передайте download_url у job_spec (наприклад, як input_image_url).Тіло запиту
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Поля job_spec
| Поле | Обов’язкове | За замовчуванням | Опис |
|---|---|---|---|
system_prompt | Ні | — | Необов’язковий системний запит |
enable_thinking | Ні | true | Увімкнути міркування перед остаточною відповіддю. Шаблон чату Ornith відкриває блок `<think>`; залиште це ввімкненим. |
max_new_tokens | Ні | 2048 | Максимальна кількість згенерованих токенів (міркування + відповідь). Збільште для довгих текстів. Запит і генерація ділять вікно контексту, тож генерація зупиняється на межі контексту, а не збільшує нижню межу пам’яті етапу. |
max_context | Ні | 8192 | Загальна кількість токенів, для яких вузли етапів виділяють стан KV/рекурентний стан, — запит плюс генерація. Верхня межа — найбільший контекст, на якому Oracle виміряв цю модель, тож розміщенню не доводиться екстраполювати поза межі підтверджених даних. Збільшення цього значення підвищує нижню межу пам’яті й відповідно звужує коло пристроїв, які можуть виконати завдання. |
kv_hot_window | Ні | 32768 | Фізичний KV уваги обмежується найновішими N токенами, тож розмова довша за N забуває найстаріші репліки, а не зупиняється на межі контексту. 0 зберігає весь контекст у пам’яті. На рівні вікна контексту або нижче нічого не змінюється — та сама пам’ять, та сама увага — а зниження нижче вікна контексту міняє довгострокову пам’ять на необмежену довжину розмови, бо модель справді не бачить далі за вікно. |
turns | Ні | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Ні | 0.6 | Temperature |
top_p | Ні | 0.95 | Top P |
top_k | Ні | 20 | Top K |
presence_penalty | Ні | 0 | Presence Penalty |
repetition_penalty | Ні | 1 | Repetition Penalty |
seed | Ні | — | Випадкове значення seed для відтворюваності |
speculative_ngram | Ні | false | Чернетування за пошуком у запиті: повторювані n-грами з контексту відтворюються як чернеткові блоки й перевіряються моделлю за ОДИН прохід, тож один мережевий обмін може зафіксувати кілька токенів. Додаткової моделі немає; результат ідентичний послідовному декодуванню. |
speculative_draft_model | Ні | false | Запустіть крихітну чернеткову модель GGUF на вузлі з контрольною точкою, щоб пропонувати чернеткові блоки (віддавайте перевагу «Ім’ю вбудованого файлу чернеткової моделі»; зовнішній URL залишається запасним варіантом). Якщо чернеткова модель недоступна, відкочується до n-грамного чернетування. |
draft_model_file | Ні | — | Ім’я файлу нерозділеної чернеткової моделі GGUF у пакеті цього навантаження. SDK визначає його з required_files, тож приватні S3-бакети можуть використовувати підписаний/проксі-URL, наданий сервером, замість публічного URL. |
draft_model_url | Ні | — | Необов’язковий зовнішній HTTPS URL крихітної чернеткової моделі GGUF. Використовується як запасний варіант, коли «Ім’я вбудованого файлу чернеткової моделі» відсутнє або не зазначене в required_files. |
speculative_max_draft | Ні | 8 | Верхня межа кількості чернеткових токенів, що перевіряються за один блок. Фактична довжина підлаштовується під спостережуваний рівень прийняття. |
min_remote_stages | Ні | 0 | Діагностичний параметр розміщення для тестування конвеєрного паралелізму GGUF. Якщо > 0, контрольна точка призначається лише вузлам, які виконували б щонайменше стільки етапів через WebRTC, а не локально. Після пільгового вікна для вузла контрольної точки відкочується, щоб не блокувати робочі завдання. |
wire_hidden_dtype | Ні | f16 | Тип даних прихованої активації між етапами конвеєра GGUF. f16 удвічі зменшує корисне навантаження для prefill і спекулятивних блоків; f32 — діагностичний запасний варіант. |
wire_hidden_codec | Ні | fp16 | Експериментальний кодек для багатотокенових блоків прихованих активацій між етапами конвеєра GGUF. Декодування одного токена зберігає дешевий шлях за типом даних; загальні кодеки використовуються лише для prefill/спекулятивних блоків, де економія байтів може компенсувати вартість кодека. fp16 — найбезпечніший; auto8/hq8 — діагностичні. |
stage_chaining | Ні | true | Коли всі етапи GGUF віддалені й підтримують протокол ланцюжка, надсилати приховані активації безпосередньо від етапу до етапу, а не пересилати кожну межу через координатор контрольної точки. |
latent_mode | Ні | off | Soft Thinking / SwiReasoning без навчання під час <think>…</think>. Потрібен GGUF WASM із _lstage_eval_soft на вузлах етапів; інакше відкочується до дискретного декодування. За замовчуванням вимкнено, доки не перебудовано CDN WASM. Взаємно виключається зі спекуляцією, коли активний Soft Thinking. |
latent_phase | Ні | tagged | tagged = маркери think; prefix = з кроку 0 (моделі без маркерів). |
latent_exit_text | Ні | Final answer: | Використовується лише за latent_phase=prefix (звичайні токени словника). |
latent_top_n | Ні | 15 | Soft top-n |
latent_entropy_tau | Ні | 0.05 | Ентропія Cold Stop τ |
latent_cold_stop_k | Ні | 256 | Послідовні кроки Cold Stop |
swi_dwell_window | Ні | 512 | Витримка Swi Explicit→Latent |
swi_max_switches | Ні | 8 | Макс. перемикань Swi Latent→Explicit |
max_thinking_tokens | Ні | 1536 | Жорсткий бюджет до примусового </think> / виходу за префіксом. Має залишатися помітно меншим за `max_new_tokens`: бюджет міркування, що дорівнює загальному бюджету генерації або перевищує його, дає відповідь, обірвану посеред думки, без жодної остаточної відповіді. Керівний сервер заново обчислює це з бюджету, який може собі дозволити обране розміщення, тож менше значення враховується, а більше — обмежується. |
min_thinking_tokens | Ні | 0 | Нижня межа: маскувати </think> під час семплування, доки не набереться стільки токенів міркування. 0 вимикає. Не дає блоку think закритися на першому згенерованому токені й відповісти без жодних міркувань. |
prompt | Так | — | Повідомлення користувача / запит для чат-моделі |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Опитуйте з тим самим ключем API, доки status не стане кінцевим (COMPLETED, FAILED, CANCELED або MODERATION_BLOCKED). Коли ввімкнено модерацію вмісту, завдання можуть починатися в стані MODERATION_PENDING, перш ніж потрапити в чергу обчислень. Завершені завдання містять попередньо підписані значення download_url для кожного результату.
Відповідь на створення
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Відповідь після завершення
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}