LLM
Ornith 1.5 35B A3B
Položte otázku nebo zkuste krátký úkol s psaním. Přihlásíte se při odeslání první zprávy.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Licence modelu
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Napište zadání a získejte odpověď od Ornith 1.5 35B – modelu, který před odpovědí přemýšlí a je stavěný pro programování, ladění a uvažování krok za krokem. Je to model typu mixture-of-experts: celkem 35 miliard parametrů, ale pro jedno slovo se využijí jen zhruba tři miliardy, a právě proto tak schopný model vůbec může běžet na běžném hardwaru. Obvyklý provoz vyžaduje 80GB GPU z datacentra. Zde je rozdělen na malé části, které se rozprostřou mezi zařízení, která připojíte – notebook, desktop, rezervní stroj, nebo několik z nich společně – a každé drží méně než gigabajt. Díky tomu je to LLM online zdarma, který si můžete skutečně spustit sami, místo abyste si ho pronajímali. Požádejte ho, aby napsal funkci, našel chybu, naplánoval refaktoring nebo zvládl těžkou otázku; nejprve ukáže své uvažování a poté vám dá odpověď. Text dovnitř, text ven – obrázky nečte ani negeneruje a odpověď přijde jako prostý text, který můžete zkopírovat.
Reference API
Odeslání přes REST
Pomocí svého osobního klíče API (msk_…) vytvářejte úlohy pro tuto úlohu ze svých vlastních nástrojů. Takto spuštěné úlohy běží na stejných zařízeních, která jste připojili na stránce Vaše zařízení — alespoň jedno z nich musí být online.
https://cp.meshlabs.cloud/v1/organizations/jobsOvěřujte se pomocí X-Organization-Api-Key: msk_your_personal_api_key. Název hlavičky odpovídá klíčům organizace; osobní klíče používají stejný koncový bod.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign se stejným klíčem API, nahrajte soubor na vrácenou adresu upload_url a poté předejte download_url v job_spec (například jako input_image_url).Tělo požadavku
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Pole job_spec
| Pole | Povinné | Výchozí | Popis |
|---|---|---|---|
system_prompt | Ne | — | Volitelný systémový prompt |
enable_thinking | Ne | true | Povolit uvažování před konečnou odpovědí. Šablona chatu Ornith otevírá blok `<think>`; nechte zapnuto. |
max_new_tokens | Ne | 2048 | Maximum vygenerovaných tokenů (uvažování + odpověď). Zvyšte pro dlouhé výstupy. Zadání a generování sdílejí kontextové okno, takže generování se zastaví na hranici kontextu a nezvyšuje minimum paměti fáze. |
max_context | Ne | 8192 | Celkový počet tokenů, pro které hostitelé fází alokují stav KV/rekurentní stav – zadání plus generování. Strop je největší kontext, při kterém Oracle tento model změřil, takže rozmístění nikdy nemusí extrapolovat za hranici doložených měření. Jeho zvýšení zvyšuje minimum paměti, a tím zužuje okruh zařízení, která mohou úlohu spustit. |
kv_hot_window | Ne | 32768 | Fyzická attention KV je omezena na nejnovějších N tokenů, takže konverzace delší než N zapomene své nejstarší repliky, místo aby se zastavila na hranici kontextu. 0 ponechá celý kontext rezidentní. Na úrovni kontextového okna nebo pod ní se nic nemění – stejná paměť, stejná attention – a snížení pod kontextové okno vyměňuje dlouhodobou paměť za neomezenou délku konverzace, protože model za oknem skutečně nevidí. |
turns | Ne | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Ne | 0.6 | Temperature |
top_p | Ne | 0.95 | Top P |
top_k | Ne | 20 | Top K |
presence_penalty | Ne | 0 | Presence Penalty |
repetition_penalty | Ne | 1 | Repetition Penalty |
seed | Ne | — | Náhodný seed pro reprodukovatelnost |
speculative_ngram | Ne | false | Návrhy vyhledáním v promptu: opakované n-gramy z kontextu se přehrají jako návrhové bloky a model je ověří JEDINÝM průchodem, takže jediný síťový round trip může potvrdit několik tokenů. Žádný další model; výstup je shodný se sekvenčním dekódováním. |
speculative_draft_model | Ne | false | Na uzlu s checkpointem spustí drobný návrhový model GGUF, který navrhuje bloky (preferujte „Název přiloženého souboru návrhového modelu“; externí URL zůstává k dispozici jako záložní možnost). Pokud návrhový model není k dispozici, přepne se na n-gramové návrhy. |
draft_model_file | Ne | — | Název nerozděleného návrhového modelu GGUF v balíčku tohoto workloadu. SDK ho vyhledá v required_files, takže soukromé buckety S3 mohou použít podepsanou/proxy URL poskytnutou serverem místo veřejné URL. |
draft_model_url | Ne | — | Volitelná externí HTTPS URL drobného návrhového modelu GGUF. Použije se jako záložní možnost, pokud „Název přiloženého souboru návrhového modelu“ chybí nebo není v required_files. |
speculative_max_draft | Ne | 8 | Horní hranice návrhových tokenů ověřovaných v jednom bloku. Efektivní délka se přizpůsobuje pozorované míře přijetí. |
min_remote_stages | Ne | 0 | Diagnostický parametr rozmístění pro testování pipeline-paralelního GGUF. Pokud je > 0, checkpoint se přiřadí pouze uzlům, které by spustily alespoň tolik fází přes WebRTC místo lokálně. Po uplynutí ochranné lhůty peeru s checkpointem se vrátí k běžnému chování, aby nevyhladověly produkční úlohy. |
wire_hidden_dtype | Ne | f16 | Datový typ skrytých aktivací mezi fázemi pipeline GGUF. f16 snižuje objem dat na lince pro prefill a spekulativní bloky na polovinu; f32 je diagnostická záloha. |
wire_hidden_codec | Ne | fp16 | Experimentální kodek pro vícetokenové bloky skrytých aktivací mezi fázemi pipeline GGUF. Dekódování jednoho tokenu zůstává na levné cestě podle datového typu; obecné kodeky se používají jen pro prefill/spekulativní bloky, kde úspora bajtů může vyvážit cenu kodeku. fp16 je nejbezpečnější; auto8/hq8 jsou diagnostické. |
stage_chaining | Ne | true | Pokud jsou všechny fáze GGUF vzdálené a podporují protokol řetězení, posílá skryté aktivace přímo z fáze do fáze, místo aby se každá hranice přenášela přes koordinátora checkpointu. |
latent_mode | Ne | off | Soft Thinking / SwiReasoning bez trénování během <think>…</think>. Vyžaduje GGUF WASM s _lstage_eval_soft na hostitelích fází; jinak se vrátí k diskrétnímu dekódování. Ve výchozím stavu vypnuto, dokud se nepřebuduje CDN WASM. Při aktivním Soft Thinking se vylučuje se spekulací. |
latent_phase | Ne | tagged | tagged = značky uvažování; prefix = od kroku 0 (modely bez značek). |
latent_exit_text | Ne | Final answer: | Používá se pouze při latent_phase=prefix (běžné tokeny slovníku). |
latent_top_n | Ne | 15 | Soft top-n |
latent_entropy_tau | Ne | 0.05 | Entropie τ pro Cold Stop |
latent_cold_stop_k | Ne | 256 | Po sobě jdoucí kroky Cold Stop |
swi_dwell_window | Ne | 512 | Prodleva Swi Explicit→Latent |
swi_max_switches | Ne | 8 | Maximum přepnutí Swi Latent→Explicit |
max_thinking_tokens | Ne | 1536 | Pevný rozpočet před vynuceným </think> / ukončením prefixu. Musí zůstat výrazně pod `max_new_tokens`: rozpočet uvažování rovný celkovému rozpočtu generování nebo vyšší vede k odpovědi uříznuté uprostřed myšlenky, bez jakéhokoli výsledku. Řídicí rovina tuto hodnotu znovu ořízne podle rozpočtu, který zvolené rozmístění skutečně unese, takže menší hodnota se respektuje a větší se omezí. |
min_thinking_tokens | Ne | 0 | Spodní mez: maskuje </think> ve vzorkování, dokud neexistuje tolik tokenů uvažování. 0 vypíná. Brání tomu, aby se blok uvažování uzavřel prvním vygenerovaným tokenem a odpověď přišla bez jakéhokoli uvažování. |
prompt | Ano | — | Zpráva / zadání pro chatovací model |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Dotazujte se se stejným klíčem API, dokud status nedosáhne koncového stavu (COMPLETED, FAILED, CANCELED nebo MODERATION_BLOCKED). Když je zapnuto moderování obsahu, mohou úlohy začínat ve stavu MODERATION_PENDING, než vstoupí do výpočetní fronty. Dokončené úlohy obsahují u každého výstupu předem podepsané hodnoty download_url.
Odpověď na vytvoření
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Odpověď po dokončení
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}