LLM

Ornith 1.5 35B A3B

Položte otázku nebo zkuste krátký úkol s psaním. Přihlásíte se při odeslání první zprávy.

Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.

Copyright 2026 Alibaba Cloud

Licence modelu

Ornith-1.5-35B-A3B · MIT

Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.

Přiložená licence

Oznámení

Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0

Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.

Přiložená licence

ZdarmaOnlineBez omezeníPublisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weig Přístup přes API

Kdykoli budete připraveni.

Napište zprávu a stiskněte Odeslat — přihlásíte se a začnete.

Napište zadání a získejte odpověď od Ornith 1.5 35B – modelu, který před odpovědí přemýšlí a je stavěný pro programování, ladění a uvažování krok za krokem. Je to model typu mixture-of-experts: celkem 35 miliard parametrů, ale pro jedno slovo se využijí jen zhruba tři miliardy, a právě proto tak schopný model vůbec může běžet na běžném hardwaru. Obvyklý provoz vyžaduje 80GB GPU z datacentra. Zde je rozdělen na malé části, které se rozprostřou mezi zařízení, která připojíte – notebook, desktop, rezervní stroj, nebo několik z nich společně – a každé drží méně než gigabajt. Díky tomu je to LLM online zdarma, který si můžete skutečně spustit sami, místo abyste si ho pronajímali. Požádejte ho, aby napsal funkci, našel chybu, naplánoval refaktoring nebo zvládl těžkou otázku; nejprve ukáže své uvažování a poté vám dá odpověď. Text dovnitř, text ven – obrázky nečte ani negeneruje a odpověď přijde jako prostý text, který můžete zkopírovat.

Reference API

Odeslání přes REST

Pomocí svého osobního klíče API (msk_…) vytvářejte úlohy pro tuto úlohu ze svých vlastních nástrojů. Takto spuštěné úlohy běží na stejných zařízeních, která jste připojili na stránce Vaše zařízení — alespoň jedno z nich musí být online.

Skrýt podrobnosti API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Ověřujte se pomocí X-Organization-Api-Key: msk_your_personal_api_key. Název hlavičky odpovídá klíčům organizace; osobní klíče používají stejný koncový bod.

Vstupní soubory:Zavolejte POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign se stejným klíčem API, nahrajte soubor na vrácenou adresu upload_url a poté předejte download_url v job_spec (například jako input_image_url).

Tělo požadavku

{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Pole job_spec

PolePovinnéVýchozíPopis
system_promptNe—Volitelný systémový prompt
enable_thinkingNetruePovolit uvažování před konečnou odpovědí. Šablona chatu Ornith otevírá blok `<think>`; nechte zapnuto.
max_new_tokensNe2048Maximum vygenerovaných tokenů (uvažování + odpověď). Zvyšte pro dlouhé výstupy. Zadání a generování sdílejí kontextové okno, takže generování se zastaví na hranici kontextu a nezvyšuje minimum paměti fáze.
max_contextNe8192Celkový počet tokenů, pro které hostitelé fází alokují stav KV/rekurentní stav – zadání plus generování. Strop je největší kontext, při kterém Oracle tento model změřil, takže rozmístění nikdy nemusí extrapolovat za hranici doložených měření. Jeho zvýšení zvyšuje minimum paměti, a tím zužuje okruh zařízení, která mohou úlohu spustit.
kv_hot_windowNe32768Fyzická attention KV je omezena na nejnovějších N tokenů, takže konverzace delší než N zapomene své nejstarší repliky, místo aby se zastavila na hranici kontextu. 0 ponechá celý kontext rezidentní. Na úrovni kontextového okna nebo pod ní se nic nemění – stejná paměť, stejná attention – a snížení pod kontextové okno vyměňuje dlouhodobou paměť za neomezenou délku konverzace, protože model za oknem skutečně nevidí.
turnsNe—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNe0.6Temperature
top_pNe0.95Top P
top_kNe20Top K
presence_penaltyNe0Presence Penalty
repetition_penaltyNe1Repetition Penalty
seedNe—Náhodný seed pro reprodukovatelnost
speculative_ngramNefalseNávrhy vyhledáním v promptu: opakované n-gramy z kontextu se přehrají jako návrhové bloky a model je ověří JEDINÝM průchodem, takže jediný síťový round trip může potvrdit několik tokenů. Žádný další model; výstup je shodný se sekvenčním dekódováním.
speculative_draft_modelNefalseNa uzlu s checkpointem spustí drobný návrhový model GGUF, který navrhuje bloky (preferujte „Název přiloženého souboru návrhového modelu“; externí URL zůstává k dispozici jako záložní možnost). Pokud návrhový model není k dispozici, přepne se na n-gramové návrhy.
draft_model_fileNe—Název nerozděleného návrhového modelu GGUF v balíčku tohoto workloadu. SDK ho vyhledá v required_files, takže soukromé buckety S3 mohou použít podepsanou/proxy URL poskytnutou serverem místo veřejné URL.
draft_model_urlNe—Volitelná externí HTTPS URL drobného návrhového modelu GGUF. Použije se jako záložní možnost, pokud „Název přiloženého souboru návrhového modelu“ chybí nebo není v required_files.
speculative_max_draftNe8Horní hranice návrhových tokenů ověřovaných v jednom bloku. Efektivní délka se přizpůsobuje pozorované míře přijetí.
min_remote_stagesNe0Diagnostický parametr rozmístění pro testování pipeline-paralelního GGUF. Pokud je > 0, checkpoint se přiřadí pouze uzlům, které by spustily alespoň tolik fází přes WebRTC místo lokálně. Po uplynutí ochranné lhůty peeru s checkpointem se vrátí k běžnému chování, aby nevyhladověly produkční úlohy.
wire_hidden_dtypeNef16Datový typ skrytých aktivací mezi fázemi pipeline GGUF. f16 snižuje objem dat na lince pro prefill a spekulativní bloky na polovinu; f32 je diagnostická záloha.
wire_hidden_codecNefp16Experimentální kodek pro vícetokenové bloky skrytých aktivací mezi fázemi pipeline GGUF. Dekódování jednoho tokenu zůstává na levné cestě podle datového typu; obecné kodeky se používají jen pro prefill/spekulativní bloky, kde úspora bajtů může vyvážit cenu kodeku. fp16 je nejbezpečnější; auto8/hq8 jsou diagnostické.
stage_chainingNetruePokud jsou všechny fáze GGUF vzdálené a podporují protokol řetězení, posílá skryté aktivace přímo z fáze do fáze, místo aby se každá hranice přenášela přes koordinátora checkpointu.
latent_modeNeoffSoft Thinking / SwiReasoning bez trénování během <think>…</think>. Vyžaduje GGUF WASM s _lstage_eval_soft na hostitelích fází; jinak se vrátí k diskrétnímu dekódování. Ve výchozím stavu vypnuto, dokud se nepřebuduje CDN WASM. Při aktivním Soft Thinking se vylučuje se spekulací.
latent_phaseNetaggedtagged = značky uvažování; prefix = od kroku 0 (modely bez značek).
latent_exit_textNe Final answer: Používá se pouze při latent_phase=prefix (běžné tokeny slovníku).
latent_top_nNe15Soft top-n
latent_entropy_tauNe0.05Entropie τ pro Cold Stop
latent_cold_stop_kNe256Po sobě jdoucí kroky Cold Stop
swi_dwell_windowNe512Prodleva Swi Explicit→Latent
swi_max_switchesNe8Maximum přepnutí Swi Latent→Explicit
max_thinking_tokensNe1536Pevný rozpočet před vynuceným </think> / ukončením prefixu. Musí zůstat výrazně pod `max_new_tokens`: rozpočet uvažování rovný celkovému rozpočtu generování nebo vyšší vede k odpovědi uříznuté uprostřed myšlenky, bez jakéhokoli výsledku. Řídicí rovina tuto hodnotu znovu ořízne podle rozpočtu, který zvolené rozmístění skutečně unese, takže menší hodnota se respektuje a větší se omezí.
min_thinking_tokensNe0Spodní mez: maskuje </think> ve vzorkování, dokud neexistuje tolik tokenů uvažování. 0 vypíná. Brání tomu, aby se blok uvažování uzavřel prvním vygenerovaným tokenem a odpověď přišla bez jakéhokoli uvažování.
promptAno—Zpráva / zadání pro chatovací model

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Dotazujte se se stejným klíčem API, dokud status nedosáhne koncového stavu (COMPLETED, FAILED, CANCELED nebo MODERATION_BLOCKED). Když je zapnuto moderování obsahu, mohou úlohy začínat ve stavu MODERATION_PENDING, než vstoupí do výpočetní fronty. Dokončené úlohy obsahují u každého výstupu předem podepsané hodnoty download_url.

Odpověď na vytvoření

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Odpověď po dokončení

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}