LLM
Ornith 1.5 35B A3B
Kysy kysymys tai kokeile lyhyttä kirjoitustehtävää. Kirjaudu sisään, kun lähetät ensimmäisen viestisi.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Mallin lisenssit
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Kirjoita kehote ja saat vastauksen Ornith 1.5 35B:ltä – mallilta, joka miettii ennen vastaamista ja on tehty koodaukseen, virheiden etsintään ja vaiheittaiseen päättelyyn. Se on mixture-of-experts-malli: yhteensä 35 miljardia parametria, mutta vain noin kolme miljardia käytetään yhtä sanaa kohden, minkä vuoksi näin kyvykäs malli voi ylipäätään toimia tavallisella laitteistolla. Sen ajaminen tavalliseen tapaan vaatii 80 Gt:n konesalin GPU:n. Täällä se on jaettu pieniin osiin, jotka levitetään yhdistämillesi laitteille – kannettavalle, pöytäkoneelle, varakoneelle tai useammalle yhdessä – ja jokainen pitää alle gigatavun. Se tekee tästä ilmaisen verkkopohjaisen LLM:n, jota voit todella ajaa itse sen vuokraamisen sijaan. Pyydä sitä kirjoittamaan funktio, löytämään virhe, suunnittelemaan refaktorointi tai ratkaisemaan vaikea kysymys; se näyttää ensin päättelynsä ja antaa sitten vastauksen. Teksti sisään, teksti ulos – se ei lue eikä generoi kuvia, ja vastaus saapuu pelkkänä tekstinä, jonka voit kopioida.
API-viite
Lähetä RESTin kautta
Käytä henkilökohtaista API-avaintasi (msk_…) luodaksesi tämän työkuorman töitä omista työkaluistasi. Näin käynnistetyt työt suoritetaan samoilla laitteilla, jotka yhdistit sivulla Laitteesi – vähintään yhden on oltava verkossa.
https://cp.meshlabs.cloud/v1/organizations/jobsTodenna otsakkeella X-Organization-Api-Key: msk_your_personal_api_key. Otsakkeen nimi on sama kuin organisaatioavaimilla; henkilökohtaiset avaimet käyttävät samaa päätepistettä.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign samalla API-avaimella, lataa tiedostosi palautettuun osoitteeseen upload_url ja välitä sitten download_url kentässä job_spec (esimerkiksi nimellä input_image_url).Pyynnön runko
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}job_spec – kentät
| Kenttä | Pakollinen | Oletus | Kuvaus |
|---|---|---|---|
system_prompt | Ei | — | Valinnainen järjestelmäkehote |
enable_thinking | Ei | true | Ota ajattelu tai päättely käyttöön ennen lopullista vastausta. Ornithin chat-mallipohja avaa `<think>`-lohkon; pidä tämä päällä. |
max_new_tokens | Ei | 2048 | Generoitavien tokenien enimmäismäärä (ajattelu + vastaus). Nosta pitkää tulostetta varten. Kehote ja generointi jakavat kontekstti-ikkunan, joten generointi pysähtyy kontekstiin sen sijaan, että vaiheen muistin alaraja kasvaisi. |
max_context | Ei | 8192 | Tokenien kokonaismäärä, jolle vaihetoimittajat varaavat KV- tai rekurrenttitilan – kehote ja generointi yhteensä. Yläraja on suurin konteksti, jolla Oracle mittasi tämän mallin, joten sijoittelun ei tarvitse ekstrapoloida todisteiden ulkopuolelle. Sen nostaminen nostaa muistin vähimmäisvaatimusta ja kaventaa siten niiden laitteiden joukkoa, jotka voivat ajaa työn. |
kv_hot_window | Ei | 32768 | Fyysinen huomio-KV rajataan uusimpiin N tokeniin, joten N:ää pidempi keskustelu unohtaa vanhimmat vuoronsa sen sijaan, että pysähtyisi kontekstirajaan. 0 pitää koko kontekstin muistissa. Kontekstti-ikkunan tasolla tai alle tämä ei muuta mitään – sama muisti, sama huomio – ja sen laskeminen ikkunan alle vaihtaa pitkän kantaman muistin rajattomaan keskustelun pituuteen, koska malli ei todella näe ikkunan taakse. |
turns | Ei | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Ei | 0.6 | Temperature |
top_p | Ei | 0.95 | Top P |
top_k | Ei | 20 | Top K |
presence_penalty | Ei | 0 | Presence Penalty |
repetition_penalty | Ei | 1 | Repetition Penalty |
seed | Ei | — | Satunnaissiemen toistettavuutta varten |
speculative_ngram | Ei | false | Kehotehakuun perustuva luonnostelu: kontekstin toistuvat n-grammit toistetaan luonnoslohkoina ja malli varmentaa ne YHDELLÄ läpikäynnillä, joten yksi verkon edestakainen kierros voi vahvistaa useita tokeneita. Ei lisämallia; tulos on identtinen peräkkäisen dekoodauksen kanssa. |
speculative_draft_model | Ei | false | Aja pientä GGUF-luonnosmallia tarkistuspistesolmussa luonnoslohkojen ehdottamiseksi (suosi 'Luonnosmallin mukana toimitettu tiedostonimi'; ulkoinen URL on edelleen käytettävissä varavaihtoehtona). Palaa n-grammiluonnosteluun, jos luonnosmalli ei ole käytettävissä. |
draft_model_file | Ei | — | Tämän työkuormapaketin osittamattoman GGUF-luonnosmallin tiedostonimi. SDK ratkaisee sen required_files-luettelosta, joten yksityiset S3-bucketit voivat käyttää palvelimen antamaa allekirjoitettua tai välityspalvelin-URL:ia julkisen URL:n sijaan. |
draft_model_url | Ei | — | Pienen GGUF-luonnosmallin valinnainen ulkoinen HTTPS-URL. Käytetään varavaihtoehtona, kun 'Luonnosmallin mukana toimitettu tiedostonimi' puuttuu tai ei ole required_files-luettelossa. |
speculative_max_draft | Ei | 8 | Lohkoa kohden varmennettavien luonnostokenien yläraja. Tehokas pituus mukautuu havaittuun hyväksymisasteeseen. |
min_remote_stages | Ei | 0 | Diagnostinen sijoittelusäädin GGUF-putkirinnakkaisuuden testaukseen. Kun > 0, tarkistuspiste annetaan vain solmuille, jotka ajaisivat vähintään näin monta vaihetta WebRTC:n yli paikallisesti ajamisen sijaan. Palaa takaisin tarkistuspisteen vertaisen armonajan jälkeen, jotta tuotantotyöt eivät näänny. |
wire_hidden_dtype | Ei | f16 | Piilotettujen aktivaatioiden tyyppi GGUF-putken vaiheiden välillä. f16 puolittaa siirtokuorman esitäytössä ja spekulatiivisissa lohkoissa; f32 on diagnostinen varavaihtoehto. |
wire_hidden_codec | Ei | fp16 | Kokeellinen koodekki usean tokenin piilotettujen aktivaatioiden lohkoille GGUF-putken vaiheiden välillä. Yhden tokenin dekoodaus pitää edullisen tyyppipolun; yleisiä koodekkeja käytetään vain esitäytössä ja spekulatiivisissa lohkoissa, joissa tavusäästöt voivat kompensoida koodekin kustannuksen. fp16 on turvallisin; auto8/hq8 ovat diagnostiikkaa. |
stage_chaining | Ei | true | Kun kaikki GGUF-vaiheet ovat etänä ja tukevat ketjuprotokollaa, lähetä piilotetut aktivaatiot suoraan vaiheelta toiselle sen sijaan, että jokainen raja välitettäisiin tarkistuspistekoordinaattorin kautta. |
latent_mode | Ei | off | Koulutusvapaa Soft Thinking / SwiReasoning <think>…</think>-lohkon aikana. Vaatii GGUF WASM:n, jossa _lstage_eval_soft on vaihetoimittajilla; muuten palataan diskreettiin dekoodaukseen. Oletuksena pois, kunnes CDN-WASM on rakennettu uudelleen. Poissulkeva spekulaation kanssa, kun Soft Thinking on aktiivinen. |
latent_phase | Ei | tagged | tagged = ajattelumerkit; prefix = askeleesta 0 alkaen (merkittömät mallit). |
latent_exit_text | Ei | Final answer: | Käytetään vain, kun latent_phase=prefix (tavalliset sanastotokenit). |
latent_top_n | Ei | 15 | Soft top-n |
latent_entropy_tau | Ei | 0.05 | Cold Stop -entropia τ |
latent_cold_stop_k | Ei | 256 | Cold Stop peräkkäiset askeleet |
swi_dwell_window | Ei | 512 | Swi Explicit→Latent -viipymä |
swi_max_switches | Ei | 8 | Swi Latent→Explicit -vaihtojen enimmäismäärä |
max_thinking_tokens | Ei | 1536 | Kova budjetti ennen pakotettua </think>- tai etuliitepoistumista. Arvon on pysyttävä selvästi alle `max_new_tokens`-arvon: päättelybudjetti, joka on yhtä suuri tai suurempi kuin koko generointibudjetti, johtaa vastaukseen, joka katkeaa kesken ajatuksen ilman varsinaista vastausta. Ohjaustaso laskee tämän uudelleen sen budjetin perusteella, jonka valittu sijoittelu todellisuudessa kestää, joten pienempää arvoa noudatetaan ja suurempi rajataan. |
min_thinking_tokens | Ei | 0 | Alaraja: peitä </think> pois näytteenotosta, kunnes päättelytokeneita on tämän verran. 0 poistaa käytöstä. Estää ajatuslohkon sulkeutumisen ensimmäiseen generoituun tokeniin ja vastaamisen ilman päättelyä. |
prompt | Kyllä | — | Käyttäjän viesti tai kehote chat-mallille |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Kysele samalla API-avaimella, kunnes status on lopullinen (COMPLETED, FAILED, CANCELED tai MODERATION_BLOCKED). Kun sisällön moderointi on käytössä, työt voivat alkaa tilassa MODERATION_PENDING ennen siirtymistään laskentajonoon. Valmiiden töiden jokaisessa tulosteessa on valmiiksi allekirjoitetut download_url-arvot.
Luontivastaus
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Valmistumisvastaus
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}