LLM
Ornith 1.5 35B A3B
Tegyen fel egy kérdést, vagy próbáljon ki egy rövid írási feladatot. Az első üzenet elküldésekor jelentkezzen be.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Modelllicencek
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Írjon be egy kérést, és kapjon választ az Ornith 1.5 35B-től – egy modelltől, amely válasz előtt gondolkodik, és programozásra, hibakeresésre és lépésről lépésre történő érvelésre készült. Szakértők keverékéből álló (mixture-of-experts) modell: összesen 35 milliárd paraméter, de egy-egy szóhoz csak nagyjából hárommilliárd vesz részt, ezért futhat egyáltalán ilyen képes modell hétköznapi hardveren. A szokásos kiszolgáláshoz egy 80 GB-os adatközponti GPU kell. Itt apró darabokra van bontva, amelyeket az Ön által csatlakoztatott eszközök – egy laptop, egy asztali gép, egy tartalék gép, vagy ezek közül több együtt – között osztunk szét, és mindegyik egy gigabájt alatti részt tart. Ettől ez egy olyan ingyenes online LLM, amelyet ténylegesen Ön futtathat, nem bérelnie kell. Kérje meg, hogy írjon egy függvényt, találjon meg egy hibát, tervezzen meg egy refaktorálást, vagy dolgozzon végig egy nehéz kérdést; először megmutatja az érvelését, majd megadja a választ. Szöveg be, szöveg ki – nem olvas és nem generál képeket, a válasz egyszerű szövegként érkezik, amelyet másolhat.
API-referencia
Beküldés REST-en keresztül
Személyes API-kulcsával (msk_…) saját eszközeiből is létrehozhat feladatokat ehhez a munkaterheléshez. Az így indított feladatok ugyanazokon az eszközökön futnak, amelyeket itt csatlakoztatott: Az Ön eszközei — legalább egynek online kell lennie.
https://cp.meshlabs.cloud/v1/organizations/jobsHitelesítés ezzel: X-Organization-Api-Key: msk_your_personal_api_key. A fejléc neve megegyezik a szervezeti kulcsokéval; a személyes kulcsok ugyanazt a végpontot használják.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign végpontot ugyanazzal az API-kulccsal, töltse fel a fájlt a visszaadott upload_url címre, majd adja át a(z) download_url értéket a(z) job_spec mezőben (például input_image_url néven).Kéréstörzs
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}job_spec mezői
| Mező | Kötelező | Alapértelmezett | Leírás |
|---|---|---|---|
system_prompt | Nem | — | Opcionális rendszerüzenet |
enable_thinking | Nem | true | Gondolkodás/érvelés engedélyezése a végső válasz előtt. Az Ornith csevegősablonja egy `<think>` blokkot nyit; hagyja bekapcsolva. |
max_new_tokens | Nem | 2048 | A generált tokenek maximális száma (gondolkodás + válasz). Hosszú kimenethez növelje. A kérés és a generálás osztozik a kontextusablakon, így a generálás a kontextusnál leáll, nem pedig növeli a szakasz memóriaküszöbét. |
max_context | Nem | 8192 | A szakaszgazdák által a KV/rekurrens állapothoz lefoglalt tokenek összes száma – a kérés és a generálás együtt. A felső korlát az a legnagyobb kontextus, amelyen az Oracle a modellt mérte, így az elhelyezésnek soha nem kell a bizonyítékokon túl extrapolálnia. Növelése megemeli a memóriaküszöböt, így szűkíti azon eszközök körét, amelyek a feladatot futtathatják. |
kv_hot_window | Nem | 32768 | A fizikai figyelem-KV a legújabb N tokenre van korlátozva, így az N-nél hosszabb beszélgetés a legrégebbi szakaszait elfelejti, ahelyett hogy a kontextushatárnál megállna. A 0 a teljes kontextust memóriában tartja. A kontextusablaknál nem nagyobb értéknél ez semmit sem változtat – ugyanaz a memória, ugyanaz a figyelem –, a kontextusablak alá csökkentve pedig a hosszú távú felidézést cseréli korlátlan beszélgetéshossz ellenében, mert a modell valóban nem lát az ablakon túlra. |
turns | Nem | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Nem | 0.6 | Temperature |
top_p | Nem | 0.95 | Top P |
top_k | Nem | 20 | Top K |
presence_penalty | Nem | 0 | Presence Penalty |
repetition_penalty | Nem | 1 | Repetition Penalty |
seed | Nem | — | Véletlen seed a reprodukálhatósághoz |
speculative_ngram | Nem | false | Prompt-lookup vázlatolás: a környezetből származó ismétlődő n-gramokat vázlatblokkokként játssza újra a rendszer, és a modell EGY menetben ellenőrzi őket, így egyetlen hálózati körút több tokent is véglegesíthet. Nincs extra modell; a kimenet azonos a szekvenciális dekódolással. |
speculative_draft_model | Nem | false | Egy apró GGUF vázlatmodellt futtat az ellenőrzőpont-csomóponton a vázlatblokkok javaslatához (inkább a „Vázlatmodell csomagolt fájlneve” használata javasolt; a külső URL tartalékként elérhető marad). Ha a vázlatmodell nem érhető el, n-gramos vázlatolásra tér vissza. |
draft_model_file | Nem | — | Egy nem particionált GGUF vázlatmodell fájlneve ebben a feladatcsomagban. Az SDK a required_files alapján oldja fel, így a privát S3 vödrök a nyilvános URL helyett a szerver által adott aláírt/proxy URL-t használhatják. |
draft_model_url | Nem | — | Az apró GGUF vázlatmodell opcionális külső HTTPS URL-je. Tartalékként használatos, ha a „Vázlatmodell csomagolt fájlneve” hiányzik, vagy nem szerepel a required_files-ban. |
speculative_max_draft | Nem | 8 | Blokkonként ellenőrzött vázlattokenek felső határa. A tényleges hossz a megfigyelt elfogadási arányhoz igazodik. |
min_remote_stages | Nem | 0 | Diagnosztikai elhelyezési beállítás a GGUF csővezeték-párhuzamos teszteléshez. Ha > 0, az ellenőrzőpontot csak olyan csomópontokhoz rendeli, amelyek legalább ennyi szakaszt futtatnának WebRTC-n keresztül helyben futtatás helyett. Az ellenőrzőpont-társ türelmi ablaka után visszalép, hogy ne éheztesse ki az éles feladatokat. |
wire_hidden_dtype | Nem | f16 | A rejtett aktivációk adattípusa a GGUF csővezeték-szakaszok között. Az f16 felezi az előtöltés és a spekulatív blokkok átviteli adatmennyiségét; az f32 diagnosztikai tartalék. |
wire_hidden_codec | Nem | fp16 | Kísérleti kodek a GGUF csővezeték-szakaszok közötti többtokenes rejtett aktivációs blokkokhoz. Az egytokenes dekódolás az olcsó adattípus-útvonalat tartja; az általános kodekeket csak az előtöltési/spekulatív blokkokhoz használja, ahol a bájtmegtakarítás ellensúlyozhatja a kodek költségét. Az fp16 a legbiztonságosabb; az auto8/hq8 diagnosztikai. |
stage_chaining | Nem | true | Ha minden GGUF szakasz távoli és támogatja a láncprotokollt, a rejtett aktivációkat közvetlenül szakaszról szakaszra küldi, ahelyett hogy minden határt az ellenőrzőpont-koordinátoron keresztül közvetítene. |
latent_mode | Nem | off | Tanítást nem igénylő Soft Thinking / SwiReasoning a <think>…</think> alatt. Szakaszgazdákon _lstage_eval_soft-tal rendelkező GGUF WASM szükséges; egyébként diszkrét dekódolásra tér vissza. Alapértelmezetten ki van kapcsolva, amíg a CDN WASM újra nincs építve. Aktív Soft Thinking esetén kölcsönösen kizárja a spekulációt. |
latent_phase | Nem | tagged | tagged = gondolkodásjelölők; prefix = a 0. lépéstől (jelölő nélküli modellek). |
latent_exit_text | Nem | Final answer: | Csak latent_phase=prefix esetén használatos (szokásos szótári tokenek). |
latent_top_n | Nem | 15 | Soft top-n |
latent_entropy_tau | Nem | 0.05 | Cold Stop entrópia τ |
latent_cold_stop_k | Nem | 256 | Cold Stop egymást követő lépések |
swi_dwell_window | Nem | 512 | Swi explicit→látens tartózkodás |
swi_max_switches | Nem | 8 | Swi látens→explicit váltások maximális száma |
max_thinking_tokens | Nem | 1536 | Kemény keret a kényszerített </think> / prefix kilépés előtt. Érezhetően a `max_new_tokens` alatt kell maradnia: az összes generálási keretet elérő vagy meghaladó érvelési keret olyan választ eredményez, amely a gondolatmenet közepén megszakad, és egyáltalán nincs benne válasz. A vezérlősík ezt újraszámolja abból a keretből, amelyet a kiválasztott elhelyezés ténylegesen megengedhet magának, így a kisebb érték érvényesül, a nagyobbat pedig korlátozza. |
min_thinking_tokens | Nem | 0 | Alsó korlát: a </think>-et kizárja a mintavételezésből, amíg ennyi érvelési token nem készül. A 0 kikapcsolja. Megakadályozza, hogy a gondolkodási blokk az első generált tokennél lezáruljon, és érvelés nélkül válaszoljon. |
prompt | Igen | — | Felhasználói üzenet / kérés a csevegőmodellnek |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Kérdezze le ugyanazzal az API-kulccsal, amíg a(z) status végállapotba nem kerül (COMPLETED, FAILED, CANCELED vagy MODERATION_BLOCKED). Ha a tartalommoderálás engedélyezve van, a feladatok MODERATION_PENDING állapotban indulhatnak, mielőtt bekerülnek a számítási sorba. A befejezett feladatok minden kimenetén előre aláírt download_url értékek szerepelnek.
Létrehozási válasz
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Befejezési válasz
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}