LLM
Ornith 1.5 35B A3B
Puneți o întrebare sau încercați o scurtă sarcină de scriere. Vă conectați când trimiteți primul mesaj.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Licențele modelului
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Scrieți un prompt și primiți un răspuns de la Ornith 1.5 35B — un model care gândește înainte să răspundă și este creat pentru programare, depanare și raționament pas cu pas. Este un model mixture-of-experts: 35 de miliarde de parametri în total, dar doar aproximativ trei miliarde sunt folosiți pentru fiecare cuvânt, motiv pentru care un model atât de capabil poate rula, în general, pe hardware obișnuit. Servirea lui în mod obișnuit necesită un GPU de centru de date de 80 GB. Aici este împărțit în bucăți mici, distribuite pe dispozitivele pe care le conectați — un laptop, un desktop, o mașină de rezervă sau mai multe împreună — iar fiecare ține sub un gigaoctet. Astfel, acesta este un LLM online gratuit pe care îl puteți rula efectiv singur, în loc să îl închiriați. Cereți-i să scrie o funcție, să găsească o eroare, să planifice o refactorizare sau să rezolve o întrebare dificilă; va arăta mai întâi raționamentul și apoi va da răspunsul. Text la intrare, text la ieșire — nu citește imagini și nu le generează, iar răspunsul sosește ca text simplu pe care îl puteți copia.
Referință API
Trimitere prin REST
Folosiți cheia API personală (msk_…) pentru a crea lucrări pentru această sarcină din propriile instrumente. Lucrările pornite astfel rulează pe aceleași dispozitive pe care le-ați conectat în Dispozitivele dvs. — cel puțin unul trebuie să fie online.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentificați-vă cu X-Organization-Api-Key: msk_your_personal_api_key. Numele antetului este același ca pentru cheile organizației; cheile personale folosesc același endpoint.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign cu aceeași cheie API, încărcați fișierul la upload_url returnat, apoi transmiteți download_url în job_spec (de exemplu ca input_image_url).Corpul cererii
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Câmpurile job_spec
| Câmp | Obligatoriu | Implicit | Descriere |
|---|---|---|---|
system_prompt | Nu | — | Prompt de sistem opțional |
enable_thinking | Nu | true | Activează thinking/raționamentul înainte de răspunsul final. Șablonul de chat Ornith deschide un bloc `<think>`; lăsați activat. |
max_new_tokens | Nu | 2048 | Numărul maxim de tokeni generați (thinking + răspuns). Măriți pentru texte lungi. Promptul și generarea împart fereastra de context, deci generarea se oprește la limita contextului, în loc să mărească pragul de memorie al etapei. |
max_context | Nu | 8192 | Totalul de tokeni pentru care gazdele etapelor alocă stare KV/recurentă — prompt plus generare. Limita este cel mai mare context la care Oracle a măsurat acest model, astfel încât plasarea nu trebuie să extrapoleze dincolo de dovezi. Creșterea valorii ridică pragul de memorie și, prin urmare, restrânge dispozitivele care pot rula sarcina. |
kv_hot_window | Nu | 32768 | Atenția KV fizică este limitată la cei mai recenți N tokeni, deci o conversație mai lungă de N uită cele mai vechi replici, în loc să se oprească la limita contextului. 0 păstrează întregul context rezident. La valori egale sau sub fereastra de context, nu se schimbă nimic — aceeași memorie, aceeași atenție — iar coborârea sub aceasta sacrifică reținerea pe termen lung în favoarea unei lungimi nelimitate a conversației, deoarece modelul chiar nu poate vedea dincolo de fereastră. |
turns | Nu | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Nu | 0.6 | Temperature |
top_p | Nu | 0.95 | Top P |
top_k | Nu | 20 | Top K |
presence_penalty | Nu | 0 | Presence Penalty |
repetition_penalty | Nu | 1 | Repetition Penalty |
seed | Nu | — | Seed aleatoriu pentru reproductibilitate |
speculative_ngram | Nu | false | Draft prin căutare în prompt: n-gramele repetate din context sunt reluate ca blocuri draft și verificate de model într-o SINGURĂ trecere, astfel încât o singură rundă prin rețea poate confirma mai mulți tokeni. Fără model suplimentar; rezultatul este identic cu decodarea secvențială. |
speculative_draft_model | Nu | false | Rulați un model draft GGUF foarte mic pe nodul de checkpoint pentru a propune blocuri draft (preferați „Numele fișierului modelului draft inclus”; URL-ul extern rămâne disponibil ca alternativă). Revine la draft prin n-grame când modelul draft nu este disponibil. |
draft_model_file | Nu | — | Numele fișierului unui model draft GGUF nepartiționat din pachetul acestui workload. SDK-ul îl rezolvă din required_files, astfel încât bucket-urile S3 private să poată folosi URL-ul semnat/proxy furnizat de server, în loc de un URL public. |
draft_model_url | Nu | — | URL HTTPS extern opțional al modelului draft GGUF foarte mic. Folosit ca alternativă când „Numele fișierului modelului draft inclus” lipsește sau nu se află în required_files. |
speculative_max_draft | Nu | 8 | Limita superioară a tokenilor draft verificați per bloc. Lungimea efectivă se adaptează la rata de acceptare observată. |
min_remote_stages | Nu | 0 | Parametru de plasare pentru diagnosticare, la testarea GGUF pipeline-parallel. Când este > 0, checkpoint-ul este atribuit doar nodurilor care ar rula cel puțin atâtea etape prin WebRTC, în loc de local. Revine la comportamentul implicit după fereastra de grație a peer-ului de checkpoint, pentru a nu bloca sarcinile de producție. |
wire_hidden_dtype | Nu | f16 | Tipul de date al activărilor ascunse între etapele GGUF pipeline. f16 înjumătățește volumul transmis pentru prefill și blocurile speculative; f32 este o alternativă de diagnosticare. |
wire_hidden_codec | Nu | fp16 | Codec experimental pentru blocurile de activări ascunse multi-token între etapele GGUF pipeline. Decodarea cu un singur token păstrează calea ieftină cu dtype; codecurile generice sunt folosite doar pentru blocurile de prefill/speculative, unde economiile de octeți pot compensa costul codecului. fp16 este cel mai sigur; auto8/hq8 sunt pentru diagnosticare. |
stage_chaining | Nu | true | Când toate etapele GGUF sunt la distanță și acceptă protocolul de înlănțuire, trimite activările ascunse direct de la o etapă la alta, în loc să retransmită fiecare limită prin coordonatorul de checkpoint. |
latent_mode | Nu | off | Soft Thinking / SwiReasoning fără antrenare, în timpul <think>…</think>. Necesită GGUF WASM cu _lstage_eval_soft pe gazdele de etape; altfel revine la decodarea discretă. Implicit dezactivat până la reconstruirea WASM de pe CDN. Se exclude reciproc cu speculația când Soft Thinking este activ. |
latent_phase | Nu | tagged | tagged = marcaje think; prefix = de la pasul 0 (modele fără marcaje). |
latent_exit_text | Nu | Final answer: | Folosit doar când latent_phase=prefix (tokeni obișnuiți din vocabular). |
latent_top_n | Nu | 15 | Soft top-n |
latent_entropy_tau | Nu | 0.05 | Entropie τ Cold Stop |
latent_cold_stop_k | Nu | 256 | Pași consecutivi Cold Stop |
swi_dwell_window | Nu | 512 | Durata Swi Explicit→Latent |
swi_max_switches | Nu | 8 | Număr maxim de treceri Swi Latent→Explicit |
max_thinking_tokens | Nu | 1536 | Buget strict înainte de </think> forțat / ieșire din prefix. Trebuie să rămână semnificativ sub `max_new_tokens`: un buget de raționament egal sau mai mare decât bugetul total de generare produce un răspuns întrerupt în mijlocul raționamentului, fără niciun răspuns. Control plane recalculează valoarea pe baza bugetului pe care plasarea aleasă și-l poate permite efectiv, astfel că o valoare mai mică este respectată, iar una mai mare este limitată. |
min_thinking_tokens | Nu | 0 | Prag minim: maschează </think> din eșantionare până când există atâția tokeni de raționament. 0 dezactivează. Împiedică închiderea blocului think la primul token generat și răspunsul fără niciun raționament. |
prompt | Da | — | Mesajul / promptul utilizatorului pentru modelul de chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Interogați cu aceeași cheie API până când status ajunge într-o stare finală (COMPLETED, FAILED, CANCELED sau MODERATION_BLOCKED). Când moderarea conținutului este activată, lucrările pot începe în MODERATION_PENDING înainte de a intra în coada de calcul. Lucrările finalizate includ valori download_url presemnate pentru fiecare rezultat.
Răspuns la creare
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Răspuns la finalizare
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}