LLM
Ornith 1.5 35B A3B
Fai una domanda o prova una breve attività di scrittura. Accedi quando invii il primo messaggio.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Licenze del modello
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Scrivi un prompt e ottieni una risposta da Ornith 1.5 35B: un modello che pensa prima di rispondere ed è pensato per programmazione, debug e ragionamento passo dopo passo. È un modello mixture-of-experts: 35 miliardi di parametri in totale, ma per ogni singola parola ne vengono usati solo circa tre miliardi, ed è per questo che un modello così capace può girare su hardware comune. Di solito, per servirlo serve una GPU da data center da 80 GB. Qui viene suddiviso in piccoli pezzi distribuiti sui dispositivi che colleghi (un portatile, un desktop, una macchina di scorta, o più di essi insieme) e ognuno ne contiene meno di un gigabyte. Questo ne fa un LLM online gratuito che puoi davvero eseguire da te, invece di noleggiarlo. Chiedigli di scrivere una funzione, trovare un bug, pianificare un refactoring o affrontare una domanda difficile: mostrerà prima il suo ragionamento e poi ti darà la risposta. Testo in ingresso, testo in uscita: non legge né genera immagini e la risposta arriva come testo semplice che puoi copiare.
Riferimento API
Invia tramite REST
Usa la tua chiave API personale (msk_…) per creare job per questo workload dai tuoi strumenti. I job avviati in questo modo vengono eseguiti sugli stessi dispositivi che hai collegato in I tuoi dispositivi: almeno uno deve essere online.
https://cp.meshlabs.cloud/v1/organizations/jobsAutenticati con X-Organization-Api-Key: msk_your_personal_api_key. Il nome dell'intestazione corrisponde a quello delle chiavi dell'organizzazione; le chiavi personali usano lo stesso endpoint.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign con la stessa chiave API, carica il tuo file su upload_url restituito, poi passa download_url in job_spec (ad esempio come input_image_url).Corpo della richiesta
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Campi di job_spec
| Campo | Obbligatorio | Predefinito | Descrizione |
|---|---|---|---|
system_prompt | No | — | Prompt di sistema facoltativo |
enable_thinking | No | true | Attiva il ragionamento prima della risposta finale. Il chat template di Ornith apre un blocco `<think>`; lascialo attivo. |
max_new_tokens | No | 2048 | Numero massimo di token generati (ragionamento + risposta). Aumentalo per output lunghi. Prompt e generazione condividono la finestra di contesto, quindi la generazione si ferma al contesto invece di far crescere la soglia minima di memoria dello stage. |
max_context | No | 8192 | Token totali per cui gli stage host allocano lo stato KV/ricorrente: prompt più generazione. Il limite massimo è il contesto più ampio con cui l'Oracle ha misurato questo modello, così il posizionamento non deve mai estrapolare oltre le evidenze. Aumentarlo alza la soglia minima di memoria e quindi restringe i dispositivi in grado di eseguire il lavoro. |
kv_hot_window | No | 32768 | Il KV fisico dell'attenzione è limitato agli ultimi N token, quindi una conversazione più lunga di N dimentica i turni più vecchi invece di fermarsi al limite di contesto. 0 mantiene residente l'intero contesto. Pari o inferiore alla finestra di contesto non cambia nulla (stessa memoria, stessa attenzione); abbassarla sotto la finestra di contesto scambia il richiamo a lungo raggio con una lunghezza di conversazione illimitata, perché il modello non può davvero vedere oltre la finestra. |
turns | No | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | No | 0.6 | Temperature |
top_p | No | 0.95 | Top P |
top_k | No | 20 | Top K |
presence_penalty | No | 0 | Presence Penalty |
repetition_penalty | No | 1 | Repetition Penalty |
seed | No | — | Seed casuale per la riproducibilità |
speculative_ngram | No | false | Bozze per ricerca nel prompt: gli n-gram ripetuti del contesto vengono riproposti come blocchi di bozza e verificati dal modello in UN solo passaggio, così un singolo round trip di rete può confermare più token. Nessun modello aggiuntivo; l'output è identico alla decodifica sequenziale. |
speculative_draft_model | No | false | Esegue un piccolo modello di bozza GGUF sul nodo checkpoint per proporre blocchi di bozza (meglio 'Nome file del modello di bozza incluso'; l'URL esterno resta disponibile come ripiego). Se il modello di bozza non è disponibile, ripiega sulle bozze n-gram. |
draft_model_file | No | — | Nome file di un modello di bozza GGUF non partizionato presente nel bundle di questo workload. L'SDK lo risolve da required_files, così i bucket S3 privati possono usare l'URL firmato/proxy fornito dal server invece di un URL pubblico. |
draft_model_url | No | — | URL HTTPS esterno facoltativo del piccolo modello di bozza GGUF. Usato come ripiego quando 'Nome file del modello di bozza incluso' è assente o mancante da required_files. |
speculative_max_draft | No | 8 | Limite superiore dei token di bozza verificati per blocco. La lunghezza effettiva si adatta al tasso di accettazione osservato. |
min_remote_stages | No | 0 | Parametro diagnostico di posizionamento per i test pipeline-parallel GGUF. Se > 0, il checkpoint viene assegnato solo ai nodi che eseguirebbero almeno questo numero di stage tramite WebRTC invece che in locale. Dopo la finestra di tolleranza del peer checkpoint ripiega, per non lasciare senza risorse i lavori di produzione. |
wire_hidden_dtype | No | f16 | Tipo di dato delle attivazioni nascoste tra gli stage della pipeline GGUF. f16 dimezza il payload sul wire per il prefill e per i blocchi speculativi; f32 è un ripiego diagnostico. |
wire_hidden_codec | No | fp16 | Codec sperimentale per i blocchi di attivazioni nascoste multi-token tra gli stage della pipeline GGUF. La decodifica a singolo token mantiene il percorso economico per tipo di dato; i codec generici sono usati solo per i blocchi di prefill/speculativi, dove il risparmio di byte può compensare il costo del codec. fp16 è il più sicuro; auto8/hq8 sono diagnostici. |
stage_chaining | No | true | Quando tutti gli stage GGUF sono remoti e supportano il protocollo di chain, invia le attivazioni nascoste direttamente da stage a stage invece di far passare ogni confine dal coordinatore del checkpoint. |
latent_mode | No | off | Soft Thinking / SwiReasoning senza addestramento durante <think>…</think>. Richiede GGUF WASM con _lstage_eval_soft sugli stage host; altrimenti ripiega sulla decodifica discreta. Disattivato per impostazione predefinita finché il WASM della CDN non viene ricompilato. Mutuamente esclusivo con la speculazione quando Soft Thinking è attivo. |
latent_phase | No | tagged | tagged = marcatori di ragionamento; prefix = dal passaggio 0 (modelli senza marcatori). |
latent_exit_text | No | Final answer: | Usato solo quando latent_phase=prefix (token di vocabolario ordinari). |
latent_top_n | No | 15 | Top-n soft |
latent_entropy_tau | No | 0.05 | Entropia τ del Cold Stop |
latent_cold_stop_k | No | 256 | Passaggi consecutivi del Cold Stop |
swi_dwell_window | No | 512 | Permanenza Swi da Explicit a Latent |
swi_max_switches | No | 8 | Swi: passaggi massimi da Latent a Explicit |
max_thinking_tokens | No | 1536 | Budget massimo prima del </think> forzato / uscita dal prefisso. Deve restare nettamente al di sotto di `max_new_tokens`: un budget di ragionamento pari o superiore al budget totale di generazione produce una risposta interrotta a metà pensiero, senza alcuna risposta. Il control plane lo ricalcola in base al budget che il posizionamento scelto può permettersi, quindi un valore più piccolo viene rispettato e uno più grande viene ridotto. |
min_thinking_tokens | No | 0 | Soglia minima: esclude </think> dal campionamento finché non esistono questi token di ragionamento. 0 disattiva. Impedisce a un blocco di ragionamento di chiudersi al primo token generato e di rispondere senza alcun ragionamento. |
prompt | Sì | — | Messaggio / prompt dell'utente per il modello di chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Fai polling con la stessa chiave API finché status non è terminale (COMPLETED, FAILED, CANCELED o MODERATION_BLOCKED). Quando la moderazione dei contenuti è abilitata, i job possono iniziare in MODERATION_PENDING prima di entrare nella coda di calcolo. I job completati includono valori download_url presigned su ogni output.
Risposta di creazione
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Risposta di completamento
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}