LLM

Ornith 1.5 35B A3B

Fai una domanda o prova una breve attività di scrittura. Accedi quando invii il primo messaggio.

Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.

Copyright 2026 Alibaba Cloud

Licenze del modello

Ornith-1.5-35B-A3B · MIT

Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.

Licenza inclusa

Avviso

Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0

Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.

Licenza inclusa

GratisOnlineIllimitatoPublisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weig Accesso API

Quando sei pronto.

Scrivi il tuo messaggio e premi Invia per accedere e iniziare.

Scrivi un prompt e ottieni una risposta da Ornith 1.5 35B: un modello che pensa prima di rispondere ed è pensato per programmazione, debug e ragionamento passo dopo passo. È un modello mixture-of-experts: 35 miliardi di parametri in totale, ma per ogni singola parola ne vengono usati solo circa tre miliardi, ed è per questo che un modello così capace può girare su hardware comune. Di solito, per servirlo serve una GPU da data center da 80 GB. Qui viene suddiviso in piccoli pezzi distribuiti sui dispositivi che colleghi (un portatile, un desktop, una macchina di scorta, o più di essi insieme) e ognuno ne contiene meno di un gigabyte. Questo ne fa un LLM online gratuito che puoi davvero eseguire da te, invece di noleggiarlo. Chiedigli di scrivere una funzione, trovare un bug, pianificare un refactoring o affrontare una domanda difficile: mostrerà prima il suo ragionamento e poi ti darà la risposta. Testo in ingresso, testo in uscita: non legge né genera immagini e la risposta arriva come testo semplice che puoi copiare.

Riferimento API

Invia tramite REST

Usa la tua chiave API personale (msk_…) per creare job per questo workload dai tuoi strumenti. I job avviati in questo modo vengono eseguiti sugli stessi dispositivi che hai collegato in I tuoi dispositivi: almeno uno deve essere online.

Nascondi dettagli API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Autenticati con X-Organization-Api-Key: msk_your_personal_api_key. Il nome dell'intestazione corrisponde a quello delle chiavi dell'organizzazione; le chiavi personali usano lo stesso endpoint.

File di input:Chiama POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign con la stessa chiave API, carica il tuo file su upload_url restituito, poi passa download_url in job_spec (ad esempio come input_image_url).

Corpo della richiesta

{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Campi di job_spec

CampoObbligatorioPredefinitoDescrizione
system_promptNo—Prompt di sistema facoltativo
enable_thinkingNotrueAttiva il ragionamento prima della risposta finale. Il chat template di Ornith apre un blocco `<think>`; lascialo attivo.
max_new_tokensNo2048Numero massimo di token generati (ragionamento + risposta). Aumentalo per output lunghi. Prompt e generazione condividono la finestra di contesto, quindi la generazione si ferma al contesto invece di far crescere la soglia minima di memoria dello stage.
max_contextNo8192Token totali per cui gli stage host allocano lo stato KV/ricorrente: prompt più generazione. Il limite massimo è il contesto più ampio con cui l'Oracle ha misurato questo modello, così il posizionamento non deve mai estrapolare oltre le evidenze. Aumentarlo alza la soglia minima di memoria e quindi restringe i dispositivi in grado di eseguire il lavoro.
kv_hot_windowNo32768Il KV fisico dell'attenzione è limitato agli ultimi N token, quindi una conversazione più lunga di N dimentica i turni più vecchi invece di fermarsi al limite di contesto. 0 mantiene residente l'intero contesto. Pari o inferiore alla finestra di contesto non cambia nulla (stessa memoria, stessa attenzione); abbassarla sotto la finestra di contesto scambia il richiamo a lungo raggio con una lunghezza di conversazione illimitata, perché il modello non può davvero vedere oltre la finestra.
turnsNo—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNo0.6Temperature
top_pNo0.95Top P
top_kNo20Top K
presence_penaltyNo0Presence Penalty
repetition_penaltyNo1Repetition Penalty
seedNo—Seed casuale per la riproducibilità
speculative_ngramNofalseBozze per ricerca nel prompt: gli n-gram ripetuti del contesto vengono riproposti come blocchi di bozza e verificati dal modello in UN solo passaggio, così un singolo round trip di rete può confermare più token. Nessun modello aggiuntivo; l'output è identico alla decodifica sequenziale.
speculative_draft_modelNofalseEsegue un piccolo modello di bozza GGUF sul nodo checkpoint per proporre blocchi di bozza (meglio 'Nome file del modello di bozza incluso'; l'URL esterno resta disponibile come ripiego). Se il modello di bozza non è disponibile, ripiega sulle bozze n-gram.
draft_model_fileNo—Nome file di un modello di bozza GGUF non partizionato presente nel bundle di questo workload. L'SDK lo risolve da required_files, così i bucket S3 privati possono usare l'URL firmato/proxy fornito dal server invece di un URL pubblico.
draft_model_urlNo—URL HTTPS esterno facoltativo del piccolo modello di bozza GGUF. Usato come ripiego quando 'Nome file del modello di bozza incluso' è assente o mancante da required_files.
speculative_max_draftNo8Limite superiore dei token di bozza verificati per blocco. La lunghezza effettiva si adatta al tasso di accettazione osservato.
min_remote_stagesNo0Parametro diagnostico di posizionamento per i test pipeline-parallel GGUF. Se > 0, il checkpoint viene assegnato solo ai nodi che eseguirebbero almeno questo numero di stage tramite WebRTC invece che in locale. Dopo la finestra di tolleranza del peer checkpoint ripiega, per non lasciare senza risorse i lavori di produzione.
wire_hidden_dtypeNof16Tipo di dato delle attivazioni nascoste tra gli stage della pipeline GGUF. f16 dimezza il payload sul wire per il prefill e per i blocchi speculativi; f32 è un ripiego diagnostico.
wire_hidden_codecNofp16Codec sperimentale per i blocchi di attivazioni nascoste multi-token tra gli stage della pipeline GGUF. La decodifica a singolo token mantiene il percorso economico per tipo di dato; i codec generici sono usati solo per i blocchi di prefill/speculativi, dove il risparmio di byte può compensare il costo del codec. fp16 è il più sicuro; auto8/hq8 sono diagnostici.
stage_chainingNotrueQuando tutti gli stage GGUF sono remoti e supportano il protocollo di chain, invia le attivazioni nascoste direttamente da stage a stage invece di far passare ogni confine dal coordinatore del checkpoint.
latent_modeNooffSoft Thinking / SwiReasoning senza addestramento durante <think>…</think>. Richiede GGUF WASM con _lstage_eval_soft sugli stage host; altrimenti ripiega sulla decodifica discreta. Disattivato per impostazione predefinita finché il WASM della CDN non viene ricompilato. Mutuamente esclusivo con la speculazione quando Soft Thinking è attivo.
latent_phaseNotaggedtagged = marcatori di ragionamento; prefix = dal passaggio 0 (modelli senza marcatori).
latent_exit_textNo Final answer: Usato solo quando latent_phase=prefix (token di vocabolario ordinari).
latent_top_nNo15Top-n soft
latent_entropy_tauNo0.05Entropia τ del Cold Stop
latent_cold_stop_kNo256Passaggi consecutivi del Cold Stop
swi_dwell_windowNo512Permanenza Swi da Explicit a Latent
swi_max_switchesNo8Swi: passaggi massimi da Latent a Explicit
max_thinking_tokensNo1536Budget massimo prima del </think> forzato / uscita dal prefisso. Deve restare nettamente al di sotto di `max_new_tokens`: un budget di ragionamento pari o superiore al budget totale di generazione produce una risposta interrotta a metà pensiero, senza alcuna risposta. Il control plane lo ricalcola in base al budget che il posizionamento scelto può permettersi, quindi un valore più piccolo viene rispettato e uno più grande viene ridotto.
min_thinking_tokensNo0Soglia minima: esclude </think> dal campionamento finché non esistono questi token di ragionamento. 0 disattiva. Impedisce a un blocco di ragionamento di chiudersi al primo token generato e di rispondere senza alcun ragionamento.
promptSì—Messaggio / prompt dell'utente per il modello di chat

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Fai polling con la stessa chiave API finché status non è terminale (COMPLETED, FAILED, CANCELED o MODERATION_BLOCKED). Quando la moderazione dei contenuti è abilitata, i job possono iniziare in MODERATION_PENDING prima di entrare nella coda di calcolo. I job completati includono valori download_url presigned su ogni output.

Risposta di creazione

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Risposta di completamento

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}