LLM

Ornith 1.5 35B A3B

Puneți o întrebare sau încercați o scurtă sarcină de scriere. Vă conectați când trimiteți primul mesaj.

Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.

Copyright 2026 Alibaba Cloud

Licențele modelului

Ornith-1.5-35B-A3B · MIT

Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.

Licență inclusă

Notificare

Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0

Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.

Licență inclusă

GratuitOnlineNelimitatPublisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weig Acces API

Când sunteți gata.

Scrieți mesajul și apăsați Trimite pentru a vă conecta și a începe.

Scrieți un prompt și primiți un răspuns de la Ornith 1.5 35B — un model care gândește înainte să răspundă și este creat pentru programare, depanare și raționament pas cu pas. Este un model mixture-of-experts: 35 de miliarde de parametri în total, dar doar aproximativ trei miliarde sunt folosiți pentru fiecare cuvânt, motiv pentru care un model atât de capabil poate rula, în general, pe hardware obișnuit. Servirea lui în mod obișnuit necesită un GPU de centru de date de 80 GB. Aici este împărțit în bucăți mici, distribuite pe dispozitivele pe care le conectați — un laptop, un desktop, o mașină de rezervă sau mai multe împreună — iar fiecare ține sub un gigaoctet. Astfel, acesta este un LLM online gratuit pe care îl puteți rula efectiv singur, în loc să îl închiriați. Cereți-i să scrie o funcție, să găsească o eroare, să planifice o refactorizare sau să rezolve o întrebare dificilă; va arăta mai întâi raționamentul și apoi va da răspunsul. Text la intrare, text la ieșire — nu citește imagini și nu le generează, iar răspunsul sosește ca text simplu pe care îl puteți copia.

Referință API

Trimitere prin REST

Folosiți cheia API personală (msk_…) pentru a crea lucrări pentru această sarcină din propriile instrumente. Lucrările pornite astfel rulează pe aceleași dispozitive pe care le-ați conectat în Dispozitivele dvs. — cel puțin unul trebuie să fie online.

Ascunde detaliile API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Autentificați-vă cu X-Organization-Api-Key: msk_your_personal_api_key. Numele antetului este același ca pentru cheile organizației; cheile personale folosesc același endpoint.

Fișiere de intrare:Apelați POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign cu aceeași cheie API, încărcați fișierul la upload_url returnat, apoi transmiteți download_url în job_spec (de exemplu ca input_image_url).

Corpul cererii

{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Câmpurile job_spec

CâmpObligatoriuImplicitDescriere
system_promptNu—Prompt de sistem opțional
enable_thinkingNutrueActivează thinking/raționamentul înainte de răspunsul final. Șablonul de chat Ornith deschide un bloc `<think>`; lăsați activat.
max_new_tokensNu2048Numărul maxim de tokeni generați (thinking + răspuns). Măriți pentru texte lungi. Promptul și generarea împart fereastra de context, deci generarea se oprește la limita contextului, în loc să mărească pragul de memorie al etapei.
max_contextNu8192Totalul de tokeni pentru care gazdele etapelor alocă stare KV/recurentă — prompt plus generare. Limita este cel mai mare context la care Oracle a măsurat acest model, astfel încât plasarea nu trebuie să extrapoleze dincolo de dovezi. Creșterea valorii ridică pragul de memorie și, prin urmare, restrânge dispozitivele care pot rula sarcina.
kv_hot_windowNu32768Atenția KV fizică este limitată la cei mai recenți N tokeni, deci o conversație mai lungă de N uită cele mai vechi replici, în loc să se oprească la limita contextului. 0 păstrează întregul context rezident. La valori egale sau sub fereastra de context, nu se schimbă nimic — aceeași memorie, aceeași atenție — iar coborârea sub aceasta sacrifică reținerea pe termen lung în favoarea unei lungimi nelimitate a conversației, deoarece modelul chiar nu poate vedea dincolo de fereastră.
turnsNu—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNu0.6Temperature
top_pNu0.95Top P
top_kNu20Top K
presence_penaltyNu0Presence Penalty
repetition_penaltyNu1Repetition Penalty
seedNu—Seed aleatoriu pentru reproductibilitate
speculative_ngramNufalseDraft prin căutare în prompt: n-gramele repetate din context sunt reluate ca blocuri draft și verificate de model într-o SINGURĂ trecere, astfel încât o singură rundă prin rețea poate confirma mai mulți tokeni. Fără model suplimentar; rezultatul este identic cu decodarea secvențială.
speculative_draft_modelNufalseRulați un model draft GGUF foarte mic pe nodul de checkpoint pentru a propune blocuri draft (preferați „Numele fișierului modelului draft inclus”; URL-ul extern rămâne disponibil ca alternativă). Revine la draft prin n-grame când modelul draft nu este disponibil.
draft_model_fileNu—Numele fișierului unui model draft GGUF nepartiționat din pachetul acestui workload. SDK-ul îl rezolvă din required_files, astfel încât bucket-urile S3 private să poată folosi URL-ul semnat/proxy furnizat de server, în loc de un URL public.
draft_model_urlNu—URL HTTPS extern opțional al modelului draft GGUF foarte mic. Folosit ca alternativă când „Numele fișierului modelului draft inclus” lipsește sau nu se află în required_files.
speculative_max_draftNu8Limita superioară a tokenilor draft verificați per bloc. Lungimea efectivă se adaptează la rata de acceptare observată.
min_remote_stagesNu0Parametru de plasare pentru diagnosticare, la testarea GGUF pipeline-parallel. Când este > 0, checkpoint-ul este atribuit doar nodurilor care ar rula cel puțin atâtea etape prin WebRTC, în loc de local. Revine la comportamentul implicit după fereastra de grație a peer-ului de checkpoint, pentru a nu bloca sarcinile de producție.
wire_hidden_dtypeNuf16Tipul de date al activărilor ascunse între etapele GGUF pipeline. f16 înjumătățește volumul transmis pentru prefill și blocurile speculative; f32 este o alternativă de diagnosticare.
wire_hidden_codecNufp16Codec experimental pentru blocurile de activări ascunse multi-token între etapele GGUF pipeline. Decodarea cu un singur token păstrează calea ieftină cu dtype; codecurile generice sunt folosite doar pentru blocurile de prefill/speculative, unde economiile de octeți pot compensa costul codecului. fp16 este cel mai sigur; auto8/hq8 sunt pentru diagnosticare.
stage_chainingNutrueCând toate etapele GGUF sunt la distanță și acceptă protocolul de înlănțuire, trimite activările ascunse direct de la o etapă la alta, în loc să retransmită fiecare limită prin coordonatorul de checkpoint.
latent_modeNuoffSoft Thinking / SwiReasoning fără antrenare, în timpul <think>…</think>. Necesită GGUF WASM cu _lstage_eval_soft pe gazdele de etape; altfel revine la decodarea discretă. Implicit dezactivat până la reconstruirea WASM de pe CDN. Se exclude reciproc cu speculația când Soft Thinking este activ.
latent_phaseNutaggedtagged = marcaje think; prefix = de la pasul 0 (modele fără marcaje).
latent_exit_textNu Final answer: Folosit doar când latent_phase=prefix (tokeni obișnuiți din vocabular).
latent_top_nNu15Soft top-n
latent_entropy_tauNu0.05Entropie τ Cold Stop
latent_cold_stop_kNu256Pași consecutivi Cold Stop
swi_dwell_windowNu512Durata Swi Explicit→Latent
swi_max_switchesNu8Număr maxim de treceri Swi Latent→Explicit
max_thinking_tokensNu1536Buget strict înainte de </think> forțat / ieșire din prefix. Trebuie să rămână semnificativ sub `max_new_tokens`: un buget de raționament egal sau mai mare decât bugetul total de generare produce un răspuns întrerupt în mijlocul raționamentului, fără niciun răspuns. Control plane recalculează valoarea pe baza bugetului pe care plasarea aleasă și-l poate permite efectiv, astfel că o valoare mai mică este respectată, iar una mai mare este limitată.
min_thinking_tokensNu0Prag minim: maschează </think> din eșantionare până când există atâția tokeni de raționament. 0 dezactivează. Împiedică închiderea blocului think la primul token generat și răspunsul fără niciun raționament.
promptDa—Mesajul / promptul utilizatorului pentru modelul de chat

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Interogați cu aceeași cheie API până când status ajunge într-o stare finală (COMPLETED, FAILED, CANCELED sau MODERATION_BLOCKED). Când moderarea conținutului este activată, lucrările pot începe în MODERATION_PENDING înainte de a intra în coada de calcul. Lucrările finalizate includ valori download_url presemnate pentru fiecare rezultat.

Răspuns la creare

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Răspuns la finalizare

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}