LLM

Ornith 1.5 35B A3B

Stil et spørgsmål, eller prøv en kort skriveopgave. Du logger ind, når du sender din første besked.

Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.

Copyright 2026 Alibaba Cloud

Modellicenser

Ornith-1.5-35B-A3B · MIT

Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.

Medfølgende licens

Meddelelse

Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0

Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.

Medfølgende licens

GratisOnlineUbegrænsetPublisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weig API-adgang

Når du er klar.

Skriv din besked, og tryk på Send for at logge ind og gå i gang.

Skriv et prompt, og få et svar fra Ornith 1.5 35B – en model, der tænker, før den svarer, og som er bygget til kodning, fejlfinding og ræsonnement trin for trin. Det er en mixture-of-experts-model: 35 milliarder parametre i alt, men kun omkring tre milliarder bruges til ét enkelt ord, og det er derfor, en så kapabel model overhovedet kan køre på almindelig hardware. På den sædvanlige måde kræver den en 80 GB GPU i et datacenter. Her er den delt op i små stykker, der fordeles på de enheder, du tilslutter – en bærbar, en desktopcomputer, en ekstra maskine eller flere sammen – og hver af dem rummer under en gigabyte. Det gør den til en gratis online LLM, du faktisk kan køre selv i stedet for at leje. Bed den skrive en funktion, finde en fejl, planlægge en refaktorering eller løse et svært spørgsmål; den viser først sit ræsonnement og giver derefter svaret. Tekst ind, tekst ud – den læser ikke billeder og genererer dem ikke, og svaret kommer som ren tekst, du kan kopiere.

API-reference

Indsend via REST

Brug din personlige API-nøgle (msk_…) til at oprette jobs for denne workload fra dine egne værktøjer. Jobs, der startes på denne måde, kører på de samme enheder, som du har forbundet under Dine enheder — mindst én skal være online.

Skjul API-detaljer
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Godkend med X-Organization-Api-Key: msk_your_personal_api_key. Headernavnet er det samme som for organisationsnøgler; personlige nøgler bruger det samme endpoint.

Inputfiler:Kald POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign med den samme API-nøgle, upload din fil til den returnerede upload_url, og send derefter download_url i job_spec (f.eks. som input_image_url).

Forespørgslens body

{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Felter i job_spec

FeltPåkrævetStandardBeskrivelse
system_promptNej—Valgfrit systemprompt
enable_thinkingNejtrueAktivér tænkning/ræsonnement før det endelige svar. Ornith-chatskabelonen åbner en `<think>`-blok; lad den stå slået til.
max_new_tokensNej2048Maksimalt antal genererede tokens (tænkning + svar). Hæv til langt output. Prompt og generering deler kontekstvinduet, så genereringen stopper ved konteksten i stedet for at øge stadiets hukommelsesgulv.
max_contextNej8192Samlet antal tokens, som stadiernes værter afsætter KV-/rekurrent tilstand til – prompt plus generering. Loftet er den største kontekst, Oracle har målt denne model ved, så placeringen aldrig behøver at ekstrapolere ud over beviserne. Hvis du hæver det, hæves hukommelsesgulvet, og dermed bliver det snævrere, hvilke enheder der kan køre opgaven.
kv_hot_windowNej32768Fysisk attention-KV begrænses til de nyeste N tokens, så en samtale, der er længere end N, glemmer sine ældste replikker i stedet for at stoppe ved kontekstgrænsen. 0 beholder hele konteksten resident. Ved eller under kontekstvinduet ændrer dette intet – samme hukommelse, samme attention – og hvis du sænker det under kontekstvinduet, bytter du langtrækkende genkaldelse for ubegrænset samtalelængde, fordi modellen reelt ikke kan se ud over vinduet.
turnsNej—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNej0.6Temperature
top_pNej0.95Top P
top_kNej20Top K
presence_penaltyNej0Presence Penalty
repetition_penaltyNej1Repetition Penalty
seedNej—Tilfældigt seed for reproducerbarhed
speculative_ngramNejfalsePrompt-opslagsudkast: gentagne n-gram fra konteksten afspilles igen som udkastblokke og verificeres af modellen i ÉT gennemløb, så en enkelt netværksrundtur kan fastlægge flere tokens. Ingen ekstra model; outputtet er identisk med sekventiel afkodning.
speculative_draft_modelNejfalseKør en lille GGUF-udkastmodel på checkpoint-noden for at foreslå udkastblokke (foretræk 'Draft model bundled filename'; ekstern URL er fortsat tilgængelig som fallback). Falder tilbage til n-gram-udkast, når udkastmodellen ikke er tilgængelig.
draft_model_fileNej—Filnavn på en upartitioneret GGUF-udkastmodel i denne workload-pakke. SDK'et finder den i required_files, så private S3-buckets kan bruge den serverleverede signerede/proxy-URL i stedet for en offentlig URL.
draft_model_urlNej—Valgfri ekstern HTTPS-URL til den lille GGUF-udkastmodel. Bruges som fallback, når 'Draft model bundled filename' mangler eller ikke findes i required_files.
speculative_max_draftNej8Øvre grænse for udkasttokens, der verificeres pr. blok. Den effektive længde tilpasser sig den observerede accepteringsrate.
min_remote_stagesNej0Diagnostisk placeringsknap til test af GGUF-pipelineparallelisme. Når den er > 0, tildeles checkpointet kun til noder, der ville køre mindst så mange stadier over WebRTC i stedet for lokalt. Falder tilbage efter checkpoint-peerens henstandsvindue for ikke at udsulte produktionsopgaver.
wire_hidden_dtypeNejf16Dtype for skjulte aktiveringer mellem GGUF-pipelinestadier. f16 halverer wire-nyttelasten for prefill og spekulative blokke; f32 er en diagnostisk fallback.
wire_hidden_codecNejfp16Eksperimentel codec til skjulte aktiveringsblokke med flere tokens mellem GGUF-pipelinestadier. Afkodning af enkelte tokens bruger den billige dtype-sti; generiske codecs bruges kun til prefill-/spekulative blokke, hvor bytebesparelser kan opveje codec-omkostningen. fp16 er sikrest; auto8/hq8 er diagnostik.
stage_chainingNejtrueNår alle GGUF-stadier er eksterne og understøtter kædeprotokollen, sendes skjulte aktiveringer direkte fra stadie til stadie i stedet for at blive videresendt via checkpoint-koordinatoren ved hver grænse.
latent_modeNejoffTræningsfri Soft Thinking / SwiReasoning under <think>…</think>. Kræver GGUF WASM med _lstage_eval_soft på stadiehosts; ellers falder den tilbage til diskret afkodning. Standard fra, indtil CDN-WASM er genbygget. Udelukker spekulation, når Soft Thinking er aktiv.
latent_phaseNejtaggedtagged = tænkemarkører; prefix = fra trin 0 (modeller uden markører).
latent_exit_textNej Final answer: Bruges kun, når latent_phase=prefix (almindelige vokabulartokens).
latent_top_nNej15Soft top-n
latent_entropy_tauNej0.05Cold Stop-entropi τ
latent_cold_stop_kNej256Cold Stop på hinanden følgende trin
swi_dwell_windowNej512Swi Explicit→Latent-ophold
swi_max_switchesNej8Swi maks. Latent→Explicit-skift
max_thinking_tokensNej1536Hårdt budget før tvungen </think> / præfiksafslutning. Skal ligge mærkbart under `max_new_tokens`: et ræsonnementsbudget på eller over det samlede genereringsbudget giver et svar, der afbrydes midt i tankerne uden noget svar overhovedet. Kontrolplanet beregner dette igen ud fra det budget, den valgte placering faktisk kan klare, så en mindre værdi respekteres, og en større begrænses.
min_thinking_tokensNej0Gulv: maskér </think> ud af samplingen, indtil så mange ræsonnementstokens findes. 0 deaktiverer. Forhindrer, at en tænkeblok lukker på det første genererede token og svarer helt uden ræsonnement.
promptJa—Brugerbesked / prompt til chatmodellen

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Poll med den samme API-nøgle, indtil status er endelig (COMPLETED, FAILED, CANCELED eller MODERATION_BLOCKED). Når indholdsmoderering er aktiveret, kan jobs starte i MODERATION_PENDING, før de kommer i beregningskøen. Fuldførte jobs indeholder forhåndssignerede download_url-værdier for hvert output.

Svar ved oprettelse

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Svar ved fuldførelse

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}