LLM

Ornith 1.5 35B A3B

Still et spørsmål eller prøv en kort skriveoppgave. Du logger inn når du sender den første meldingen.

Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.

Copyright 2026 Alibaba Cloud

Modellisenser

Ornith-1.5-35B-A3B · MIT

Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.

Medfølgende lisens

Merknad

Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0

Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.

Medfølgende lisens

GratisPå nettUbegrensetPublisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weig API-tilgang

Når du er klar.

Skriv meldingen din og trykk Send for å logge inn og sette i gang.

Skriv en prompt og få svar fra Ornith 1.5 35B – en modell som tenker før den svarer, og som er laget for koding, feilsøking og resonnering steg for steg. Det er en mixture-of-experts-modell: 35 milliarder parametere totalt, men bare omtrent tre milliarder brukes for hvert enkelt ord, og det er derfor en så kapabel modell i det hele tatt kan kjøre på vanlig maskinvare. Å kjøre den på vanlig måte krever en datasenter-GPU på 80 GB. Her er den delt i små biter som fordeles på enhetene du kobler til – en bærbar, en stasjonær, en ekstra maskin eller flere av dem sammen – og hver av dem holder under én gigabyte. Det gjør dette til en gratis LLM på nett som du faktisk kan kjøre selv, i stedet for å leie. Be den skrive en funksjon, finne en feil, planlegge en refaktorering eller jobbe seg gjennom et vanskelig spørsmål. Den viser resonneringen først og gir deg deretter svaret. Tekst inn, tekst ut – den leser ikke bilder og lager dem ikke, og svaret kommer som ren tekst du kan kopiere.

API-referanse

Send inn via REST

Bruk den personlige API-nøkkelen din (msk_…) til å opprette jobber for denne arbeidsbelastningen fra dine egne verktøy. Jobber som startes på denne måten, kjører på de samme enhetene du koblet til under Enhetene dine — minst én må være pålogget.

Skjul API-detaljer
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Autentiser med X-Organization-Api-Key: msk_your_personal_api_key. Headernavnet er det samme som for organisasjonsnøkler; personlige nøkler bruker samme endepunkt.

Inndatafiler:Kall POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign med samme API-nøkkel, last opp filen din til den returnerte upload_url, og send deretter download_url i job_spec (for eksempel som input_image_url).

Forespørselsinnhold

{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Felt i job_spec

FeltPåkrevdStandardBeskrivelse
system_promptNei—Valgfri systemprompt
enable_thinkingNeitrueAktiver tenking/resonnering før det endelige svaret. Orniths chatmal åpner en `<think>`-blokk. La denne stå på.
max_new_tokensNei2048Maksimalt antall genererte tokens (tenking + svar). Øk for lange svar. Prompt og generering deler kontekstvinduet, så genereringen stopper ved konteksten i stedet for å øke trinnets minnegulv.
max_contextNei8192Totalt antall tokens som trinnvertene setter av KV-/rekurrent tilstand til – prompt pluss generering. Taket er den største konteksten Oracle har målt for denne modellen, slik at plasseringen aldri trenger å ekstrapolere utover det som er dokumentert. Å øke den hever minnegulvet og begrenser dermed hvilke enheter som kan kjøre jobben.
kv_hot_windowNei32768Den fysiske oppmerksomhets-KV-en begrenses til de nyeste N tokens, slik at en samtale som er lengre enn N glemmer de eldste vendingene i stedet for å stoppe ved kontekstgrensen. 0 holder hele konteksten resident. Ved eller under kontekstvinduet endrer dette ingenting – samme minne, samme oppmerksomhet – og å sette det under kontekstvinduet bytter bort langtrekkende hukommelse mot ubegrenset samtalelengde, fordi modellen faktisk ikke kan se forbi vinduet.
turnsNei—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNei0.6Temperature
top_pNei0.95Top P
top_kNei20Top K
presence_penaltyNei0Presence Penalty
repetition_penaltyNei1Repetition Penalty
seedNei—Tilfeldig seed for reproduserbarhet
speculative_ngramNeifalsePrompt-oppslagsutkast: gjentatte n-gram fra konteksten spilles av på nytt som utkastblokker og verifiseres av modellen i ÉN gjennomgang, slik at én enkelt nettverksrunde kan bekrefte flere tokens. Ingen ekstra modell, og utdataene er identiske med sekvensiell dekoding.
speculative_draft_modelNeifalseKjør en liten GGUF-utkastmodell på sjekkpunktnoden for å foreslå utkastblokker (foretrekk «Filnavn på medfølgende utkastmodell». Ekstern URL er fortsatt tilgjengelig som reserve). Faller tilbake til n-gram-utkast når utkastmodellen ikke er tilgjengelig.
draft_model_fileNei—Filnavn på en ikke-partisjonert GGUF-utkastmodell i denne arbeidsbelastningspakken. SDK-et løser den fra required_files, slik at private S3-bøtter kan bruke den serverleverte signerte/proxy-URL-en i stedet for en offentlig URL.
draft_model_urlNei—Valgfri ekstern HTTPS-URL til den lille GGUF-utkastmodellen. Brukes som reserve når «Filnavn på medfølgende utkastmodell» mangler eller ikke finnes i required_files.
speculative_max_draftNei8Øvre grense for utkasttokens som verifiseres per blokk. Den effektive lengden tilpasser seg den observerte godkjenningsraten.
min_remote_stagesNei0Diagnostisk plasseringsvalg for testing av GGUF pipeline-parallellisme. Når > 0, tildeles sjekkpunktet bare til noder som ville kjørt minst så mange trinn over WebRTC i stedet for lokalt. Faller tilbake etter sjekkpunktpeerens utsettelsesvindu for å unngå å sulte produksjonsjobber.
wire_hidden_dtypeNeif16Datatype for skjulte aktiveringer mellom GGUF-pipelinetrinn. f16 halverer nyttelasten på tråden for prefill og spekulative blokker. f32 er en diagnostisk reserve.
wire_hidden_codecNeifp16Eksperimentell kodek for skjulte aktiveringsblokker med flere tokens mellom GGUF-pipelinetrinn. Dekoding av enkelttokens beholder den billige datatypestien. Generiske kodeker brukes bare for prefill-/spekulative blokker der byte-besparelser kan veie opp for kodekkostnaden. fp16 er tryggest, auto8/hq8 er diagnostikk.
stage_chainingNeitrueNår alle GGUF-trinn er eksterne og støtter kjedeprotokollen, sendes skjulte aktiveringer direkte fra trinn til trinn i stedet for å videresende hver grense via sjekkpunktkoordinatoren.
latent_modeNeioffTreningsfri Soft Thinking / SwiReasoning under <think>…</think>. Krever GGUF WASM med _lstage_eval_soft på trinnvertene, ellers faller den tilbake til diskret dekoding. Standard er av til CDN-WASM er bygget på nytt. Gjensidig utelukkende med spekulasjon når Soft Thinking er aktiv.
latent_phaseNeitaggedtagged = tenkemarkører, prefix = fra steg 0 (modeller uten markører).
latent_exit_textNei Final answer: Brukes bare når latent_phase=prefix (vanlige ordforrådstokens).
latent_top_nNei15Soft top-n
latent_entropy_tauNei0.05Cold Stop-entropi τ
latent_cold_stop_kNei256Cold Stop påfølgende steg
swi_dwell_windowNei512Swi Eksplisitt→Latent oppholdstid
swi_max_switchesNei8Swi maks Latent→Eksplisitt-bytter
max_thinking_tokensNei1536Hardt budsjett før tvungen </think> / prefiksutgang. Må holdes merkbart under `max_new_tokens`: et resonneringsbudsjett på eller over det totale genereringsbudsjettet gir et svar som kuttes midt i tankegangen uten noe svar i det hele tatt. Kontrollplanet beregner dette på nytt ut fra budsjettet den valgte plasseringen faktisk har råd til, slik at en mindre verdi respekteres og en større blir begrenset.
min_thinking_tokensNei0Gulv: maskerer </think> ut av samplingen til så mange resonneringstokens finnes. 0 slår det av. Hindrer at en tenkeblokk lukkes på det første genererte tokenet og svarer helt uten resonnering.
promptJa—Brukermelding / prompt til chatmodellen

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Poll med samme API-nøkkel til status er endelig (COMPLETED, FAILED, CANCELED eller MODERATION_BLOCKED). Når innholdsmoderering er aktivert, kan jobber starte i MODERATION_PENDING før de går inn i beregningskøen. Fullførte jobber inneholder forhåndssignerte download_url-verdier for hvert utdata.

Svar ved oppretting

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Svar ved fullføring

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}