LLM
Ornith 1.5 35B A3B
Still et spørsmål eller prøv en kort skriveoppgave. Du logger inn når du sender den første meldingen.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Modellisenser
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Skriv en prompt og få svar fra Ornith 1.5 35B – en modell som tenker før den svarer, og som er laget for koding, feilsøking og resonnering steg for steg. Det er en mixture-of-experts-modell: 35 milliarder parametere totalt, men bare omtrent tre milliarder brukes for hvert enkelt ord, og det er derfor en så kapabel modell i det hele tatt kan kjøre på vanlig maskinvare. Å kjøre den på vanlig måte krever en datasenter-GPU på 80 GB. Her er den delt i små biter som fordeles på enhetene du kobler til – en bærbar, en stasjonær, en ekstra maskin eller flere av dem sammen – og hver av dem holder under én gigabyte. Det gjør dette til en gratis LLM på nett som du faktisk kan kjøre selv, i stedet for å leie. Be den skrive en funksjon, finne en feil, planlegge en refaktorering eller jobbe seg gjennom et vanskelig spørsmål. Den viser resonneringen først og gir deg deretter svaret. Tekst inn, tekst ut – den leser ikke bilder og lager dem ikke, og svaret kommer som ren tekst du kan kopiere.
API-referanse
Send inn via REST
Bruk den personlige API-nøkkelen din (msk_…) til å opprette jobber for denne arbeidsbelastningen fra dine egne verktøy. Jobber som startes på denne måten, kjører på de samme enhetene du koblet til under Enhetene dine — minst én må være pålogget.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentiser med X-Organization-Api-Key: msk_your_personal_api_key. Headernavnet er det samme som for organisasjonsnøkler; personlige nøkler bruker samme endepunkt.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign med samme API-nøkkel, last opp filen din til den returnerte upload_url, og send deretter download_url i job_spec (for eksempel som input_image_url).Forespørselsinnhold
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Felt i job_spec
| Felt | Påkrevd | Standard | Beskrivelse |
|---|---|---|---|
system_prompt | Nei | — | Valgfri systemprompt |
enable_thinking | Nei | true | Aktiver tenking/resonnering før det endelige svaret. Orniths chatmal åpner en `<think>`-blokk. La denne stå på. |
max_new_tokens | Nei | 2048 | Maksimalt antall genererte tokens (tenking + svar). Øk for lange svar. Prompt og generering deler kontekstvinduet, så genereringen stopper ved konteksten i stedet for å øke trinnets minnegulv. |
max_context | Nei | 8192 | Totalt antall tokens som trinnvertene setter av KV-/rekurrent tilstand til – prompt pluss generering. Taket er den største konteksten Oracle har målt for denne modellen, slik at plasseringen aldri trenger å ekstrapolere utover det som er dokumentert. Å øke den hever minnegulvet og begrenser dermed hvilke enheter som kan kjøre jobben. |
kv_hot_window | Nei | 32768 | Den fysiske oppmerksomhets-KV-en begrenses til de nyeste N tokens, slik at en samtale som er lengre enn N glemmer de eldste vendingene i stedet for å stoppe ved kontekstgrensen. 0 holder hele konteksten resident. Ved eller under kontekstvinduet endrer dette ingenting – samme minne, samme oppmerksomhet – og å sette det under kontekstvinduet bytter bort langtrekkende hukommelse mot ubegrenset samtalelengde, fordi modellen faktisk ikke kan se forbi vinduet. |
turns | Nei | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Nei | 0.6 | Temperature |
top_p | Nei | 0.95 | Top P |
top_k | Nei | 20 | Top K |
presence_penalty | Nei | 0 | Presence Penalty |
repetition_penalty | Nei | 1 | Repetition Penalty |
seed | Nei | — | Tilfeldig seed for reproduserbarhet |
speculative_ngram | Nei | false | Prompt-oppslagsutkast: gjentatte n-gram fra konteksten spilles av på nytt som utkastblokker og verifiseres av modellen i ÉN gjennomgang, slik at én enkelt nettverksrunde kan bekrefte flere tokens. Ingen ekstra modell, og utdataene er identiske med sekvensiell dekoding. |
speculative_draft_model | Nei | false | Kjør en liten GGUF-utkastmodell på sjekkpunktnoden for å foreslå utkastblokker (foretrekk «Filnavn på medfølgende utkastmodell». Ekstern URL er fortsatt tilgjengelig som reserve). Faller tilbake til n-gram-utkast når utkastmodellen ikke er tilgjengelig. |
draft_model_file | Nei | — | Filnavn på en ikke-partisjonert GGUF-utkastmodell i denne arbeidsbelastningspakken. SDK-et løser den fra required_files, slik at private S3-bøtter kan bruke den serverleverte signerte/proxy-URL-en i stedet for en offentlig URL. |
draft_model_url | Nei | — | Valgfri ekstern HTTPS-URL til den lille GGUF-utkastmodellen. Brukes som reserve når «Filnavn på medfølgende utkastmodell» mangler eller ikke finnes i required_files. |
speculative_max_draft | Nei | 8 | Øvre grense for utkasttokens som verifiseres per blokk. Den effektive lengden tilpasser seg den observerte godkjenningsraten. |
min_remote_stages | Nei | 0 | Diagnostisk plasseringsvalg for testing av GGUF pipeline-parallellisme. Når > 0, tildeles sjekkpunktet bare til noder som ville kjørt minst så mange trinn over WebRTC i stedet for lokalt. Faller tilbake etter sjekkpunktpeerens utsettelsesvindu for å unngå å sulte produksjonsjobber. |
wire_hidden_dtype | Nei | f16 | Datatype for skjulte aktiveringer mellom GGUF-pipelinetrinn. f16 halverer nyttelasten på tråden for prefill og spekulative blokker. f32 er en diagnostisk reserve. |
wire_hidden_codec | Nei | fp16 | Eksperimentell kodek for skjulte aktiveringsblokker med flere tokens mellom GGUF-pipelinetrinn. Dekoding av enkelttokens beholder den billige datatypestien. Generiske kodeker brukes bare for prefill-/spekulative blokker der byte-besparelser kan veie opp for kodekkostnaden. fp16 er tryggest, auto8/hq8 er diagnostikk. |
stage_chaining | Nei | true | Når alle GGUF-trinn er eksterne og støtter kjedeprotokollen, sendes skjulte aktiveringer direkte fra trinn til trinn i stedet for å videresende hver grense via sjekkpunktkoordinatoren. |
latent_mode | Nei | off | Treningsfri Soft Thinking / SwiReasoning under <think>…</think>. Krever GGUF WASM med _lstage_eval_soft på trinnvertene, ellers faller den tilbake til diskret dekoding. Standard er av til CDN-WASM er bygget på nytt. Gjensidig utelukkende med spekulasjon når Soft Thinking er aktiv. |
latent_phase | Nei | tagged | tagged = tenkemarkører, prefix = fra steg 0 (modeller uten markører). |
latent_exit_text | Nei | Final answer: | Brukes bare når latent_phase=prefix (vanlige ordforrådstokens). |
latent_top_n | Nei | 15 | Soft top-n |
latent_entropy_tau | Nei | 0.05 | Cold Stop-entropi τ |
latent_cold_stop_k | Nei | 256 | Cold Stop påfølgende steg |
swi_dwell_window | Nei | 512 | Swi Eksplisitt→Latent oppholdstid |
swi_max_switches | Nei | 8 | Swi maks Latent→Eksplisitt-bytter |
max_thinking_tokens | Nei | 1536 | Hardt budsjett før tvungen </think> / prefiksutgang. Må holdes merkbart under `max_new_tokens`: et resonneringsbudsjett på eller over det totale genereringsbudsjettet gir et svar som kuttes midt i tankegangen uten noe svar i det hele tatt. Kontrollplanet beregner dette på nytt ut fra budsjettet den valgte plasseringen faktisk har råd til, slik at en mindre verdi respekteres og en større blir begrenset. |
min_thinking_tokens | Nei | 0 | Gulv: maskerer </think> ut av samplingen til så mange resonneringstokens finnes. 0 slår det av. Hindrer at en tenkeblokk lukkes på det første genererte tokenet og svarer helt uten resonnering. |
prompt | Ja | — | Brukermelding / prompt til chatmodellen |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Poll med samme API-nøkkel til status er endelig (COMPLETED, FAILED, CANCELED eller MODERATION_BLOCKED). Når innholdsmoderering er aktivert, kan jobber starte i MODERATION_PENDING før de går inn i beregningskøen. Fullførte jobber inneholder forhåndssignerte download_url-verdier for hvert utdata.
Svar ved oppretting
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Svar ved fullføring
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}