LLM
Ornith 1.5 35B A3B
Faça uma pergunta ou experimente uma tarefa de escrita curta. Inicie sessão quando enviar a primeira mensagem.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Licenças do modelo
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Escreva um prompt e receba uma resposta do Ornith 1.5 35B — um modelo que pensa antes de responder e foi feito para programação, depuração e raciocínio passo a passo. É um modelo de mistura de especialistas: 35 mil milhões de parâmetros no total, mas apenas cerca de três mil milhões são usados para cada palavra, e é por isso que um modelo tão capaz consegue correr em hardware comum. Servi-lo da forma habitual exige uma GPU de data center de 80 GB. Aqui ele é dividido em pequenas partes, distribuídas pelos dispositivos que liga — um portátil, um desktop, uma máquina sobressalente ou vários deles juntos — e cada um guarda menos de um gigabyte. Isso faz dele um LLM online grátis que pode realmente executar por conta própria, em vez de alugar. Peça que escreva uma função, encontre um bug, planeie uma refatoração ou resolva uma questão difícil; ele mostra primeiro o raciocínio e depois dá a resposta. Texto entra, texto sai — ele não lê nem gera imagens, e a resposta chega como texto simples que pode copiar.
Referência da API
Submeter via REST
Utilize a sua chave de API pessoal (msk_…) para criar tarefas para esta carga de trabalho a partir das suas próprias ferramentas. As tarefas iniciadas desta forma são executadas nos mesmos dispositivos que ligou em Os seus dispositivos — pelo menos um tem de estar online.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentique-se com X-Organization-Api-Key: msk_your_personal_api_key. O nome do cabeçalho é o mesmo das chaves de organização; as chaves pessoais utilizam o mesmo endpoint.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign com a mesma chave de API, carregue o seu ficheiro para o upload_url devolvido e depois passe download_url em job_spec (por exemplo, como input_image_url).Corpo do pedido
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Campos de job_spec
| Campo | Obrigatório | Predefinição | Descrição |
|---|---|---|---|
system_prompt | Não | — | Prompt de sistema opcional |
enable_thinking | Não | true | Ativa o raciocínio (thinking) antes da resposta final. O template de chat do Ornith abre um bloco `<think>`; deixe ativado. |
max_new_tokens | Não | 2048 | Máximo de tokens gerados (raciocínio + resposta). Aumente para saídas longas. O prompt e a geração partilham a janela de contexto, por isso a geração pára no contexto em vez de aumentar o mínimo de memória da etapa. |
max_context | Não | 8192 | Total de tokens para os quais os hosts de etapa reservam estado KV/recorrente — prompt mais geração. O limite máximo é o maior contexto com que o Oracle mediu este modelo, de modo que o posicionamento nunca tenha de extrapolar para além das evidências. Aumentá-lo eleva o mínimo de memória e, portanto, reduz os dispositivos que podem executar o trabalho. |
kv_hot_window | Não | 32768 | O KV de atenção físico é limitado aos N tokens mais recentes, de modo que uma conversa maior do que N esquece os turnos mais antigos em vez de parar no limite de contexto. 0 mantém todo o contexto residente. Igual ou abaixo da janela de contexto, isso não muda nada — mesma memória, mesma atenção — e reduzi-lo abaixo dela troca memória de longo alcance por um tamanho de conversa ilimitado, porque o modelo, na prática, não vê para além da janela. |
turns | Não | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Não | 0.6 | Temperature |
top_p | Não | 0.95 | Top P |
top_k | Não | 20 | Top K |
presence_penalty | Não | 0 | Presence Penalty |
repetition_penalty | Não | 1 | Repetition Penalty |
seed | Não | — | Seed aleatória para reprodutibilidade |
speculative_ngram | Não | false | Rascunho por consulta ao prompt: n-gramas repetidos do contexto são reaproveitados como blocos de rascunho e verificados pelo modelo em UMA passagem, de modo que uma única ida e volta de rede pode confirmar vários tokens. Sem modelo extra; a saída é idêntica à descodificação sequencial. |
speculative_draft_model | Não | false | Executa um pequeno modelo de rascunho GGUF no nó de checkpoint para propor blocos de rascunho (prefira 'Draft model bundled filename'; a URL externa continua disponível como alternativa). Recorre ao rascunho por n-gramas quando o modelo de rascunho não está disponível. |
draft_model_file | Não | — | Nome do ficheiro de um modelo de rascunho GGUF não particionado neste pacote do workload. O SDK resolve-o a partir de required_files, de modo que buckets S3 privados podem usar a URL assinada/proxy fornecida pelo servidor em vez de uma URL pública. |
draft_model_url | Não | — | URL HTTPS externa opcional do pequeno modelo de rascunho GGUF. Usada como alternativa quando 'Draft model bundled filename' está ausente ou não consta em required_files. |
speculative_max_draft | Não | 8 | Limite superior de tokens de rascunho verificados por bloco. O tamanho efetivo adapta-se à taxa de aceitação observada. |
min_remote_stages | Não | 0 | Controlo de diagnóstico de posicionamento para testes de pipeline paralelo GGUF. Quando > 0, o checkpoint é atribuído apenas a nós que executariam pelo menos esse número de etapas via WebRTC em vez de localmente. Recorre a outra opção após a janela de tolerância do par de checkpoint, para que os trabalhos de produção não fiquem por atender. |
wire_hidden_dtype | Não | f16 | Tipo de dados das ativações ocultas entre etapas do pipeline GGUF. f16 reduz à metade a carga transmitida em prefill e blocos especulativos; f32 é uma alternativa de diagnóstico. |
wire_hidden_codec | Não | fp16 | Codec experimental para blocos de ativações ocultas de vários tokens entre etapas do pipeline GGUF. A descodificação de um único token mantém o caminho barato de tipo de dados; codecs genéricos são usados apenas em blocos de prefill/especulativos, onde a economia de bytes pode compensar o custo do codec. fp16 é o mais seguro; auto8/hq8 são diagnósticos. |
stage_chaining | Não | true | Quando todas as etapas GGUF são remotas e suportam ao protocolo de cadeia, envia as ativações ocultas diretamente de etapa para etapa, em vez de retransmitir cada fronteira pelo coordenador de checkpoint. |
latent_mode | Não | off | Soft Thinking / SwiReasoning sem treino durante <think>…</think>. Requer GGUF WASM com _lstage_eval_soft nos hosts de etapa; caso contrário, recorre à descodificação discreta. Desativado por predefinição até que o WASM do CDN seja reconstruído. Mutuamente exclusivo com a especulação quando o Soft Thinking está ativo. |
latent_phase | Não | tagged | tagged = marcadores think; prefix = desde o passo 0 (modelos sem marcadores). |
latent_exit_text | Não | Final answer: | Usado apenas com latent_phase=prefix (tokens comuns do vocabulário). |
latent_top_n | Não | 15 | Soft top-n |
latent_entropy_tau | Não | 0.05 | Entropia τ do Cold Stop |
latent_cold_stop_k | Não | 256 | Passos consecutivos do Cold Stop |
swi_dwell_window | Não | 512 | Permanência Swi Explicit→Latent |
swi_max_switches | Não | 8 | Máximo de trocas Swi Latent→Explicit |
max_thinking_tokens | Não | 1536 | Orçamento rígido antes do </think> forçado / saída do prefixo. Deve ficar bem abaixo de `max_new_tokens`: um orçamento de raciocínio igual ou superior ao orçamento total de geração produz uma resposta cortada no meio do raciocínio, sem nenhuma resposta. O plano de controlo recalcula este valor a partir do orçamento que o posicionamento escolhido consegue de facto suportar; assim, um valor menor é respeitado e um maior é limitado. |
min_thinking_tokens | Não | 0 | Mínimo: mascara </think> da amostragem até existir esse número de tokens de raciocínio. 0 desativa. Impede que um bloco de raciocínio se feche no primeiro token gerado e responda sem nenhum raciocínio. |
prompt | Sim | — | Mensagem / prompt do utilizador para o modelo de chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Consulte com a mesma chave de API até status ser terminal (COMPLETED, FAILED, CANCELED ou MODERATION_BLOCKED). Quando a moderação de conteúdos está ativada, as tarefas podem começar em MODERATION_PENDING antes de entrarem na fila de computação. As tarefas concluídas incluem valores download_url pré-assinados em cada resultado.
Resposta de criação
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Resposta de conclusão
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}