LLM
Ornith 1.5 35B A3B
Posez une question ou essayez une courte tâche de rédaction. Vous vous connecterez en envoyant votre premier message.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Licences du modèle
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Saisissez un prompt et obtenez une réponse d'Ornith 1.5 35B : un modèle qui réfléchit avant de répondre, conçu pour le code, le débogage et le raisonnement pas à pas. C'est un modèle à mélange d'experts : 35 milliards de paramètres au total, mais seulement environ trois milliards servent pour un mot donné, ce qui explique qu'un modèle aussi capable puisse tourner sur du matériel ordinaire. Le servir de la façon habituelle demande un GPU de centre de données de 80 Go. Ici, il est découpé en petits morceaux répartis sur les appareils que vous connectez (un ordinateur portable, un ordinateur de bureau, une machine de rechange, ou plusieurs ensemble), et chacun en garde moins d'un gigaoctet. C'est donc un LLM gratuit en ligne que vous pouvez réellement exécuter vous-même, plutôt que louer. Demandez-lui d'écrire une fonction, de trouver un bogue, de planifier un refactoring ou de résoudre une question difficile : il montrera d'abord son raisonnement, puis donnera la réponse. Texte en entrée, texte en sortie : il ne lit pas d'images et n'en génère pas, et la réponse arrive sous forme de texte brut que vous pouvez copier.
Référence de l’API
Envoyer via REST
Utilisez votre clé API personnelle (msk_…) pour créer des tâches pour ce workload depuis vos propres outils. Les tâches lancées ainsi s’exécutent sur les mêmes appareils que ceux que vous avez connectés dans Vos appareils ; au moins l’un d’eux doit être en ligne.
https://cp.meshlabs.cloud/v1/organizations/jobsAuthentifiez-vous avec X-Organization-Api-Key: msk_your_personal_api_key. Le nom de l’en-tête est le même que pour les clés d’organisation ; les clés personnelles utilisent le même point de terminaison.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign avec la même clé API, envoyez votre fichier vers l’upload_url renvoyée, puis transmettez download_url dans job_spec (par exemple en tant que input_image_url).Corps de la requête
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Champs de job_spec
| Champ | Requis | Par défaut | Description |
|---|---|---|---|
system_prompt | Non | — | Prompt système facultatif |
enable_thinking | Non | true | Active la réflexion/le raisonnement avant la réponse finale. Le modèle de chat d'Ornith ouvre un bloc `<think>` ; laissez cette option activée. |
max_new_tokens | Non | 2048 | Nombre maximal de tokens générés (réflexion + réponse). Augmentez-le pour des sorties longues. Le prompt et la génération partagent la fenêtre de contexte : la génération s'arrête donc au contexte au lieu d'augmenter le plancher de mémoire de l'étape. |
max_context | Non | 8192 | Nombre total de tokens pour lesquels les hôtes d'étape allouent l'état KV/récurrent : prompt plus génération. Le plafond est le plus grand contexte avec lequel l'Oracle a mesuré ce modèle, de sorte que le placement n'a jamais à extrapoler au-delà des mesures. L'augmenter relève le plancher de mémoire et réduit donc le nombre d'appareils pouvant exécuter la tâche. |
kv_hot_window | Non | 32768 | Le KV d'attention physique est limité aux N tokens les plus récents : une conversation plus longue que N oublie donc ses tours les plus anciens au lieu de s'arrêter à la limite de contexte. 0 garde tout le contexte résident. À la fenêtre de contexte ou en dessous, cela ne change rien (même mémoire, même attention) ; l'abaisser sous le contexte échange le rappel à longue portée contre une longueur de conversation illimitée, car le modèle ne peut réellement pas voir au-delà de la fenêtre. |
turns | Non | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Non | 0.6 | Temperature |
top_p | Non | 0.95 | Top P |
top_k | Non | 20 | Top K |
presence_penalty | Non | 0 | Presence Penalty |
repetition_penalty | Non | 1 | Repetition Penalty |
seed | Non | — | Graine aléatoire pour la reproductibilité |
speculative_ngram | Non | false | Brouillon par recherche dans le prompt : les n-grammes répétés du contexte sont rejoués sous forme de blocs de brouillon et vérifiés par le modèle en UNE seule passe, de sorte qu'un seul aller-retour réseau peut valider plusieurs tokens. Aucun modèle supplémentaire ; la sortie est identique à un décodage séquentiel. |
speculative_draft_model | Non | false | Exécute un minuscule modèle de brouillon GGUF sur le nœud de checkpoint pour proposer des blocs de brouillon (préférez « Nom de fichier du modèle de brouillon intégré » ; l'URL externe reste disponible en solution de repli). Se rabat sur le brouillon par n-grammes lorsque le modèle de brouillon n'est pas disponible. |
draft_model_file | Non | — | Nom de fichier d'un modèle de brouillon GGUF non partitionné dans le bundle de cette tâche. Le SDK le résout à partir de required_files, de sorte que les buckets S3 privés peuvent utiliser l'URL signée/proxy fournie par le serveur au lieu d'une URL publique. |
draft_model_url | Non | — | URL HTTPS externe facultative du minuscule modèle de brouillon GGUF. Utilisée en solution de repli lorsque « Nom de fichier du modèle de brouillon intégré » est absent ou manquant dans required_files. |
speculative_max_draft | Non | 8 | Limite supérieure de tokens de brouillon vérifiés par bloc. La longueur effective s'adapte au taux d'acceptation observé. |
min_remote_stages | Non | 0 | Réglage de placement de diagnostic pour les tests de parallélisme de pipeline GGUF. Lorsqu'il est > 0, le checkpoint n'est attribué qu'aux nœuds qui exécuteraient au moins ce nombre d'étapes via WebRTC plutôt qu'en local. Se rabat après le délai de grâce du pair de checkpoint pour ne pas affamer les tâches de production. |
wire_hidden_dtype | Non | f16 | Type de données des activations cachées entre les étapes du pipeline GGUF. f16 divise par deux la charge réseau pour le préremplissage et les blocs spéculatifs ; f32 est une solution de repli de diagnostic. |
wire_hidden_codec | Non | fp16 | Codec expérimental pour les blocs d'activations cachées multi-tokens entre les étapes du pipeline GGUF. Le décodage d'un seul token garde le chemin de type de données peu coûteux ; les codecs génériques ne servent que pour les blocs de préremplissage/spéculatifs où l'économie d'octets peut compenser le coût du codec. fp16 est le plus sûr ; auto8/hq8 sont des diagnostics. |
stage_chaining | Non | true | Lorsque toutes les étapes GGUF sont distantes et prennent en charge le protocole de chaînage, envoie les activations cachées directement d'une étape à l'autre au lieu de relayer chaque frontière par le coordinateur de checkpoint. |
latent_mode | Non | off | Soft Thinking / SwiReasoning sans entraînement pendant <think>…</think>. Nécessite un WASM GGUF avec _lstage_eval_soft sur les hôtes d'étape ; sinon se rabat sur un décodage discret. Désactivé par défaut tant que le WASM du CDN n'est pas reconstruit. Mutuellement exclusif avec la spéculation lorsque Soft Thinking est actif. |
latent_phase | Non | tagged | tagged = marqueurs de réflexion ; prefix = dès l'étape 0 (modèles sans marqueurs). |
latent_exit_text | Non | Final answer: | Utilisé uniquement lorsque latent_phase=prefix (tokens ordinaires du vocabulaire). |
latent_top_n | Non | 15 | Soft top-n |
latent_entropy_tau | Non | 0.05 | Entropie τ de Cold Stop |
latent_cold_stop_k | Non | 256 | Étapes consécutives de Cold Stop |
swi_dwell_window | Non | 512 | Maintien Swi Explicite→Latent |
swi_max_switches | Non | 8 | Basculements Swi Latent→Explicite max. |
max_thinking_tokens | Non | 1536 | Budget strict avant la fermeture forcée de </think> / la sortie du préfixe. Doit rester nettement inférieur à `max_new_tokens` : un budget de raisonnement égal ou supérieur au budget total de génération produit une réponse coupée en pleine réflexion, sans aucune réponse. Le plan de contrôle recalcule cette valeur à partir du budget que le placement choisi peut réellement se permettre : une valeur plus petite est respectée, une plus grande est plafonnée. |
min_thinking_tokens | Non | 0 | Plancher : masque </think> de l'échantillonnage tant que ce nombre de tokens de raisonnement n'existe pas. 0 désactive. Évite qu'un bloc de réflexion se ferme dès le premier token généré et réponde sans aucun raisonnement. |
prompt | Oui | — | Message / prompt de l'utilisateur pour le modèle de discussion |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Interrogez l’API avec la même clé jusqu’à ce que status soit dans un état final (COMPLETED, FAILED, CANCELED ou MODERATION_BLOCKED). Lorsque la modération du contenu est activée, les tâches peuvent commencer à l’état MODERATION_PENDING avant d’entrer dans la file de calcul. Les tâches terminées incluent des valeurs download_url présignées pour chaque sortie.
Réponse de création
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Réponse de fin d’exécution
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}