LLM
Ornith 1.5 35B A3B
Задайте вопрос или попробуйте короткое задание на письмо. Войти нужно будет при отправке первого сообщения.
Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.
Copyright 2026 Alibaba Cloud
Лицензии модели
Ornith-1.5-35B-A3B · MIT
Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.
Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0
Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.
Введите запрос и получите ответ от Ornith 1.5 35B — модели, которая думает, прежде чем ответить, и создана для программирования, отладки и пошаговых рассуждений. Это модель типа «смесь экспертов»: всего 35 миллиардов параметров, но для каждого слова используется лишь около трёх миллиардов, именно поэтому настолько мощная модель вообще может работать на обычном оборудовании. Обычный запуск такой модели требует GPU для дата-центров на 80 ГБ. Здесь она разделена на небольшие части, которые распределяются по подключённым вами устройствам — ноутбуку, настольному компьютеру, запасной машине или нескольким сразу, — и каждое из них хранит менее гигабайта. Благодаря этому это бесплатная онлайн-LLM, которую можно действительно запустить самому, а не арендовать. Попросите её написать функцию, найти ошибку, спланировать рефакторинг или разобрать сложный вопрос: сначала она покажет свои рассуждения, а затем даст ответ. Текст на входе — текст на выходе: модель не читает изображения и не создаёт их, а ответ приходит простым текстом, который можно скопировать.
Справочник API
Отправка через REST
Используйте свой личный ключ API (msk_…), чтобы создавать задания для этой рабочей нагрузки из собственных инструментов. Запущенные так задания выполняются на тех же устройствах, которые вы подключили в разделе Ваши устройства, — хотя бы одно из них должно быть в сети.
https://cp.meshlabs.cloud/v1/organizations/jobsАутентификация с помощью X-Organization-Api-Key: msk_your_personal_api_key. Имя заголовка совпадает с ключами организации; личные ключи используют ту же конечную точку.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign с тем же ключом API, загрузите файл по полученному upload_url, затем передайте download_url в job_spec (например, как input_image_url).Тело запроса
{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Поля job_spec
| Поле | Обязательное | По умолчанию | Описание |
|---|---|---|---|
system_prompt | Нет | — | Необязательный системный промпт |
enable_thinking | Нет | true | Включить размышление (рассуждение) перед окончательным ответом. Шаблон чата Ornith открывает блок `<think>`; оставьте включённым. |
max_new_tokens | Нет | 2048 | Максимальное число генерируемых токенов (размышление + ответ). Увеличьте для длинных ответов. Запрос и генерация делят окно контекста, поэтому генерация останавливается на границе контекста, а не увеличивает минимальный объём памяти этапа. |
max_context | Нет | 8192 | Общее число токенов, под которое хосты этапов выделяют состояние KV/рекуррентное состояние, — запрос плюс генерация. Верхняя граница — наибольший контекст, на котором Oracle измерил эту модель, поэтому размещению не приходится экстраполировать за пределы подтверждённых данных. Увеличение этого значения повышает минимальный объём памяти и сужает круг устройств, способных выполнить задачу. |
kv_hot_window | Нет | 32768 | Физический KV внимания ограничен последними N токенами, поэтому диалог длиннее N забывает самые старые реплики, а не останавливается на пределе контекста. 0 оставляет весь контекст в памяти. При значении, равном окну контекста или меньше него, ничего не меняется — та же память, то же внимание, — а уменьшение ниже окна контекста обменивает дальнюю память на неограниченную длину диалога, потому что модель действительно не видит ничего за пределами окна. |
turns | Нет | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Нет | 0.6 | Temperature |
top_p | Нет | 0.95 | Top P |
top_k | Нет | 20 | Top K |
presence_penalty | Нет | 0 | Presence Penalty |
repetition_penalty | Нет | 1 | Repetition Penalty |
seed | Нет | — | Случайное зерно (seed) для воспроизводимости |
speculative_ngram | Нет | false | Черновики по принципу поиска в промпте: повторяющиеся n-граммы из контекста воспроизводятся как черновые блоки, а модель проверяет их за ОДИН проход, поэтому за одно сетевое обращение можно зафиксировать несколько токенов. Дополнительная модель не нужна; результат идентичен последовательному декодированию. |
speculative_draft_model | Нет | false | Запускает крошечную черновую модель GGUF на узле контрольной точки, чтобы предлагать черновые блоки (лучше использовать «Имя файла встроенной черновой модели»; внешний URL остаётся запасным вариантом). Если черновая модель недоступна, используются черновики на n-граммах. |
draft_model_file | Нет | — | Имя файла нефрагментированной черновой модели GGUF в пакете этой задачи. SDK находит её по required_files, поэтому для приватных бакетов S3 можно использовать подписанный/прокси-URL от сервера вместо публичного. |
draft_model_url | Нет | — | Необязательный внешний HTTPS-URL крошечной черновой модели GGUF. Используется как запасной вариант, если «Имя файла встроенной черновой модели» не указано или отсутствует в required_files. |
speculative_max_draft | Нет | 8 | Верхняя граница числа черновых токенов, проверяемых в одном блоке. Фактическая длина подстраивается под наблюдаемую долю принятых токенов. |
min_remote_stages | Нет | 0 | Диагностический параметр размещения для тестирования конвейерного параллелизма GGUF. Если значение больше 0, контрольная точка назначается только узлам, которые будут выполнять не менее этого числа этапов по WebRTC, а не локально. После окна ожидания пира контрольной точки происходит возврат к обычному поведению, чтобы не оставлять боевые задачи без выполнения. |
wire_hidden_dtype | Нет | f16 | Тип данных скрытых активаций между этапами конвейера GGUF. f16 вдвое уменьшает объём передаваемых данных при префилле и спекулятивных блоках; f32 — диагностический запасной вариант. |
wire_hidden_codec | Нет | fp16 | Экспериментальный кодек для блоков скрытых активаций из нескольких токенов между этапами конвейера GGUF. Декодирование по одному токену использует дешёвый путь с типом данных; универсальные кодеки применяются только к блокам префилла и спекулятивным блокам, где экономия байтов может окупить стоимость кодека. fp16 — самый безопасный; auto8/hq8 — диагностические. |
stage_chaining | Нет | true | Когда все этапы GGUF удалённые и поддерживают протокол цепочки, скрытые активации отправляются напрямую от этапа к этапу, а не пересылаются на каждой границе через координатор контрольной точки. |
latent_mode | Нет | off | Soft Thinking / SwiReasoning без дообучения внутри <think>…</think>. Требует GGUF WASM с _lstage_eval_soft на хостах этапов; иначе происходит возврат к дискретному декодированию. По умолчанию выключено, пока не пересобран WASM в CDN. Взаимоисключающе со спекулятивным декодированием, когда активен Soft Thinking. |
latent_phase | Нет | tagged | tagged = маркеры размышления; prefix = с шага 0 (модели без маркеров). |
latent_exit_text | Нет | Final answer: | Используется только при latent_phase=prefix (обычные токены словаря). |
latent_top_n | Нет | 15 | Soft top-n |
latent_entropy_tau | Нет | 0.05 | Энтропия τ Cold Stop |
latent_cold_stop_k | Нет | 256 | Число последовательных шагов Cold Stop |
swi_dwell_window | Нет | 512 | Время пребывания Swi Explicit→Latent |
swi_max_switches | Нет | 8 | Максимум переключений Swi Latent→Explicit |
max_thinking_tokens | Нет | 1536 | Жёсткий бюджет до принудительного </think> / выхода из префикса. Значение должно оставаться заметно ниже `max_new_tokens`: если бюджет рассуждений равен общему бюджету генерации или превышает его, ответ обрывается на полуслове и ответа нет вовсе. Управляющий сервер пересчитывает это значение исходя из бюджета, который выбранное размещение реально может обеспечить: меньшее значение учитывается, а большее ограничивается. |
min_thinking_tokens | Нет | 0 | Нижняя граница: </think> исключается из семплирования, пока не накопится столько токенов рассуждения. 0 отключает. Не даёт блоку размышления закрыться на первом же сгенерированном токене и ответить вообще без рассуждений. |
prompt | Да | — | Сообщение пользователя / запрос для чат-модели |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Опрашивайте с тем же ключом API, пока status не перейдёт в конечное состояние (COMPLETED, FAILED, CANCELED или MODERATION_BLOCKED). Если включена модерация контента, задания могут начинаться в состоянии MODERATION_PENDING, прежде чем попасть в вычислительную очередь. Выполненные задания содержат предподписанные значения download_url для каждого результата.
Ответ на создание
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Ответ по завершении
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "ornith-15-35b-a3b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 0.6,
"top_p": 0.95,
"top_k": 20,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}