LLM

Ornith 1.5 35B A3B

질문하거나 짧은 글쓰기 작업을 시도해 보세요. 첫 메시지를 보낼 때 로그인합니다.

Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weights holder supplied.

Copyright 2026 Alibaba Cloud

모델 라이선스

Ornith-1.5-35B-A3B · MIT

Owner accepted publisher MIT declaration 2026-11-18. Full text comes from publisher sibling repository, tied by publisher README sentence; no weights-specific copyright holder supplied. Keep MIT and MESH provenance/change notice. Own-device gate remains unchanged.

포함된 라이선스

고지

Qwen3.6-35B-A3B (inferred ancestor; conservative notice) · Apache-2.0

Conservative upstream notice preservation: lineage inferred from five matching sampled tensors, not confirmed by Ornith publisher or exhaustive checkpoint comparison. Keep Apache licence and modification notice. No separate upstream NOTICE found.

포함된 라이선스

무료온라인무제한Publisher sibling LICENSE: Copyright (c) 2026 deepreinforce.ai; no separate weig API 액세스

준비되면 언제든지 시작하세요.

메시지를 작성하고 보내기를 누르면 로그인 후 시작됩니다.

프롬프트를 입력하면 Ornith 1.5 35B의 답변을 받을 수 있습니다. 답하기 전에 먼저 생각하는 모델로, 코딩, 디버깅, 단계별 추론에 특화되어 있습니다. 이 모델은 전문가 혼합(mixture-of-experts) 구조로, 전체 파라미터는 350억 개이지만 한 단어를 만드는 데는 약 30억 개만 사용하므로 이렇게 성능이 높은 모델도 일반 하드웨어에서 실행할 수 있습니다. 보통 방식으로 서빙하려면 80 GB 데이터센터 GPU가 필요합니다. 여기서는 모델을 작은 조각으로 나누어 연결한 기기들(노트북, 데스크톱, 여분의 컴퓨터, 또는 그 여러 대)에 분산하며, 각 기기가 담는 크기는 1기가바이트 미만입니다. 그래서 빌리는 것이 아니라 직접 실행할 수 있는 무료 온라인 LLM이 됩니다. 함수 작성, 버그 찾기, 리팩터링 계획, 어려운 질문 풀이를 요청해 보세요. 먼저 추론 과정을 보여 준 다음 답을 알려 줍니다. 텍스트를 입력하면 텍스트로 답합니다. 이미지를 읽거나 생성하지 않으며, 답변은 복사할 수 있는 일반 텍스트로 도착합니다.

API 레퍼런스

REST로 제출

개인 API 키(msk_…)를 사용하여 내 도구에서 이 워크로드의 작업을 생성하세요. 이렇게 시작한 작업은 내 기기에서 연결한 기기와 동일한 기기에서 실행되며, 최소 한 대는 온라인이어야 합니다.

API 세부 정보 숨기기
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

X-Organization-Api-Key: msk_your_personal_api_key로 인증합니다. 헤더 이름은 조직 키와 같으며, 개인 키도 같은 엔드포인트를 사용합니다.

입력 파일:같은 API 키로 POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign을(를) 호출하고, 반환된 upload_url에 파일을 업로드한 다음, job_spec에 download_url을(를) 전달하세요(예: input_image_url로).

요청 본문

{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec 필드

필드필수기본값설명
system_prompt아니요—선택 사항인 시스템 프롬프트
enable_thinking아니요true최종 답변 전에 사고/추론 과정을 사용합니다. Ornith의 채팅 템플릿은 `<think>` 블록을 엽니다. 켜 두세요.
max_new_tokens아니요2048생성할 최대 토큰 수입니다(사고 + 답변). 긴 출력이 필요하면 높이세요. 프롬프트와 생성이 컨텍스트 윈도우를 공유하므로, 생성은 스테이지의 메모리 최소 요구량을 늘리지 않고 컨텍스트에서 멈춥니다.
max_context아니요8192스테이지 호스트가 KV/순환 상태를 할당하는 전체 토큰 수로, 프롬프트와 생성 분량을 합한 값입니다. 상한은 Oracle이 이 모델에서 측정한 가장 큰 컨텍스트이므로, 배치가 측정된 근거를 넘어 추정할 필요가 없습니다. 값을 높이면 메모리 최소 요구량이 올라가 작업을 실행할 수 있는 기기가 줄어듭니다.
kv_hot_window아니요32768물리적 어텐션 KV는 가장 최근 N개 토큰으로 제한되므로, N보다 긴 대화는 컨텍스트 한도에서 멈추지 않고 가장 오래된 턴을 잊어버립니다. 0이면 전체 컨텍스트를 메모리에 상주시킵니다. 컨텍스트 윈도우 이하에서는 아무것도 바뀌지 않으며 메모리도 어텐션도 동일합니다. 윈도우보다 낮추면 모델이 실제로 윈도우 밖을 볼 수 없으므로, 장거리 기억력을 포기하는 대신 대화 길이를 무제한으로 이어갈 수 있습니다.
turns아니요—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperature아니요0.6Temperature
top_p아니요0.95Top P
top_k아니요20Top K
presence_penalty아니요0Presence Penalty
repetition_penalty아니요1Repetition Penalty
seed아니요—재현을 위한 랜덤 시드
speculative_ngram아니요false프롬프트 룩업 드래프팅: 컨텍스트에서 반복되는 n-gram을 초안 블록으로 재사용하고 모델이 한 번의 패스로 검증하므로, 한 번의 네트워크 왕복으로 여러 토큰을 확정할 수 있습니다. 추가 모델이 필요 없으며 출력은 순차 디코딩과 동일합니다.
speculative_draft_model아니요false체크포인트 노드에서 작은 GGUF 드래프트 모델을 실행해 초안 블록을 제안합니다('드래프트 모델 번들 파일 이름' 우선, 외부 URL은 대체 수단으로 계속 사용 가능). 드래프트 모델을 사용할 수 없으면 n-gram 드래프팅으로 전환됩니다.
draft_model_file아니요—이 워크로드 번들에 포함된 비분할 GGUF 드래프트 모델의 파일 이름입니다. SDK가 required_files에서 이를 찾아 해석하므로, 비공개 S3 버킷은 공개 URL 대신 서버가 제공하는 서명/프록시 URL을 사용할 수 있습니다.
draft_model_url아니요—작은 GGUF 드래프트 모델의 선택적 외부 HTTPS URL입니다. '드래프트 모델 번들 파일 이름'이 없거나 required_files에 없을 때 대체 수단으로 사용됩니다.
speculative_max_draft아니요8블록마다 검증하는 드래프트 토큰 수의 상한입니다. 실제 길이는 관측된 수락률에 맞춰 조정됩니다.
min_remote_stages아니요0GGUF 파이프라인 병렬 테스트를 위한 진단용 배치 설정입니다. 0보다 크면 체크포인트가 로컬이 아닌 WebRTC를 통해 이 개수 이상의 스테이지를 실행하는 노드에만 배정됩니다. 프로덕션 작업이 굶지 않도록 체크포인트 피어 유예 시간이 지나면 일반 배치로 전환됩니다.
wire_hidden_dtype아니요f16GGUF 파이프라인 스테이지 사이의 hidden 활성화 dtype입니다. f16은 프리필 및 추측 블록의 와이어 페이로드를 절반으로 줄이며, f32는 진단용 대체 옵션입니다.
wire_hidden_codec아니요fp16GGUF 파이프라인 스테이지 사이의 다중 토큰 hidden 활성화 블록을 위한 실험적 코덱입니다. 단일 토큰 디코드는 가벼운 dtype 경로를 유지하며, 범용 코덱은 바이트 절감이 코덱 비용을 상쇄할 수 있는 프리필/추측 블록에만 사용됩니다. fp16이 가장 안전하며 auto8/hq8은 진단용입니다.
stage_chaining아니요true모든 GGUF 스테이지가 원격이고 체인 프로토콜을 지원하면, 각 경계를 체크포인트 코디네이터를 거쳐 중계하지 않고 hidden 활성화를 스테이지끼리 직접 전달합니다.
latent_mode아니요off<think>…</think> 동안 학습이 필요 없는 Soft Thinking / SwiReasoning을 사용합니다. 스테이지 호스트에 _lstage_eval_soft가 있는 GGUF WASM이 필요하며, 그렇지 않으면 이산 디코드로 전환됩니다. CDN WASM이 다시 빌드될 때까지 기본값은 꺼짐입니다. Soft Thinking이 활성화되어 있으면 추측 디코딩과 함께 사용할 수 없습니다.
latent_phase아니요taggedtagged = 사고 마커 사용, prefix = 0단계부터 시작(마커가 없는 모델).
latent_exit_text아니요 Final answer: latent_phase=prefix일 때만 사용됩니다(일반 어휘 토큰).
latent_top_n아니요15Soft top-n
latent_entropy_tau아니요0.05Cold Stop 엔트로피 τ
latent_cold_stop_k아니요256Cold Stop 연속 단계 수
swi_dwell_window아니요512Swi 명시→잠재 체류
swi_max_switches아니요8Swi 최대 잠재→명시 전환 횟수
max_thinking_tokens아니요1536강제 </think> / 프리픽스 종료 전의 하드 예산입니다. `max_new_tokens`보다 의미 있게 작아야 합니다. 추론 예산이 전체 생성 예산 이상이면 답변 없이 생각 도중에 잘린 응답이 나옵니다. 컨트롤 플레인은 선택된 배치가 실제로 감당할 수 있는 예산을 기준으로 이 값을 다시 조정하므로, 더 작은 값은 그대로 적용되고 더 큰 값은 상한에 맞춰 줄어듭니다.
min_thinking_tokens아니요0하한: 추론 토큰이 이 개수만큼 생길 때까지 </think>를 샘플링에서 제외합니다. 0이면 비활성화됩니다. 첫 번째 생성 토큰에서 사고 블록이 닫혀 추론 없이 바로 답하는 일을 막습니다.
prompt예—채팅 모델에 보내는 사용자 메시지/프롬프트

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

status이(가) 최종 상태(COMPLETED, FAILED, CANCELED 또는 MODERATION_BLOCKED)가 될 때까지 같은 API 키로 폴링하세요. 콘텐츠 검토가 활성화된 경우, 작업은 컴퓨팅 대기열에 들어가기 전에 MODERATION_PENDING 상태로 시작할 수 있습니다. 완료된 작업의 각 출력에는 사전 서명된 download_url 값이 포함됩니다.

생성 응답

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

완료 응답

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "ornith-15-35b-a3b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 0.6,
    "top_p": 0.95,
    "top_k": 20,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}