LLM

MiniCPM 2B 채팅

질문하거나 짧은 글쓰기 작업을 시도해 보세요. 첫 메시지를 보낼 때 로그인합니다.

MiniCPM by OpenBMB

모델 라이선스

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

포함된 라이선스

고지

무료온라인무제한MiniCPM by OpenBMB API 액세스

준비되면 언제든지 시작하세요.

메시지를 작성하고 보내기를 누르면 로그인 후 시작됩니다.

채팅 프롬프트를 보내면 MiniCPM 2B의 답변을 받을 수 있습니다. 연결한 기기의 브라우저에서 무료 온라인 LLM 채팅을 이용할 수 있습니다. 휴대폰 크기의 Llama 3.2 1B보다 성능이 높은 소형 채팅 모델이며 텍스트 전용입니다. 성능 좋은 컴퓨터 한 대가 모델 전체를 담을 수 있고, 그렇지 않으면 추가한 기기들에 작업이 나뉩니다. 처음 실행할 때는 모델을 내려받으며, 이후 답변은 더 빠르게 시작됩니다.

API 레퍼런스

REST로 제출

개인 API 키(msk_…)를 사용하여 내 도구에서 이 워크로드의 작업을 생성하세요. 이렇게 시작한 작업은 내 기기에서 연결한 기기와 동일한 기기에서 실행되며, 최소 한 대는 온라인이어야 합니다.

API 세부 정보 숨기기
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

X-Organization-Api-Key: msk_your_personal_api_key로 인증합니다. 헤더 이름은 조직 키와 같으며, 개인 키도 같은 엔드포인트를 사용합니다.

입력 파일:같은 API 키로 POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign을(를) 호출하고, 반환된 upload_url에 파일을 업로드한 다음, job_spec에 download_url을(를) 전달하세요(예: input_image_url로).

요청 본문

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec 필드

필드필수기본값설명
system_prompt아니요—선택 사항인 시스템 프롬프트
enable_thinking아니요true최종 답변 전에 MiniCPM5의 사고 과정을 사용합니다(<think> / </think>). 켜 두세요.
max_new_tokens아니요2048생성할 최대 토큰 수입니다(사고 + 답변). 긴 출력이 필요하면 높이세요. 프롬프트와 생성이 컨텍스트 윈도우를 공유하므로, 생성은 스테이지의 메모리 최소 요구량을 늘리지 않고 컨텍스트에서 멈춥니다.
max_context아니요8192스테이지 호스트가 KV/순환 상태를 할당하는 전체 토큰 수로, 프롬프트와 생성 분량을 합한 값입니다. 상한은 Oracle이 이 모델에서 측정한 가장 큰 컨텍스트이므로, 배치가 측정된 근거를 넘어 추정할 필요가 없습니다. 값을 높이면 메모리 최소 요구량이 올라가 작업을 실행할 수 있는 기기가 줄어듭니다.
kv_hot_window아니요32768물리적 어텐션 KV는 가장 최근 N개 토큰으로 제한되므로, N보다 긴 대화는 컨텍스트 한도에서 멈추지 않고 가장 오래된 턴을 잊어버립니다. 0이면 전체 컨텍스트를 메모리에 상주시킵니다. 컨텍스트 윈도우 이하에서는 아무것도 바뀌지 않으며 메모리도 어텐션도 동일합니다. 윈도우보다 낮추면 모델이 실제로 윈도우 밖을 볼 수 없으므로, 장거리 기억력을 포기하는 대신 대화 길이를 무제한으로 이어갈 수 있습니다.
turns아니요—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperature아니요1Temperature
top_p아니요0.95Top P
top_k아니요0Top K
presence_penalty아니요0Presence Penalty
repetition_penalty아니요1Repetition Penalty
seed아니요—재현을 위한 랜덤 시드
speculative_ngram아니요false프롬프트 룩업 드래프팅: 컨텍스트에서 반복되는 n-gram을 초안 블록으로 재사용하고 모델이 한 번의 패스로 검증하므로, 한 번의 네트워크 왕복으로 여러 토큰을 확정할 수 있습니다. 추가 모델이 필요 없으며 출력은 순차 디코딩과 동일합니다.
speculative_draft_model아니요false체크포인트 노드에서 작은 GGUF 드래프트 모델을 실행해 초안 블록을 제안합니다('드래프트 모델 번들 파일 이름' 우선, 외부 URL은 대체 수단으로 계속 사용 가능). 드래프트 모델을 사용할 수 없으면 n-gram 드래프팅으로 전환됩니다.
draft_model_file아니요—이 워크로드 번들에 포함된 비분할 GGUF 드래프트 모델의 파일 이름입니다. SDK가 required_files에서 이를 찾아 해석하므로, 비공개 S3 버킷은 공개 URL 대신 서버가 제공하는 서명/프록시 URL을 사용할 수 있습니다.
draft_model_url아니요—작은 GGUF 드래프트 모델의 선택적 외부 HTTPS URL입니다. '드래프트 모델 번들 파일 이름'이 없거나 required_files에 없을 때 대체 수단으로 사용됩니다.
speculative_max_draft아니요8블록마다 검증하는 드래프트 토큰 수의 상한입니다. 실제 길이는 관측된 수락률에 맞춰 조정됩니다.
min_remote_stages아니요0GGUF 파이프라인 병렬 테스트를 위한 진단용 배치 설정입니다. 0보다 크면 체크포인트가 로컬이 아닌 WebRTC를 통해 이 개수 이상의 스테이지를 실행하는 노드에만 배정됩니다. 프로덕션 작업이 굶지 않도록 체크포인트 피어 유예 시간이 지나면 일반 배치로 전환됩니다.
wire_hidden_dtype아니요f16GGUF 파이프라인 스테이지 사이의 hidden 활성화 dtype입니다. f16은 프리필 및 추측 블록의 와이어 페이로드를 절반으로 줄이며, f32는 진단용 대체 옵션입니다.
wire_hidden_codec아니요fp16GGUF 파이프라인 스테이지 사이의 다중 토큰 hidden 활성화 블록을 위한 실험적 코덱입니다. 단일 토큰 디코드는 가벼운 dtype 경로를 유지하며, 범용 코덱은 바이트 절감이 코덱 비용을 상쇄할 수 있는 프리필/추측 블록에만 사용됩니다. fp16이 가장 안전하며 auto8/hq8은 진단용입니다.
stage_chaining아니요true모든 GGUF 스테이지가 원격이고 체인 프로토콜을 지원하면, 각 경계를 체크포인트 코디네이터를 거쳐 중계하지 않고 hidden 활성화를 스테이지끼리 직접 전달합니다.
latent_mode아니요off<think>…</think> 동안 학습이 필요 없는 Soft Thinking / SwiReasoning을 사용합니다. 스테이지 호스트에 _lstage_eval_soft가 있는 GGUF WASM이 필요하며, 그렇지 않으면 이산 디코드로 전환됩니다. CDN WASM이 다시 빌드될 때까지 기본값은 꺼짐입니다. Soft Thinking이 활성화되어 있으면 추측 디코딩과 함께 사용할 수 없습니다.
latent_phase아니요taggedtagged = 사고 마커 사용, prefix = 0단계부터 시작(마커가 없는 모델).
latent_exit_text아니요 Final answer: latent_phase=prefix일 때만 사용됩니다(일반 어휘 토큰).
latent_top_n아니요15Soft top-n
latent_entropy_tau아니요0.05Cold Stop 엔트로피 τ
latent_cold_stop_k아니요256Cold Stop 연속 단계 수
swi_dwell_window아니요512Swi 명시→잠재 체류
swi_max_switches아니요8Swi 최대 잠재→명시 전환 횟수
max_thinking_tokens아니요1536강제 </think> / 프리픽스 종료 전의 하드 예산입니다. `max_new_tokens`보다 의미 있게 작아야 합니다. 추론 예산이 전체 생성 예산 이상이면 답변 없이 생각 도중에 잘린 응답이 나옵니다. 컨트롤 플레인은 선택된 배치가 실제로 감당할 수 있는 예산을 기준으로 이 값을 다시 조정하므로, 더 작은 값은 그대로 적용되고 더 큰 값은 상한에 맞춰 줄어듭니다.
min_thinking_tokens아니요0하한: 추론 토큰이 이 개수만큼 생길 때까지 </think>를 샘플링에서 제외합니다. 0이면 비활성화됩니다. 첫 번째 생성 토큰에서 사고 블록이 닫혀 추론 없이 바로 답하는 일을 막습니다.
prompt예—채팅 모델에 보내는 사용자 메시지/프롬프트

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

status이(가) 최종 상태(COMPLETED, FAILED, CANCELED 또는 MODERATION_BLOCKED)가 될 때까지 같은 API 키로 폴링하세요. 콘텐츠 검토가 활성화된 경우, 작업은 컴퓨팅 대기열에 들어가기 전에 MODERATION_PENDING 상태로 시작할 수 있습니다. 완료된 작업의 각 출력에는 사전 서명된 download_url 값이 포함됩니다.

생성 응답

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

완료 응답

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}