LLM

Trò chuyện MiniCPM 2B

Đặt câu hỏi hoặc thử một yêu cầu viết ngắn. Bạn sẽ đăng nhập khi gửi tin nhắn đầu tiên.

MiniCPM by OpenBMB

Giấy phép mô hình

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Giấy phép đi kèm

Thông báo

Miễn phíTrực tuyếnKhông giới hạnMiniCPM by OpenBMB Truy cập API

Sẵn sàng khi bạn muốn.

Viết tin nhắn và nhấn Gửi để đăng nhập và bắt đầu.

Gửi lời nhắc trò chuyện và nhận câu trả lời từ MiniCPM 2B. Chat LLM trực tuyến miễn phí ngay trong trình duyệt, trên các thiết bị bạn kết nối. Đây là mô hình chat nhỏ mạnh hơn Llama 3.2 1B cỡ điện thoại, và chỉ xử lý văn bản. Một máy tính mạnh có thể chứa trọn mô hình; nếu không, công việc được chia cho các máy bạn thêm vào. Lần chạy đầu tiên sẽ tải mô hình về; các câu trả lời sau sẽ bắt đầu nhanh hơn.

Tài liệu tham khảo API

Gửi qua REST

Dùng khóa API cá nhân của bạn (msk_…) để tạo tác vụ cho workload này từ công cụ của riêng bạn. Tác vụ khởi chạy theo cách này chạy trên chính các thiết bị bạn đã kết nối tại Thiết bị của bạn — ít nhất một thiết bị phải trực tuyến.

Ẩn chi tiết API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Xác thực bằng X-Organization-Api-Key: msk_your_personal_api_key. Tên header giống với khóa tổ chức; khóa cá nhân dùng cùng endpoint.

Tệp đầu vào:Gọi POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign với cùng khóa API, tải tệp của bạn lên upload_url được trả về, rồi truyền download_url trong job_spec (ví dụ dưới dạng input_image_url).

Nội dung yêu cầu

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Các trường của job_spec

TrườngBắt buộcMặc địnhMô tả
system_promptKhông—Lời nhắc hệ thống (không bắt buộc)
enable_thinkingKhôngtrueBật chế độ suy nghĩ của MiniCPM5 trước câu trả lời cuối cùng (<think> / </think>). Hãy để bật.
max_new_tokensKhông2048Số token tối đa được sinh ra (suy nghĩ + câu trả lời). Tăng lên cho đầu ra dài. Lời nhắc và phần sinh dùng chung cửa sổ ngữ cảnh, nên quá trình sinh dừng ở giới hạn ngữ cảnh thay vì làm tăng mức bộ nhớ tối thiểu của giai đoạn.
max_contextKhông8192Tổng số token mà các máy chủ giai đoạn cấp phát cho trạng thái KV/hồi quy — gồm lời nhắc và phần sinh. Mức trần là ngữ cảnh lớn nhất mà Oracle đã đo cho mô hình này, nhờ đó việc bố trí không bao giờ phải ngoại suy vượt quá bằng chứng. Tăng giá trị này sẽ nâng mức bộ nhớ tối thiểu và do đó thu hẹp số thiết bị có thể chạy tác vụ.
kv_hot_windowKhông32768KV attention vật lý bị giới hạn ở N token mới nhất, nên cuộc trò chuyện dài hơn N sẽ quên những lượt cũ nhất thay vì dừng ở giới hạn ngữ cảnh. 0 giữ toàn bộ ngữ cảnh thường trú. Ở mức bằng hoặc thấp hơn cửa sổ ngữ cảnh thì không có gì thay đổi — cùng bộ nhớ, cùng attention — và hạ thấp xuống dưới cửa sổ ngữ cảnh là đánh đổi khả năng nhớ xa để lấy độ dài cuộc trò chuyện không giới hạn, vì mô hình thực sự không thể nhìn ra ngoài cửa sổ.
turnsKhông—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureKhông1Temperature
top_pKhông0.95Top P
top_kKhông0Top K
presence_penaltyKhông0Presence Penalty
repetition_penaltyKhông1Repetition Penalty
seedKhông—Seed ngẫu nhiên để có thể tái lập kết quả
speculative_ngramKhôngfalseSoạn nháp theo tra cứu lời nhắc: các n-gram lặp lại trong ngữ cảnh được phát lại như các khối nháp và được mô hình xác minh trong MỘT lượt, nhờ đó một vòng truyền mạng có thể chốt nhiều token. Không cần mô hình bổ sung; kết quả giống hệt giải mã tuần tự.
speculative_draft_modelKhôngfalseChạy một mô hình nháp GGUF nhỏ trên node điểm kiểm tra để đề xuất các khối nháp (ưu tiên 'Tên tệp mô hình nháp đi kèm'; URL bên ngoài vẫn dùng được làm phương án dự phòng). Quay về soạn nháp n-gram khi không có mô hình nháp.
draft_model_fileKhông—Tên tệp của một mô hình nháp GGUF chưa phân vùng trong gói workload này. SDK phân giải nó từ required_files, nhờ đó các bucket S3 riêng tư có thể dùng URL ký/proxy do máy chủ cung cấp thay vì URL công khai.
draft_model_urlKhông—URL HTTPS bên ngoài (không bắt buộc) của mô hình nháp GGUF nhỏ. Được dùng làm phương án dự phòng khi 'Tên tệp mô hình nháp đi kèm' vắng mặt hoặc không có trong required_files.
speculative_max_draftKhông8Giới hạn trên của số token nháp được xác minh trong mỗi khối. Độ dài thực tế thích ứng theo tỷ lệ chấp nhận quan sát được.
min_remote_stagesKhông0Núm chẩn đoán bố trí để kiểm thử GGUF song song theo đường ống. Khi > 0, điểm kiểm tra chỉ được giao cho các node chạy ít nhất số giai đoạn này qua WebRTC thay vì cục bộ. Quay về sau khoảng thời gian ân hạn của máy ngang hàng điểm kiểm tra để tránh làm đói các tác vụ production.
wire_hidden_dtypeKhôngf16Kiểu dữ liệu kích hoạt ẩn giữa các giai đoạn đường ống GGUF. f16 giảm một nửa tải truyền cho prefill và các khối suy đoán; f32 là phương án dự phòng để chẩn đoán.
wire_hidden_codecKhôngfp16Bộ mã hóa/giải mã thử nghiệm cho các khối kích hoạt ẩn nhiều token giữa các giai đoạn đường ống GGUF. Giải mã từng token giữ đường kiểu dữ liệu nhẹ; các bộ mã hóa/giải mã chung chỉ dùng cho prefill/khối suy đoán nơi lượng byte tiết kiệm có thể bù chi phí mã hóa. fp16 an toàn nhất; auto8/hq8 dùng để chẩn đoán.
stage_chainingKhôngtrueKhi tất cả giai đoạn GGUF đều ở xa và hỗ trợ giao thức chuỗi, gửi kích hoạt ẩn trực tiếp từ giai đoạn này sang giai đoạn khác thay vì chuyển tiếp qua bộ điều phối điểm kiểm tra tại mỗi ranh giới.
latent_modeKhôngoffSoft Thinking / SwiReasoning không cần huấn luyện trong <think>…</think>. Cần GGUF WASM có _lstage_eval_soft trên các máy chủ giai đoạn; nếu không sẽ quay về giải mã rời rạc. Mặc định tắt cho đến khi WASM trên CDN được dựng lại. Loại trừ lẫn nhau với suy đoán khi Soft Thinking đang hoạt động.
latent_phaseKhôngtaggedtagged = dấu hiệu think; prefix = từ bước 0 (mô hình không có dấu hiệu).
latent_exit_textKhông Final answer: Chỉ dùng khi latent_phase=prefix (token từ vựng thông thường).
latent_top_nKhông15Soft top-n
latent_entropy_tauKhông0.05Ngưỡng entropy τ của Cold Stop
latent_cold_stop_kKhông256Số bước liên tiếp của Cold Stop
swi_dwell_windowKhông512Thời gian lưu lại Swi Explicit→Latent
swi_max_switchesKhông8Số lần chuyển Swi Latent→Explicit tối đa
max_thinking_tokensKhông1536Ngân sách cứng trước khi buộc </think> / thoát tiền tố. Giá trị phải thấp hơn đáng kể so với `max_new_tokens`: ngân sách suy luận bằng hoặc vượt tổng ngân sách sinh sẽ khiến câu trả lời bị cắt ngang giữa chừng và không có đáp án nào. Control plane sẽ cắt lại giá trị này theo ngân sách mà phương án bố trí đã chọn thực sự đáp ứng được, vì vậy giá trị nhỏ hơn được giữ nguyên còn giá trị lớn hơn sẽ bị giới hạn lại.
min_thinking_tokensKhông0Mức sàn: che </think> khỏi quá trình lấy mẫu cho đến khi có đủ số token suy luận này. 0 là tắt. Ngăn khối suy nghĩ đóng ngay ở token đầu tiên được sinh ra và trả lời mà không có chút suy luận nào.
promptCó—Tin nhắn / lời nhắc của người dùng cho mô hình trò chuyện

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Thăm dò bằng cùng khóa API cho đến khi status ở trạng thái kết thúc (COMPLETED, FAILED, CANCELED hoặc MODERATION_BLOCKED). Khi kiểm duyệt nội dung được bật, tác vụ có thể bắt đầu ở MODERATION_PENDING trước khi vào hàng đợi tính toán. Tác vụ đã hoàn tất có các giá trị download_url được ký trước trên mỗi đầu ra.

Phản hồi khi tạo

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Phản hồi khi hoàn tất

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}