LLM

MiniCPM 2B Sohbet

Bir soru sorun veya kısa bir yazma görevi deneyin. İlk mesajınızı gönderdiğinizde giriş yaparsınız.

MiniCPM by OpenBMB

Model lisansları

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Birlikte verilen lisans

Bildirim

ÜcretsizÇevrimiçiSınırsızMiniCPM by OpenBMB API erişimi

Hazır olduğunuzda başlayın.

Mesajınızı yazın ve giriş yapıp başlamak için Gönder'e basın.

Bir sohbet istemi gönderin ve MiniCPM 2B yanıtı alın. Tarayıcıda, bağladığınız cihazlarda ücretsiz çevrimiçi LLM sohbeti. Telefon boyutundaki Llama 3.2 1B'den daha güçlü küçük bir sohbet modelidir ve yalnızca metindir. Güçlü bir bilgisayar onu tutabilir; aksi hâlde iş, eklediğiniz makinelere bölünür. İlk çalıştırmada model indirilir; sonraki yanıtlar daha hızlı başlar.

API başvurusu

REST ile gönderin

Kendi araçlarınızdan bu iş yükü için iş oluşturmak üzere kişisel API anahtarınızı (msk_…) kullanın. Bu şekilde başlatılan işler, Cihazlarınız sayfasında bağladığınız aynı cihazlarda çalışır — en az birinin çevrimiçi olması gerekir.

API ayrıntılarını gizle
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

X-Organization-Api-Key: msk_your_personal_api_key ile kimlik doğrulayın. Başlık adı kuruluş anahtarlarıyla aynıdır; kişisel anahtarlar da aynı uç noktayı kullanır.

Girdi dosyaları:Aynı API anahtarıyla POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign çağrısı yapın, dosyanızı döndürülen upload_url adresine yükleyin, ardından download_url değerini job_spec içinde iletin (örneğin input_image_url olarak).

İstek gövdesi

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec alanları

AlanZorunluVarsayılanAçıklama
system_promptHayır—İsteğe bağlı sistem istemi
enable_thinkingHayırtrueNihai yanıttan önce MiniCPM5 düşünmesini etkinleştirin (<think> / </think>). Bunu açık bırakın.
max_new_tokensHayır2048Üretilen en fazla belirteç (düşünme + yanıt). Uzun biçimli çıktı için artırın. İstem ve üretim bağlam penceresini paylaşır; bu nedenle üretim, aşamanın bellek tabanını büyütmek yerine bağlamda durur.
max_contextHayır8192Aşama ana bilgisayarlarının KV/yinelemeli durum için ayırdığı toplam belirteç sayısı — istem artı üretim. Üst sınır, Oracle'ın bu modeli ölçtüğü en büyük bağlamdır; böylece yerleşim hiçbir zaman kanıtın ötesine tahmin yürütmek zorunda kalmaz. Artırmak bellek tabanını yükseltir ve dolayısıyla işi çalıştırabilecek cihazları daraltır.
kv_hot_windowHayır32768Fiziksel dikkat KV'si en yeni N belirteçle sınırlandırılır; böylece N'den uzun bir konuşma, bağlam sınırında durmak yerine en eski turlarını unutur. 0 tüm bağlamı bellekte tutar. Bağlam penceresine eşit veya altında hiçbir şeyi değiştirmez — aynı bellek, aynı dikkat — ve bunun altına düşürmek, uzun menzilli hatırlamayı sınırsız konuşma uzunluğuyla takas eder; çünkü model pencerenin ötesini gerçekten göremez.
turnsHayır—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureHayır1Temperature
top_pHayır0.95Top P
top_kHayır0Top K
presence_penaltyHayır0Presence Penalty
repetition_penaltyHayır1Repetition Penalty
seedHayır—Tekrarlanabilirlik için rastgele seed
speculative_ngramHayırfalseİstem arama taslağı: bağlamdaki tekrarlanan n-gramlar taslak blokları olarak yeniden oynatılır ve model tarafından TEK geçişte doğrulanır; böylece tek bir ağ gidiş-dönüşü birkaç belirteci onaylayabilir. Ek model yoktur; çıktı sıralı kod çözmeyle aynıdır.
speculative_draft_modelHayırfalseTaslak blokları önermek için denetim noktası düğümünde küçük bir GGUF taslak modeli çalıştırın ('Taslak model paket dosya adı' tercih edilir; harici URL yedek olarak kullanılabilir kalır). Taslak model kullanılamadığında n-gram taslağına geri döner.
draft_model_fileHayır—Bu iş yükü paketindeki bölümlenmemiş bir GGUF taslak modelinin dosya adı. SDK bunu required_files içinden çözer; böylece özel S3 kovaları herkese açık URL yerine sunucunun sağladığı imzalı/vekil URL'yi kullanabilir.
draft_model_urlHayır—Küçük GGUF taslak modelinin isteğe bağlı harici HTTPS URL'si. 'Taslak model paket dosya adı' yoksa veya required_files içinde bulunmuyorsa yedek olarak kullanılır.
speculative_max_draftHayır8Blok başına doğrulanan taslak belirteçleri için üst sınır. Etkin uzunluk, gözlenen kabul oranına uyum sağlar.
min_remote_stagesHayır0GGUF boru hattı paralel testi için tanılama yerleşim ayarı. > 0 olduğunda denetim noktası, yerel yerine WebRTC üzerinden en az bu kadar aşama çalıştıracak düğümlere atanır. Üretim işlerinin aç kalmaması için denetim noktası eş tolerans penceresinden sonra geri döner.
wire_hidden_dtypeHayırf16GGUF boru hattı aşamaları arasındaki gizli aktivasyon veri türü. f16, ön doldurma ve spekülatif bloklar için tel yükünü yarıya indirir; f32 tanılama amaçlı yedektir.
wire_hidden_codecHayırfp16GGUF boru hattı aşamaları arasındaki çok belirteçli gizli aktivasyon blokları için deneysel kodek. Tek belirteçli kod çözme ucuz veri türü yolunu korur; genel kodekler yalnızca bayt tasarrufunun kodek maliyetini dengeleyebileceği ön doldurma/spekülatif bloklar için kullanılır. fp16 en güvenlisidir; auto8/hq8 tanılama amaçlıdır.
stage_chainingHayırtrueTüm GGUF aşamaları uzak olduğunda ve zincir protokolünü desteklediğinde, her sınırı denetim noktası koordinatörü üzerinden aktarmak yerine gizli aktivasyonları doğrudan aşamadan aşamaya gönderir.
latent_modeHayıroff<think>…</think> sırasında eğitimsiz Soft Thinking / SwiReasoning. Aşama ana bilgisayarlarında _lstage_eval_soft içeren GGUF WASM gerektirir; aksi hâlde ayrık kod çözmeye geri döner. CDN WASM yeniden derlenene kadar varsayılan kapalıdır. Soft Thinking etkinken spekülasyonla birlikte kullanılamaz.
latent_phaseHayırtaggedtagged = düşünme işaretleyicileri; prefix = 0. adımdan itibaren (işaretleyicisiz modeller).
latent_exit_textHayır Final answer: Yalnızca latent_phase=prefix olduğunda kullanılır (sıradan sözlük belirteçleri).
latent_top_nHayır15Soft top-n
latent_entropy_tauHayır0.05Cold Stop entropi τ
latent_cold_stop_kHayır256Cold Stop ardışık adımlar
swi_dwell_windowHayır512Swi Açık→Örtük bekleme
swi_max_switchesHayır8Swi en fazla Örtük→Açık geçiş
max_thinking_tokensHayır1536Zorunlu </think> / önek çıkışından önceki katı bütçe. `max_new_tokens` değerinin belirgin biçimde altında kalmalıdır: toplam üretim bütçesine eşit veya onu aşan bir akıl yürütme bütçesi, hiç yanıt içermeyen, düşüncenin ortasında kesilmiş bir cevap üretir. Kontrol düzlemi bunu, seçilen yerleşimin gerçekten karşılayabileceği bütçeye göre yeniden keser; böylece daha küçük bir değer dikkate alınır, daha büyük bir değer ise kısılır.
min_thinking_tokensHayır0Taban: bu kadar akıl yürütme belirteci oluşana kadar </think> örneklemeden maskelenir. 0 devre dışı bırakır. Bir düşünme bloğunun ilk üretilen belirteçte kapanmasını ve hiç akıl yürütmeden yanıt vermesini engeller.
promptEvet—Sohbet modeli için kullanıcı mesajı / istemi

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

status son duruma (COMPLETED, FAILED, CANCELED veya MODERATION_BLOCKED) ulaşana kadar aynı API anahtarıyla yoklayın. İçerik denetimi etkin olduğunda işler, hesaplama kuyruğuna girmeden önce MODERATION_PENDING durumunda başlayabilir. Tamamlanan işler her çıktıda önceden imzalanmış download_url değerleri içerir.

Oluşturma yanıtı

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Tamamlanma yanıtı

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}