LLM

MiniCPM 2B csevegés

Tegyen fel egy kérdést, vagy próbáljon ki egy rövid írási feladatot. Az első üzenet elküldésekor jelentkezzen be.

MiniCPM by OpenBMB

Modelllicencek

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Mellékelt licenc

Jogi közlemény

IngyenesOnlineKorlátlanMiniCPM by OpenBMB API-hozzáférés

Amikor csak készen áll.

Írja meg üzenetét, és nyomja meg a Küldés gombot a bejelentkezéshez és a kezdéshez.

Küldjön egy csevegőkérést, és kapjon MiniCPM 2B választ. Ingyenes online LLM csevegés a böngészőben, az Ön által csatlakoztatott eszközökön. Erősebb kis csevegőmodell, mint a telefonméretű Llama 3.2 1B, és csak szöveges. Egyetlen erős számítógép képes befogadni; egyébként a munka a hozzáadott gépek között oszlik meg. Az első futtatáskor letöltődik a modell, a későbbi válaszok gyorsabban indulnak.

API-referencia

Beküldés REST-en keresztül

Személyes API-kulcsával (msk_…) saját eszközeiből is létrehozhat feladatokat ehhez a munkaterheléshez. Az így indított feladatok ugyanazokon az eszközökön futnak, amelyeket itt csatlakoztatott: Az Ön eszközei — legalább egynek online kell lennie.

API-részletek elrejtése
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Hitelesítés ezzel: X-Organization-Api-Key: msk_your_personal_api_key. A fejléc neve megegyezik a szervezeti kulcsokéval; a személyes kulcsok ugyanazt a végpontot használják.

Bemeneti fájlok:Hívja meg a(z) POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign végpontot ugyanazzal az API-kulccsal, töltse fel a fájlt a visszaadott upload_url címre, majd adja át a(z) download_url értéket a(z) job_spec mezőben (például input_image_url néven).

Kéréstörzs

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

job_spec mezői

MezőKötelezőAlapértelmezettLeírás
system_promptNem—Opcionális rendszerüzenet
enable_thinkingNemtrueA MiniCPM5 gondolkodásának engedélyezése a végső válasz előtt (<think> / </think>). Hagyja bekapcsolva.
max_new_tokensNem2048A generált tokenek maximális száma (gondolkodás + válasz). Hosszú kimenethez növelje. A kérés és a generálás osztozik a kontextusablakon, így a generálás a kontextusnál leáll, nem pedig növeli a szakasz memóriaküszöbét.
max_contextNem8192A szakaszgazdák által a KV/rekurrens állapothoz lefoglalt tokenek összes száma – a kérés és a generálás együtt. A felső korlát az a legnagyobb kontextus, amelyen az Oracle a modellt mérte, így az elhelyezésnek soha nem kell a bizonyítékokon túl extrapolálnia. Növelése megemeli a memóriaküszöböt, így szűkíti azon eszközök körét, amelyek a feladatot futtathatják.
kv_hot_windowNem32768A fizikai figyelem-KV a legújabb N tokenre van korlátozva, így az N-nél hosszabb beszélgetés a legrégebbi szakaszait elfelejti, ahelyett hogy a kontextushatárnál megállna. A 0 a teljes kontextust memóriában tartja. A kontextusablaknál nem nagyobb értéknél ez semmit sem változtat – ugyanaz a memória, ugyanaz a figyelem –, a kontextusablak alá csökkentve pedig a hosszú távú felidézést cseréli korlátlan beszélgetéshossz ellenében, mert a modell valóban nem lát az ablakon túlra.
turnsNem—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNem1Temperature
top_pNem0.95Top P
top_kNem0Top K
presence_penaltyNem0Presence Penalty
repetition_penaltyNem1Repetition Penalty
seedNem—Véletlen seed a reprodukálhatósághoz
speculative_ngramNemfalsePrompt-lookup vázlatolás: a környezetből származó ismétlődő n-gramokat vázlatblokkokként játssza újra a rendszer, és a modell EGY menetben ellenőrzi őket, így egyetlen hálózati körút több tokent is véglegesíthet. Nincs extra modell; a kimenet azonos a szekvenciális dekódolással.
speculative_draft_modelNemfalseEgy apró GGUF vázlatmodellt futtat az ellenőrzőpont-csomóponton a vázlatblokkok javaslatához (inkább a „Vázlatmodell csomagolt fájlneve” használata javasolt; a külső URL tartalékként elérhető marad). Ha a vázlatmodell nem érhető el, n-gramos vázlatolásra tér vissza.
draft_model_fileNem—Egy nem particionált GGUF vázlatmodell fájlneve ebben a feladatcsomagban. Az SDK a required_files alapján oldja fel, így a privát S3 vödrök a nyilvános URL helyett a szerver által adott aláírt/proxy URL-t használhatják.
draft_model_urlNem—Az apró GGUF vázlatmodell opcionális külső HTTPS URL-je. Tartalékként használatos, ha a „Vázlatmodell csomagolt fájlneve” hiányzik, vagy nem szerepel a required_files-ban.
speculative_max_draftNem8Blokkonként ellenőrzött vázlattokenek felső határa. A tényleges hossz a megfigyelt elfogadási arányhoz igazodik.
min_remote_stagesNem0Diagnosztikai elhelyezési beállítás a GGUF csővezeték-párhuzamos teszteléshez. Ha > 0, az ellenőrzőpontot csak olyan csomópontokhoz rendeli, amelyek legalább ennyi szakaszt futtatnának WebRTC-n keresztül helyben futtatás helyett. Az ellenőrzőpont-társ türelmi ablaka után visszalép, hogy ne éheztesse ki az éles feladatokat.
wire_hidden_dtypeNemf16A rejtett aktivációk adattípusa a GGUF csővezeték-szakaszok között. Az f16 felezi az előtöltés és a spekulatív blokkok átviteli adatmennyiségét; az f32 diagnosztikai tartalék.
wire_hidden_codecNemfp16Kísérleti kodek a GGUF csővezeték-szakaszok közötti többtokenes rejtett aktivációs blokkokhoz. Az egytokenes dekódolás az olcsó adattípus-útvonalat tartja; az általános kodekeket csak az előtöltési/spekulatív blokkokhoz használja, ahol a bájtmegtakarítás ellensúlyozhatja a kodek költségét. Az fp16 a legbiztonságosabb; az auto8/hq8 diagnosztikai.
stage_chainingNemtrueHa minden GGUF szakasz távoli és támogatja a láncprotokollt, a rejtett aktivációkat közvetlenül szakaszról szakaszra küldi, ahelyett hogy minden határt az ellenőrzőpont-koordinátoron keresztül közvetítene.
latent_modeNemoffTanítást nem igénylő Soft Thinking / SwiReasoning a <think>…</think> alatt. Szakaszgazdákon _lstage_eval_soft-tal rendelkező GGUF WASM szükséges; egyébként diszkrét dekódolásra tér vissza. Alapértelmezetten ki van kapcsolva, amíg a CDN WASM újra nincs építve. Aktív Soft Thinking esetén kölcsönösen kizárja a spekulációt.
latent_phaseNemtaggedtagged = gondolkodásjelölők; prefix = a 0. lépéstől (jelölő nélküli modellek).
latent_exit_textNem Final answer: Csak latent_phase=prefix esetén használatos (szokásos szótári tokenek).
latent_top_nNem15Soft top-n
latent_entropy_tauNem0.05Cold Stop entrópia τ
latent_cold_stop_kNem256Cold Stop egymást követő lépések
swi_dwell_windowNem512Swi explicit→látens tartózkodás
swi_max_switchesNem8Swi látens→explicit váltások maximális száma
max_thinking_tokensNem1536Kemény keret a kényszerített </think> / prefix kilépés előtt. Érezhetően a `max_new_tokens` alatt kell maradnia: az összes generálási keretet elérő vagy meghaladó érvelési keret olyan választ eredményez, amely a gondolatmenet közepén megszakad, és egyáltalán nincs benne válasz. A vezérlősík ezt újraszámolja abból a keretből, amelyet a kiválasztott elhelyezés ténylegesen megengedhet magának, így a kisebb érték érvényesül, a nagyobbat pedig korlátozza.
min_thinking_tokensNem0Alsó korlát: a </think>-et kizárja a mintavételezésből, amíg ennyi érvelési token nem készül. A 0 kikapcsolja. Megakadályozza, hogy a gondolkodási blokk az első generált tokennél lezáruljon, és érvelés nélkül válaszoljon.
promptIgen—Felhasználói üzenet / kérés a csevegőmodellnek

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Kérdezze le ugyanazzal az API-kulccsal, amíg a(z) status végállapotba nem kerül (COMPLETED, FAILED, CANCELED vagy MODERATION_BLOCKED). Ha a tartalommoderálás engedélyezve van, a feladatok MODERATION_PENDING állapotban indulhatnak, mielőtt bekerülnek a számítási sorba. A befejezett feladatok minden kimenetén előre aláírt download_url értékek szerepelnek.

Létrehozási válasz

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Befejezési válasz

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}