LLM
MiniCPM 2B -chat
Kysy kysymys tai kokeile lyhyttä kirjoitustehtävää. Kirjaudu sisään, kun lähetät ensimmäisen viestisi.
MiniCPM by OpenBMB
Mallin lisenssit
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Valitse malli
Nykyinen malli:
MiniCPM 2B -chat
Tuloksen laatu: 50 %
Paras laatu, jota laitteesi pystyy suorittamaan. Lisää laitteita jotta työ valmistuu nopeammin.
Kirjoita viestisi ja paina Lähetä kirjautuaksesi sisään ja aloittaaksesi.
Lähetä chat-kehote ja saat MiniCPM 2B -vastauksen. Ilmainen LLM-chat verkossa selaimessa yhdistämilläsi laitteilla. Se on vahvempi pieni chat kuin puhelimen kokoinen Llama 3.2 1B, ja se on vain tekstiä. Yksi tehokas tietokone voi pitää sen muistissa; muuten työ jakautuu lisäämillesi koneille. Ensimmäinen ajo lataa mallin; seuraavat vastaukset käynnistyvät nopeammin.
API-viite
Lähetä RESTin kautta
Käytä henkilökohtaista API-avaintasi (msk_…) luodaksesi tämän työkuorman töitä omista työkaluistasi. Näin käynnistetyt työt suoritetaan samoilla laitteilla, jotka yhdistit sivulla Laitteesi – vähintään yhden on oltava verkossa.
https://cp.meshlabs.cloud/v1/organizations/jobsTodenna otsakkeella X-Organization-Api-Key: msk_your_personal_api_key. Otsakkeen nimi on sama kuin organisaatioavaimilla; henkilökohtaiset avaimet käyttävät samaa päätepistettä.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign samalla API-avaimella, lataa tiedostosi palautettuun osoitteeseen upload_url ja välitä sitten download_url kentässä job_spec (esimerkiksi nimellä input_image_url).Pyynnön runko
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}job_spec – kentät
| Kenttä | Pakollinen | Oletus | Kuvaus |
|---|---|---|---|
system_prompt | Ei | — | Valinnainen järjestelmäkehote |
enable_thinking | Ei | true | Ota MiniCPM5-ajattelu käyttöön ennen lopullista vastausta (<think> / </think>). Pidä tämä päällä. |
max_new_tokens | Ei | 2048 | Generoitavien tokenien enimmäismäärä (ajattelu + vastaus). Nosta pitkää tulostetta varten. Kehote ja generointi jakavat kontekstti-ikkunan, joten generointi pysähtyy kontekstiin sen sijaan, että vaiheen muistin alaraja kasvaisi. |
max_context | Ei | 8192 | Tokenien kokonaismäärä, jolle vaihetoimittajat varaavat KV- tai rekurrenttitilan – kehote ja generointi yhteensä. Yläraja on suurin konteksti, jolla Oracle mittasi tämän mallin, joten sijoittelun ei tarvitse ekstrapoloida todisteiden ulkopuolelle. Sen nostaminen nostaa muistin vähimmäisvaatimusta ja kaventaa siten niiden laitteiden joukkoa, jotka voivat ajaa työn. |
kv_hot_window | Ei | 32768 | Fyysinen huomio-KV rajataan uusimpiin N tokeniin, joten N:ää pidempi keskustelu unohtaa vanhimmat vuoronsa sen sijaan, että pysähtyisi kontekstirajaan. 0 pitää koko kontekstin muistissa. Kontekstti-ikkunan tasolla tai alle tämä ei muuta mitään – sama muisti, sama huomio – ja sen laskeminen ikkunan alle vaihtaa pitkän kantaman muistin rajattomaan keskustelun pituuteen, koska malli ei todella näe ikkunan taakse. |
turns | Ei | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Ei | 1 | Temperature |
top_p | Ei | 0.95 | Top P |
top_k | Ei | 0 | Top K |
presence_penalty | Ei | 0 | Presence Penalty |
repetition_penalty | Ei | 1 | Repetition Penalty |
seed | Ei | — | Satunnaissiemen toistettavuutta varten |
speculative_ngram | Ei | false | Kehotehakuun perustuva luonnostelu: kontekstin toistuvat n-grammit toistetaan luonnoslohkoina ja malli varmentaa ne YHDELLÄ läpikäynnillä, joten yksi verkon edestakainen kierros voi vahvistaa useita tokeneita. Ei lisämallia; tulos on identtinen peräkkäisen dekoodauksen kanssa. |
speculative_draft_model | Ei | false | Aja pientä GGUF-luonnosmallia tarkistuspistesolmussa luonnoslohkojen ehdottamiseksi (suosi 'Luonnosmallin mukana toimitettu tiedostonimi'; ulkoinen URL on edelleen käytettävissä varavaihtoehtona). Palaa n-grammiluonnosteluun, jos luonnosmalli ei ole käytettävissä. |
draft_model_file | Ei | — | Tämän työkuormapaketin osittamattoman GGUF-luonnosmallin tiedostonimi. SDK ratkaisee sen required_files-luettelosta, joten yksityiset S3-bucketit voivat käyttää palvelimen antamaa allekirjoitettua tai välityspalvelin-URL:ia julkisen URL:n sijaan. |
draft_model_url | Ei | — | Pienen GGUF-luonnosmallin valinnainen ulkoinen HTTPS-URL. Käytetään varavaihtoehtona, kun 'Luonnosmallin mukana toimitettu tiedostonimi' puuttuu tai ei ole required_files-luettelossa. |
speculative_max_draft | Ei | 8 | Lohkoa kohden varmennettavien luonnostokenien yläraja. Tehokas pituus mukautuu havaittuun hyväksymisasteeseen. |
min_remote_stages | Ei | 0 | Diagnostinen sijoittelusäädin GGUF-putkirinnakkaisuuden testaukseen. Kun > 0, tarkistuspiste annetaan vain solmuille, jotka ajaisivat vähintään näin monta vaihetta WebRTC:n yli paikallisesti ajamisen sijaan. Palaa takaisin tarkistuspisteen vertaisen armonajan jälkeen, jotta tuotantotyöt eivät näänny. |
wire_hidden_dtype | Ei | f16 | Piilotettujen aktivaatioiden tyyppi GGUF-putken vaiheiden välillä. f16 puolittaa siirtokuorman esitäytössä ja spekulatiivisissa lohkoissa; f32 on diagnostinen varavaihtoehto. |
wire_hidden_codec | Ei | fp16 | Kokeellinen koodekki usean tokenin piilotettujen aktivaatioiden lohkoille GGUF-putken vaiheiden välillä. Yhden tokenin dekoodaus pitää edullisen tyyppipolun; yleisiä koodekkeja käytetään vain esitäytössä ja spekulatiivisissa lohkoissa, joissa tavusäästöt voivat kompensoida koodekin kustannuksen. fp16 on turvallisin; auto8/hq8 ovat diagnostiikkaa. |
stage_chaining | Ei | true | Kun kaikki GGUF-vaiheet ovat etänä ja tukevat ketjuprotokollaa, lähetä piilotetut aktivaatiot suoraan vaiheelta toiselle sen sijaan, että jokainen raja välitettäisiin tarkistuspistekoordinaattorin kautta. |
latent_mode | Ei | off | Koulutusvapaa Soft Thinking / SwiReasoning <think>…</think>-lohkon aikana. Vaatii GGUF WASM:n, jossa _lstage_eval_soft on vaihetoimittajilla; muuten palataan diskreettiin dekoodaukseen. Oletuksena pois, kunnes CDN-WASM on rakennettu uudelleen. Poissulkeva spekulaation kanssa, kun Soft Thinking on aktiivinen. |
latent_phase | Ei | tagged | tagged = ajattelumerkit; prefix = askeleesta 0 alkaen (merkittömät mallit). |
latent_exit_text | Ei | Final answer: | Käytetään vain, kun latent_phase=prefix (tavalliset sanastotokenit). |
latent_top_n | Ei | 15 | Soft top-n |
latent_entropy_tau | Ei | 0.05 | Cold Stop -entropia τ |
latent_cold_stop_k | Ei | 256 | Cold Stop peräkkäiset askeleet |
swi_dwell_window | Ei | 512 | Swi Explicit→Latent -viipymä |
swi_max_switches | Ei | 8 | Swi Latent→Explicit -vaihtojen enimmäismäärä |
max_thinking_tokens | Ei | 1536 | Kova budjetti ennen pakotettua </think>- tai etuliitepoistumista. Arvon on pysyttävä selvästi alle `max_new_tokens`-arvon: päättelybudjetti, joka on yhtä suuri tai suurempi kuin koko generointibudjetti, johtaa vastaukseen, joka katkeaa kesken ajatuksen ilman varsinaista vastausta. Ohjaustaso laskee tämän uudelleen sen budjetin perusteella, jonka valittu sijoittelu todellisuudessa kestää, joten pienempää arvoa noudatetaan ja suurempi rajataan. |
min_thinking_tokens | Ei | 0 | Alaraja: peitä </think> pois näytteenotosta, kunnes päättelytokeneita on tämän verran. 0 poistaa käytöstä. Estää ajatuslohkon sulkeutumisen ensimmäiseen generoituun tokeniin ja vastaamisen ilman päättelyä. |
prompt | Kyllä | — | Käyttäjän viesti tai kehote chat-mallille |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Kysele samalla API-avaimella, kunnes status on lopullinen (COMPLETED, FAILED, CANCELED tai MODERATION_BLOCKED). Kun sisällön moderointi on käytössä, työt voivat alkaa tilassa MODERATION_PENDING ennen siirtymistään laskentajonoon. Valmiiden töiden jokaisessa tulosteessa on valmiiksi allekirjoitetut download_url-arvot.
Luontivastaus
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Valmistumisvastaus
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}