LLM
Czat MiniCPM 2B
Zadaj pytanie lub wypróbuj krótkie zadanie pisarskie. Zalogujesz się przy wysłaniu pierwszej wiadomości.
MiniCPM by OpenBMB
Licencje modelu
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Wyślij prompt czatu i uzyskaj odpowiedź MiniCPM 2B. Darmowy czat LLM online w przeglądarce, na podłączonych urządzeniach. To mocniejszy mały czat niż Llama 3.2 1B w rozmiarze na telefon i działa tylko na tekście. Jeden mocny komputer może go pomieścić; w przeciwnym razie praca dzieli się między dodane maszyny. Pierwsze uruchomienie pobiera model, kolejne odpowiedzi startują szybciej.
Dokumentacja API
Przesyłaj przez REST
Użyj swojego osobistego klucza API (msk_…), aby tworzyć zadania dla tego obciążenia z własnych narzędzi. Zadania uruchamiane w ten sposób działają na tych samych urządzeniach, które podłączyłeś(-aś) w sekcji Twoje urządzenia — co najmniej jedno musi być online.
https://cp.meshlabs.cloud/v1/organizations/jobsUwierzytelnij się za pomocą X-Organization-Api-Key: msk_your_personal_api_key. Nazwa nagłówka jest taka sama jak dla kluczy organizacji; klucze osobiste używają tego samego punktu końcowego.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign z tym samym kluczem API, prześlij plik pod zwrócony upload_url, a następnie przekaż download_url w job_spec (na przykład jako input_image_url).Treść żądania
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Pola: job_spec
| Pole | Wymagane | Domyślnie | Opis |
|---|---|---|---|
system_prompt | Nie | — | Opcjonalny prompt systemowy |
enable_thinking | Nie | true | Włącz myślenie MiniCPM5 przed ostateczną odpowiedzią (<think> / </think>). Pozostaw włączone. |
max_new_tokens | Nie | 2048 | Maksymalna liczba wygenerowanych tokenów (myślenie + odpowiedź). Zwiększ dla długich wypowiedzi. Prompt i generowanie współdzielą okno kontekstu, więc generowanie zatrzymuje się na kontekście, zamiast zwiększać dolny próg pamięci etapu. |
max_context | Nie | 8192 | Łączna liczba tokenów, dla których hosty etapów rezerwują stan KV/rekurencyjny — prompt plus generowanie. Górną granicą jest największy kontekst, przy którym Oracle zmierzył ten model, dzięki czemu rozmieszczenie nigdy nie musi ekstrapolować poza dowody. Zwiększenie go podnosi dolny próg pamięci, a tym samym zawęża grono urządzeń, które mogą wykonać zadanie. |
kv_hot_window | Nie | 32768 | Fizyczna uwaga KV jest ograniczona do najnowszych N tokenów, więc rozmowa dłuższa niż N zapomina najstarsze tury, zamiast zatrzymać się na limicie kontekstu. 0 utrzymuje cały kontekst w pamięci. Przy wartości równej oknu kontekstu lub niższej od niego nic się nie zmienia — ta sama pamięć, ta sama uwaga — a obniżenie jej poniżej okna kontekstu wymienia pamięć dalekiego zasięgu na nieograniczoną długość rozmowy, ponieważ model naprawdę nie widzi poza oknem. |
turns | Nie | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Nie | 1 | Temperature |
top_p | Nie | 0.95 | Top P |
top_k | Nie | 0 | Top K |
presence_penalty | Nie | 0 | Presence Penalty |
repetition_penalty | Nie | 1 | Repetition Penalty |
seed | Nie | — | Ziarno losowości dla powtarzalności |
speculative_ngram | Nie | false | Drafty z wyszukiwania w prompcie: powtarzające się n-gramy z kontekstu są odtwarzane jako bloki robocze i weryfikowane przez model w JEDNYM przebiegu, więc jedna runda sieciowa może zatwierdzić kilka tokenów. Bez dodatkowego modelu; wynik jest identyczny jak przy dekodowaniu sekwencyjnym. |
speculative_draft_model | Nie | false | Uruchom malutki model roboczy GGUF na węźle punktu kontrolnego, aby proponował bloki robocze (preferuj „Nazwa dołączonego pliku modelu roboczego”; zewnętrzny URL pozostaje dostępny jako rozwiązanie zapasowe). Wraca do draftów n-gramowych, gdy model roboczy jest niedostępny. |
draft_model_file | Nie | — | Nazwa nierozdzielonego pliku modelu roboczego GGUF w pakiecie tego zadania. SDK rozwiązuje ją z required_files, więc prywatne koszyki S3 mogą używać podpisanego/proxy URL dostarczonego przez serwer zamiast publicznego URL. |
draft_model_url | Nie | — | Opcjonalny zewnętrzny adres HTTPS malutkiego modelu roboczego GGUF. Używany jako rozwiązanie zapasowe, gdy „Nazwa dołączonego pliku modelu roboczego” nie jest ustawiona lub brakuje jej w required_files. |
speculative_max_draft | Nie | 8 | Górna granica liczby tokenów roboczych weryfikowanych w jednym bloku. Efektywna długość dostosowuje się do obserwowanego wskaźnika akceptacji. |
min_remote_stages | Nie | 0 | Diagnostyczne ustawienie rozmieszczenia do testów równoległości potokowej GGUF. Gdy > 0, punkt kontrolny jest przypisywany tylko do węzłów, które uruchomiłyby co najmniej tyle etapów przez WebRTC zamiast lokalnie. Po upływie okresu karencji peera punktu kontrolnego następuje powrót do zwykłego trybu, aby nie zagłodzić zadań produkcyjnych. |
wire_hidden_dtype | Nie | f16 | Typ danych ukrytych aktywacji między etapami potoku GGUF. f16 zmniejsza ładunek transmisji o połowę dla prefill i bloków spekulatywnych; f32 to diagnostyczne rozwiązanie zapasowe. |
wire_hidden_codec | Nie | fp16 | Eksperymentalny kodek dla wielotokenowych bloków ukrytych aktywacji między etapami potoku GGUF. Dekodowanie pojedynczego tokenu zachowuje tanią ścieżkę typu danych; kodeki ogólne są używane tylko dla bloków prefill/spekulatywnych, gdzie oszczędność bajtów może zrównoważyć koszt kodeka. fp16 jest najbezpieczniejszy; auto8/hq8 to diagnostyka. |
stage_chaining | Nie | true | Gdy wszystkie etapy GGUF są zdalne i obsługują protokół łańcuchowy, ukryte aktywacje są wysyłane bezpośrednio z etapu do etapu, zamiast przekazywać każdą granicę przez koordynatora punktu kontrolnego. |
latent_mode | Nie | off | Soft Thinking / SwiReasoning bez treningu podczas <think>…</think>. Wymaga GGUF WASM z _lstage_eval_soft na hostach etapów; w przeciwnym razie wraca do dekodowania dyskretnego. Domyślnie wyłączone do czasu przebudowania WASM na CDN. Wzajemnie wykluczające się ze spekulacją, gdy Soft Thinking jest aktywne. |
latent_phase | Nie | tagged | tagged = znaczniki think; prefix = od kroku 0 (modele bez znaczników). |
latent_exit_text | Nie | Final answer: | Używane tylko gdy latent_phase=prefix (zwykłe tokeny słownika). |
latent_top_n | Nie | 15 | Soft top-n |
latent_entropy_tau | Nie | 0.05 | Entropia τ Cold Stop |
latent_cold_stop_k | Nie | 256 | Kolejne kroki Cold Stop |
swi_dwell_window | Nie | 512 | Czas przebywania Swi Explicit→Latent |
swi_max_switches | Nie | 8 | Maks. liczba przełączeń Swi Latent→Explicit |
max_thinking_tokens | Nie | 1536 | Twardy budżet przed wymuszonym </think> / wyjściem z prefiksu. Musi pozostać wyraźnie poniżej `max_new_tokens`: budżet rozumowania równy lub większy od całkowitego budżetu generowania daje odpowiedź ucięta w połowie myśli, bez żadnego wyniku. Control plane ponownie przycina tę wartość do budżetu, na który stać wybrane rozmieszczenie, więc mniejsza wartość jest respektowana, a większa — ograniczana. |
min_thinking_tokens | Nie | 0 | Dolny próg: maskuje </think> w próbkowaniu, dopóki nie powstanie tyle tokenów rozumowania. 0 wyłącza. Zapobiega zamknięciu bloku myślenia na pierwszym wygenerowanym tokenie i odpowiedzi bez żadnego rozumowania. |
prompt | Tak | — | Wiadomość użytkownika / prompt dla modelu czatu |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Odpytuj z tym samym kluczem API, aż status osiągnie stan końcowy (COMPLETED, FAILED, CANCELED lub MODERATION_BLOCKED). Gdy włączona jest moderacja treści, zadania mogą zaczynać się w stanie MODERATION_PENDING, zanim trafią do kolejki obliczeń. Ukończone zadania zawierają wstępnie podpisane wartości download_url przy każdym wyniku.
Odpowiedź na utworzenie
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Odpowiedź po ukończeniu
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}