LLM

Czat MiniCPM 2B

Zadaj pytanie lub wypróbuj krótkie zadanie pisarskie. Zalogujesz się przy wysłaniu pierwszej wiadomości.

MiniCPM by OpenBMB

Licencje modelu

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Dołączona licencja

Informacja prawna

BezpłatnieOnlineBez limituMiniCPM by OpenBMB Dostęp przez API

Kiedy tylko zechcesz.

Napisz wiadomość i naciśnij Wyślij, aby się zalogować i zacząć.

Wyślij prompt czatu i uzyskaj odpowiedź MiniCPM 2B. Darmowy czat LLM online w przeglądarce, na podłączonych urządzeniach. To mocniejszy mały czat niż Llama 3.2 1B w rozmiarze na telefon i działa tylko na tekście. Jeden mocny komputer może go pomieścić; w przeciwnym razie praca dzieli się między dodane maszyny. Pierwsze uruchomienie pobiera model, kolejne odpowiedzi startują szybciej.

Dokumentacja API

Przesyłaj przez REST

Użyj swojego osobistego klucza API (msk_…), aby tworzyć zadania dla tego obciążenia z własnych narzędzi. Zadania uruchamiane w ten sposób działają na tych samych urządzeniach, które podłączyłeś(-aś) w sekcji Twoje urządzenia — co najmniej jedno musi być online.

Ukryj szczegóły API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Uwierzytelnij się za pomocą X-Organization-Api-Key: msk_your_personal_api_key. Nazwa nagłówka jest taka sama jak dla kluczy organizacji; klucze osobiste używają tego samego punktu końcowego.

Pliki wejściowe:Wywołaj POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign z tym samym kluczem API, prześlij plik pod zwrócony upload_url, a następnie przekaż download_url w job_spec (na przykład jako input_image_url).

Treść żądania

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Pola: job_spec

PoleWymaganeDomyślnieOpis
system_promptNie—Opcjonalny prompt systemowy
enable_thinkingNietrueWłącz myślenie MiniCPM5 przed ostateczną odpowiedzią (<think> / </think>). Pozostaw włączone.
max_new_tokensNie2048Maksymalna liczba wygenerowanych tokenów (myślenie + odpowiedź). Zwiększ dla długich wypowiedzi. Prompt i generowanie współdzielą okno kontekstu, więc generowanie zatrzymuje się na kontekście, zamiast zwiększać dolny próg pamięci etapu.
max_contextNie8192Łączna liczba tokenów, dla których hosty etapów rezerwują stan KV/rekurencyjny — prompt plus generowanie. Górną granicą jest największy kontekst, przy którym Oracle zmierzył ten model, dzięki czemu rozmieszczenie nigdy nie musi ekstrapolować poza dowody. Zwiększenie go podnosi dolny próg pamięci, a tym samym zawęża grono urządzeń, które mogą wykonać zadanie.
kv_hot_windowNie32768Fizyczna uwaga KV jest ograniczona do najnowszych N tokenów, więc rozmowa dłuższa niż N zapomina najstarsze tury, zamiast zatrzymać się na limicie kontekstu. 0 utrzymuje cały kontekst w pamięci. Przy wartości równej oknu kontekstu lub niższej od niego nic się nie zmienia — ta sama pamięć, ta sama uwaga — a obniżenie jej poniżej okna kontekstu wymienia pamięć dalekiego zasięgu na nieograniczoną długość rozmowy, ponieważ model naprawdę nie widzi poza oknem.
turnsNie—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNie1Temperature
top_pNie0.95Top P
top_kNie0Top K
presence_penaltyNie0Presence Penalty
repetition_penaltyNie1Repetition Penalty
seedNie—Ziarno losowości dla powtarzalności
speculative_ngramNiefalseDrafty z wyszukiwania w prompcie: powtarzające się n-gramy z kontekstu są odtwarzane jako bloki robocze i weryfikowane przez model w JEDNYM przebiegu, więc jedna runda sieciowa może zatwierdzić kilka tokenów. Bez dodatkowego modelu; wynik jest identyczny jak przy dekodowaniu sekwencyjnym.
speculative_draft_modelNiefalseUruchom malutki model roboczy GGUF na węźle punktu kontrolnego, aby proponował bloki robocze (preferuj „Nazwa dołączonego pliku modelu roboczego”; zewnętrzny URL pozostaje dostępny jako rozwiązanie zapasowe). Wraca do draftów n-gramowych, gdy model roboczy jest niedostępny.
draft_model_fileNie—Nazwa nierozdzielonego pliku modelu roboczego GGUF w pakiecie tego zadania. SDK rozwiązuje ją z required_files, więc prywatne koszyki S3 mogą używać podpisanego/proxy URL dostarczonego przez serwer zamiast publicznego URL.
draft_model_urlNie—Opcjonalny zewnętrzny adres HTTPS malutkiego modelu roboczego GGUF. Używany jako rozwiązanie zapasowe, gdy „Nazwa dołączonego pliku modelu roboczego” nie jest ustawiona lub brakuje jej w required_files.
speculative_max_draftNie8Górna granica liczby tokenów roboczych weryfikowanych w jednym bloku. Efektywna długość dostosowuje się do obserwowanego wskaźnika akceptacji.
min_remote_stagesNie0Diagnostyczne ustawienie rozmieszczenia do testów równoległości potokowej GGUF. Gdy > 0, punkt kontrolny jest przypisywany tylko do węzłów, które uruchomiłyby co najmniej tyle etapów przez WebRTC zamiast lokalnie. Po upływie okresu karencji peera punktu kontrolnego następuje powrót do zwykłego trybu, aby nie zagłodzić zadań produkcyjnych.
wire_hidden_dtypeNief16Typ danych ukrytych aktywacji między etapami potoku GGUF. f16 zmniejsza ładunek transmisji o połowę dla prefill i bloków spekulatywnych; f32 to diagnostyczne rozwiązanie zapasowe.
wire_hidden_codecNiefp16Eksperymentalny kodek dla wielotokenowych bloków ukrytych aktywacji między etapami potoku GGUF. Dekodowanie pojedynczego tokenu zachowuje tanią ścieżkę typu danych; kodeki ogólne są używane tylko dla bloków prefill/spekulatywnych, gdzie oszczędność bajtów może zrównoważyć koszt kodeka. fp16 jest najbezpieczniejszy; auto8/hq8 to diagnostyka.
stage_chainingNietrueGdy wszystkie etapy GGUF są zdalne i obsługują protokół łańcuchowy, ukryte aktywacje są wysyłane bezpośrednio z etapu do etapu, zamiast przekazywać każdą granicę przez koordynatora punktu kontrolnego.
latent_modeNieoffSoft Thinking / SwiReasoning bez treningu podczas <think>…</think>. Wymaga GGUF WASM z _lstage_eval_soft na hostach etapów; w przeciwnym razie wraca do dekodowania dyskretnego. Domyślnie wyłączone do czasu przebudowania WASM na CDN. Wzajemnie wykluczające się ze spekulacją, gdy Soft Thinking jest aktywne.
latent_phaseNietaggedtagged = znaczniki think; prefix = od kroku 0 (modele bez znaczników).
latent_exit_textNie Final answer: Używane tylko gdy latent_phase=prefix (zwykłe tokeny słownika).
latent_top_nNie15Soft top-n
latent_entropy_tauNie0.05Entropia τ Cold Stop
latent_cold_stop_kNie256Kolejne kroki Cold Stop
swi_dwell_windowNie512Czas przebywania Swi Explicit→Latent
swi_max_switchesNie8Maks. liczba przełączeń Swi Latent→Explicit
max_thinking_tokensNie1536Twardy budżet przed wymuszonym </think> / wyjściem z prefiksu. Musi pozostać wyraźnie poniżej `max_new_tokens`: budżet rozumowania równy lub większy od całkowitego budżetu generowania daje odpowiedź ucięta w połowie myśli, bez żadnego wyniku. Control plane ponownie przycina tę wartość do budżetu, na który stać wybrane rozmieszczenie, więc mniejsza wartość jest respektowana, a większa — ograniczana.
min_thinking_tokensNie0Dolny próg: maskuje </think> w próbkowaniu, dopóki nie powstanie tyle tokenów rozumowania. 0 wyłącza. Zapobiega zamknięciu bloku myślenia na pierwszym wygenerowanym tokenie i odpowiedzi bez żadnego rozumowania.
promptTak—Wiadomość użytkownika / prompt dla modelu czatu

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Odpytuj z tym samym kluczem API, aż status osiągnie stan końcowy (COMPLETED, FAILED, CANCELED lub MODERATION_BLOCKED). Gdy włączona jest moderacja treści, zadania mogą zaczynać się w stanie MODERATION_PENDING, zanim trafią do kolejki obliczeń. Ukończone zadania zawierają wstępnie podpisane wartości download_url przy każdym wyniku.

Odpowiedź na utworzenie

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Odpowiedź po ukończeniu

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}