LLM

MiniCPM 2B Chat

Faça uma pergunta ou experimente uma tarefa de escrita curta. Inicie sessão quando enviar a primeira mensagem.

MiniCPM by OpenBMB

Licenças do modelo

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Licença incluída

Aviso

GratuitoOnlineIlimitadoMiniCPM by OpenBMB Acesso à API

Quando estiver pronto.

Escreva a sua mensagem e prima Enviar para iniciar sessão e começar.

Envie um prompt de chat e receba uma resposta do MiniCPM 2B. Chat com LLM online grátis no navegador, nos dispositivos que liga. É um chat pequeno mais forte do que o Llama 3.2 1B do tamanho de um telemóvel e trabalha apenas com texto. Um computador potente consegue mantê-lo inteiro; caso contrário, o trabalho divide-se entre as máquinas que adicionar. A primeira execução transfere o modelo; as respostas seguintes começam mais depressa.

Referência da API

Submeter via REST

Utilize a sua chave de API pessoal (msk_…) para criar tarefas para esta carga de trabalho a partir das suas próprias ferramentas. As tarefas iniciadas desta forma são executadas nos mesmos dispositivos que ligou em Os seus dispositivos — pelo menos um tem de estar online.

Ocultar detalhes da API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Autentique-se com X-Organization-Api-Key: msk_your_personal_api_key. O nome do cabeçalho é o mesmo das chaves de organização; as chaves pessoais utilizam o mesmo endpoint.

Ficheiros de entrada:Chame POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign com a mesma chave de API, carregue o seu ficheiro para o upload_url devolvido e depois passe download_url em job_spec (por exemplo, como input_image_url).

Corpo do pedido

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Campos de job_spec

CampoObrigatórioPredefiniçãoDescrição
system_promptNão—Prompt de sistema opcional
enable_thinkingNãotrueAtiva o raciocínio (thinking) do MiniCPM5 antes da resposta final (<think> / </think>). Deixe ativado.
max_new_tokensNão2048Máximo de tokens gerados (raciocínio + resposta). Aumente para saídas longas. O prompt e a geração partilham a janela de contexto, por isso a geração pára no contexto em vez de aumentar o mínimo de memória da etapa.
max_contextNão8192Total de tokens para os quais os hosts de etapa reservam estado KV/recorrente — prompt mais geração. O limite máximo é o maior contexto com que o Oracle mediu este modelo, de modo que o posicionamento nunca tenha de extrapolar para além das evidências. Aumentá-lo eleva o mínimo de memória e, portanto, reduz os dispositivos que podem executar o trabalho.
kv_hot_windowNão32768O KV de atenção físico é limitado aos N tokens mais recentes, de modo que uma conversa maior do que N esquece os turnos mais antigos em vez de parar no limite de contexto. 0 mantém todo o contexto residente. Igual ou abaixo da janela de contexto, isso não muda nada — mesma memória, mesma atenção — e reduzi-lo abaixo dela troca memória de longo alcance por um tamanho de conversa ilimitado, porque o modelo, na prática, não vê para além da janela.
turnsNão—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureNão1Temperature
top_pNão0.95Top P
top_kNão0Top K
presence_penaltyNão0Presence Penalty
repetition_penaltyNão1Repetition Penalty
seedNão—Seed aleatória para reprodutibilidade
speculative_ngramNãofalseRascunho por consulta ao prompt: n-gramas repetidos do contexto são reaproveitados como blocos de rascunho e verificados pelo modelo em UMA passagem, de modo que uma única ida e volta de rede pode confirmar vários tokens. Sem modelo extra; a saída é idêntica à descodificação sequencial.
speculative_draft_modelNãofalseExecuta um pequeno modelo de rascunho GGUF no nó de checkpoint para propor blocos de rascunho (prefira 'Draft model bundled filename'; a URL externa continua disponível como alternativa). Recorre ao rascunho por n-gramas quando o modelo de rascunho não está disponível.
draft_model_fileNão—Nome do ficheiro de um modelo de rascunho GGUF não particionado neste pacote do workload. O SDK resolve-o a partir de required_files, de modo que buckets S3 privados podem usar a URL assinada/proxy fornecida pelo servidor em vez de uma URL pública.
draft_model_urlNão—URL HTTPS externa opcional do pequeno modelo de rascunho GGUF. Usada como alternativa quando 'Draft model bundled filename' está ausente ou não consta em required_files.
speculative_max_draftNão8Limite superior de tokens de rascunho verificados por bloco. O tamanho efetivo adapta-se à taxa de aceitação observada.
min_remote_stagesNão0Controlo de diagnóstico de posicionamento para testes de pipeline paralelo GGUF. Quando > 0, o checkpoint é atribuído apenas a nós que executariam pelo menos esse número de etapas via WebRTC em vez de localmente. Recorre a outra opção após a janela de tolerância do par de checkpoint, para que os trabalhos de produção não fiquem por atender.
wire_hidden_dtypeNãof16Tipo de dados das ativações ocultas entre etapas do pipeline GGUF. f16 reduz à metade a carga transmitida em prefill e blocos especulativos; f32 é uma alternativa de diagnóstico.
wire_hidden_codecNãofp16Codec experimental para blocos de ativações ocultas de vários tokens entre etapas do pipeline GGUF. A descodificação de um único token mantém o caminho barato de tipo de dados; codecs genéricos são usados apenas em blocos de prefill/especulativos, onde a economia de bytes pode compensar o custo do codec. fp16 é o mais seguro; auto8/hq8 são diagnósticos.
stage_chainingNãotrueQuando todas as etapas GGUF são remotas e suportam ao protocolo de cadeia, envia as ativações ocultas diretamente de etapa para etapa, em vez de retransmitir cada fronteira pelo coordenador de checkpoint.
latent_modeNãooffSoft Thinking / SwiReasoning sem treino durante <think>…</think>. Requer GGUF WASM com _lstage_eval_soft nos hosts de etapa; caso contrário, recorre à descodificação discreta. Desativado por predefinição até que o WASM do CDN seja reconstruído. Mutuamente exclusivo com a especulação quando o Soft Thinking está ativo.
latent_phaseNãotaggedtagged = marcadores think; prefix = desde o passo 0 (modelos sem marcadores).
latent_exit_textNão Final answer: Usado apenas com latent_phase=prefix (tokens comuns do vocabulário).
latent_top_nNão15Soft top-n
latent_entropy_tauNão0.05Entropia τ do Cold Stop
latent_cold_stop_kNão256Passos consecutivos do Cold Stop
swi_dwell_windowNão512Permanência Swi Explicit→Latent
swi_max_switchesNão8Máximo de trocas Swi Latent→Explicit
max_thinking_tokensNão1536Orçamento rígido antes do </think> forçado / saída do prefixo. Deve ficar bem abaixo de `max_new_tokens`: um orçamento de raciocínio igual ou superior ao orçamento total de geração produz uma resposta cortada no meio do raciocínio, sem nenhuma resposta. O plano de controlo recalcula este valor a partir do orçamento que o posicionamento escolhido consegue de facto suportar; assim, um valor menor é respeitado e um maior é limitado.
min_thinking_tokensNão0Mínimo: mascara </think> da amostragem até existir esse número de tokens de raciocínio. 0 desativa. Impede que um bloco de raciocínio se feche no primeiro token gerado e responda sem nenhum raciocínio.
promptSim—Mensagem / prompt do utilizador para o modelo de chat

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Consulte com a mesma chave de API até status ser terminal (COMPLETED, FAILED, CANCELED ou MODERATION_BLOCKED). Quando a moderação de conteúdos está ativada, as tarefas podem começar em MODERATION_PENDING antes de entrarem na fila de computação. As tarefas concluídas incluem valores download_url pré-assinados em cada resultado.

Resposta de criação

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Resposta de conclusão

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}