LLM
MiniCPM 2B Chat
Faça uma pergunta ou experimente uma tarefa curta de escrita. Você entra na conta ao enviar sua primeira mensagem.
MiniCPM by OpenBMB
Licenças do modelo
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Selecionar modelo
Modelo atual:
MiniCPM 2B Chat
Qualidade da saída: 50%
A melhor qualidade que o seu dispositivo consegue executar. Adicione mais dispositivos para terminar mais rápido.
Escreva sua mensagem e pressione Enviar para entrar e começar.
Envie um prompt de chat e receba uma resposta do MiniCPM 2B. Chat com LLM on-line grátis no navegador, nos dispositivos que você conecta. É um chat pequeno mais forte que o Llama 3.2 1B do tamanho de um celular e trabalha apenas com texto. Um computador potente consegue mantê-lo inteiro; caso contrário, o trabalho se divide entre as máquinas que você adicionar. A primeira execução baixa o modelo; as respostas seguintes começam mais rápido.
Referência da API
Enviar via REST
Use sua chave de API pessoal (msk_…) para criar tarefas desta carga de trabalho a partir das suas próprias ferramentas. As tarefas iniciadas dessa forma rodam nos mesmos dispositivos que você conectou em Seus dispositivos — pelo menos um deles precisa estar online.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentique-se com X-Organization-Api-Key: msk_your_personal_api_key. O nome do cabeçalho é o mesmo das chaves de organização; as chaves pessoais usam o mesmo endpoint.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign com a mesma chave de API, envie seu arquivo para o upload_url retornado e depois passe download_url em job_spec (por exemplo, como input_image_url).Corpo da solicitação
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Campos de job_spec
| Campo | Obrigatório | Padrão | Descrição |
|---|---|---|---|
system_prompt | Não | — | Prompt de sistema opcional |
enable_thinking | Não | true | Ativa o raciocínio (thinking) do MiniCPM5 antes da resposta final (<think> / </think>). Deixe ativado. |
max_new_tokens | Não | 2048 | Máximo de tokens gerados (raciocínio + resposta). Aumente para saídas longas. O prompt e a geração compartilham a janela de contexto, então a geração para no contexto em vez de aumentar o piso de memória do estágio. |
max_context | Não | 8192 | Total de tokens para os quais os hosts de estágio alocam estado KV/recorrente — prompt mais geração. O teto é o maior contexto com que o Oracle mediu este modelo, de modo que o posicionamento nunca precise extrapolar além das evidências. Aumentá-lo eleva o piso de memória e, portanto, reduz os dispositivos que podem executar o trabalho. |
kv_hot_window | Não | 32768 | O KV de atenção físico é limitado aos N tokens mais recentes, de modo que uma conversa maior que N esquece os turnos mais antigos em vez de parar no limite de contexto. 0 mantém todo o contexto residente. Igual ou abaixo da janela de contexto, isso não muda nada — mesma memória, mesma atenção — e reduzi-lo abaixo dela troca memória de longo alcance por um tamanho de conversa ilimitado, porque o modelo realmente não enxerga além da janela. |
turns | Não | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Não | 1 | Temperature |
top_p | Não | 0.95 | Top P |
top_k | Não | 0 | Top K |
presence_penalty | Não | 0 | Presence Penalty |
repetition_penalty | Não | 1 | Repetition Penalty |
seed | Não | — | Seed aleatória para reprodutibilidade |
speculative_ngram | Não | false | Rascunho por consulta ao prompt: n-gramas repetidos do contexto são reaproveitados como blocos de rascunho e verificados pelo modelo em UMA passagem, de modo que uma única ida e volta de rede pode confirmar vários tokens. Sem modelo extra; a saída é idêntica à decodificação sequencial. |
speculative_draft_model | Não | false | Executa um pequeno modelo de rascunho GGUF no nó de checkpoint para propor blocos de rascunho (prefira 'Draft model bundled filename'; a URL externa continua disponível como alternativa). Recorre ao rascunho por n-gramas quando o modelo de rascunho não está disponível. |
draft_model_file | Não | — | Nome do arquivo de um modelo de rascunho GGUF não particionado neste pacote do workload. O SDK o resolve a partir de required_files, de modo que buckets S3 privados podem usar a URL assinada/proxy fornecida pelo servidor em vez de uma URL pública. |
draft_model_url | Não | — | URL HTTPS externa opcional do pequeno modelo de rascunho GGUF. Usada como alternativa quando 'Draft model bundled filename' está ausente ou não consta em required_files. |
speculative_max_draft | Não | 8 | Limite superior de tokens de rascunho verificados por bloco. O tamanho efetivo se adapta à taxa de aceitação observada. |
min_remote_stages | Não | 0 | Controle diagnóstico de posicionamento para testes de pipeline paralelo GGUF. Quando > 0, o checkpoint é atribuído apenas a nós que executariam pelo menos essa quantidade de estágios via WebRTC em vez de localmente. Recorre a outra opção após a janela de tolerância do par de checkpoint, para não deixar trabalhos de produção sem atendimento. |
wire_hidden_dtype | Não | f16 | Tipo de dado das ativações ocultas entre estágios do pipeline GGUF. f16 reduz à metade a carga transmitida em prefill e blocos especulativos; f32 é uma alternativa de diagnóstico. |
wire_hidden_codec | Não | fp16 | Codec experimental para blocos de ativações ocultas de vários tokens entre estágios do pipeline GGUF. A decodificação de um único token mantém o caminho barato de tipo de dado; codecs genéricos são usados apenas em blocos de prefill/especulativos, onde a economia de bytes pode compensar o custo do codec. fp16 é o mais seguro; auto8/hq8 são diagnósticos. |
stage_chaining | Não | true | Quando todos os estágios GGUF são remotos e oferecem suporte ao protocolo de cadeia, envia as ativações ocultas diretamente de estágio para estágio, em vez de retransmitir cada fronteira pelo coordenador de checkpoint. |
latent_mode | Não | off | Soft Thinking / SwiReasoning sem treinamento durante <think>…</think>. Requer GGUF WASM com _lstage_eval_soft nos hosts de estágio; caso contrário, recorre à decodificação discreta. Desligado por padrão até que o WASM do CDN seja reconstruído. Mutuamente exclusivo com a especulação quando o Soft Thinking está ativo. |
latent_phase | Não | tagged | tagged = marcadores think; prefix = desde o passo 0 (modelos sem marcadores). |
latent_exit_text | Não | Final answer: | Usado apenas com latent_phase=prefix (tokens comuns do vocabulário). |
latent_top_n | Não | 15 | Soft top-n |
latent_entropy_tau | Não | 0.05 | Entropia τ do Cold Stop |
latent_cold_stop_k | Não | 256 | Passos consecutivos do Cold Stop |
swi_dwell_window | Não | 512 | Permanência Swi Explicit→Latent |
swi_max_switches | Não | 8 | Máximo de trocas Swi Latent→Explicit |
max_thinking_tokens | Não | 1536 | Orçamento rígido antes do </think> forçado / saída do prefixo. Deve ficar bem abaixo de `max_new_tokens`: um orçamento de raciocínio igual ou superior ao orçamento total de geração produz uma resposta cortada no meio do raciocínio, sem nenhuma resposta. O plano de controle recalcula este valor a partir do orçamento que o posicionamento escolhido consegue de fato suportar; assim, um valor menor é respeitado e um maior é limitado. |
min_thinking_tokens | Não | 0 | Piso: mascara </think> da amostragem até que existam essa quantidade de tokens de raciocínio. 0 desativa. Impede que um bloco de raciocínio se feche no primeiro token gerado e responda sem nenhum raciocínio. |
prompt | Sim | — | Mensagem / prompt do usuário para o modelo de chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Consulte com a mesma chave de API até que status seja final (COMPLETED, FAILED, CANCELED ou MODERATION_BLOCKED). Quando a moderação de conteúdo está habilitada, as tarefas podem começar em MODERATION_PENDING antes de entrar na fila de computação. As tarefas concluídas incluem valores download_url pré-assinados em cada saída.
Resposta de criação
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Resposta de conclusão
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}