LLM
Chat MiniCPM 2B
Haga una pregunta o pruebe una tarea breve de escritura. Iniciará sesión al enviar su primer mensaje.
MiniCPM by OpenBMB
Licencias del modelo
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Envíe un prompt de chat y obtenga una respuesta de MiniCPM 2B. Chat con LLM en línea gratis en el navegador, en los dispositivos que conecte. Es un chat pequeño más potente que el Llama 3.2 1B de tamaño teléfono, y es solo de texto. Un equipo potente puede alojarlo; si no, el trabajo se reparte entre las máquinas que añada. La primera ejecución descarga el modelo; las siguientes respuestas empiezan más rápido.
Referencia de la API
Enviar mediante REST
Use su clave de API personal (msk_…) para crear trabajos de esta carga de trabajo desde sus propias herramientas. Los trabajos iniciados así se ejecutan en los mismos dispositivos que conectó en Sus dispositivos: al menos uno tiene que estar en línea.
https://cp.meshlabs.cloud/v1/organizations/jobsAutentíquese con X-Organization-Api-Key: msk_your_personal_api_key. El nombre del encabezado coincide con el de las claves de organización; las claves personales usan el mismo endpoint.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign con la misma clave de API, suba su archivo a la upload_url devuelta y luego pase download_url en job_spec (por ejemplo, como input_image_url).Cuerpo de la solicitud
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Campos de job_spec
| Campo | Obligatorio | Predeterminado | Descripción |
|---|---|---|---|
system_prompt | No | — | Prompt de sistema opcional |
enable_thinking | No | true | Activar el razonamiento de MiniCPM5 antes de la respuesta final (<think> / </think>). Déjelo activado. |
max_new_tokens | No | 2048 | Máximo de tokens generados (razonamiento + respuesta). Auméntelo para salidas largas. El prompt y la generación comparten la ventana de contexto, por lo que la generación se detiene en el contexto en lugar de aumentar el mínimo de memoria de la etapa. |
max_context | No | 8192 | Total de tokens para los que los hosts de etapa reservan estado KV/recurrente: prompt más generación. El techo es el mayor contexto con el que el Oracle midió este modelo, de modo que la asignación nunca tiene que extrapolar más allá de la evidencia. Aumentarlo eleva el mínimo de memoria y, por tanto, reduce los dispositivos que pueden ejecutar el trabajo. |
kv_hot_window | No | 32768 | La KV de atención física se limita a los N tokens más recientes, de modo que una conversación más larga que N olvida sus turnos más antiguos en lugar de detenerse en el límite de contexto. 0 mantiene todo el contexto residente. En la ventana de contexto o por debajo no cambia nada (misma memoria, misma atención), y reducirlo por debajo del contexto intercambia memoria a largo plazo por una longitud de conversación ilimitada, porque el modelo realmente no puede ver más allá de la ventana. |
turns | No | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | No | 1 | Temperature |
top_p | No | 0.95 | Top P |
top_k | No | 0 | Top K |
presence_penalty | No | 0 | Presence Penalty |
repetition_penalty | No | 1 | Repetition Penalty |
seed | No | — | Semilla aleatoria para reproducibilidad |
speculative_ngram | No | false | Borradores por búsqueda en el prompt: los n-gramas repetidos del contexto se reproducen como bloques de borrador y el modelo los verifica en UNA sola pasada, de modo que un único viaje de ida y vuelta por la red puede confirmar varios tokens. Sin modelo adicional; la salida es idéntica a la decodificación secuencial. |
speculative_draft_model | No | false | Ejecuta un modelo borrador GGUF diminuto en el nodo de punto de control para proponer bloques de borrador (se prefiere 'Nombre de archivo del modelo borrador incluido'; la URL externa sigue disponible como alternativa). Recurre a borradores de n-gramas cuando el modelo borrador no está disponible. |
draft_model_file | No | — | Nombre de archivo de un modelo borrador GGUF sin particionar incluido en el paquete de esta carga de trabajo. El SDK lo resuelve a partir de required_files, de modo que los buckets S3 privados pueden usar la URL firmada o de proxy que da el servidor en lugar de una URL pública. |
draft_model_url | No | — | URL HTTPS externa opcional del modelo borrador GGUF diminuto. Se usa como alternativa cuando 'Nombre de archivo del modelo borrador incluido' no está o falta en required_files. |
speculative_max_draft | No | 8 | Límite superior de tokens de borrador verificados por bloque. La longitud efectiva se adapta a la tasa de aceptación observada. |
min_remote_stages | No | 0 | Opción de asignación para diagnóstico de pruebas de GGUF en paralelo por etapas. Cuando es > 0, el punto de control solo se asigna a nodos que ejecutarían al menos este número de etapas por WebRTC en lugar de en local. Recurre a otra opción tras la ventana de gracia del par del punto de control para no dejar sin servicio a los trabajos de producción. |
wire_hidden_dtype | No | f16 | Tipo de dato de las activaciones ocultas entre etapas GGUF. f16 reduce a la mitad la carga en la red para el prefill y los bloques especulativos; f32 es una alternativa de diagnóstico. |
wire_hidden_codec | No | fp16 | Códec experimental para bloques de activaciones ocultas de varios tokens entre etapas GGUF. La decodificación de un solo token mantiene la ruta de tipo de dato económica; los códecs genéricos solo se usan para el prefill o los bloques especulativos, donde el ahorro de bytes puede compensar el coste del códec. fp16 es la opción más segura; auto8/hq8 son de diagnóstico. |
stage_chaining | No | true | Cuando todas las etapas GGUF son remotas y admiten el protocolo de cadena, envía las activaciones ocultas directamente de una etapa a otra, en lugar de retransmitir cada frontera a través del coordinador de puntos de control. |
latent_mode | No | off | Soft Thinking / SwiReasoning sin entrenamiento durante <think>…</think>. Requiere GGUF WASM con _lstage_eval_soft en los hosts de etapa; si no, recurre a la decodificación discreta. Desactivado por defecto hasta que se reconstruya el WASM de la CDN. Mutuamente excluyente con la especulación cuando Soft Thinking está activo. |
latent_phase | No | tagged | tagged = marcadores de razonamiento; prefix = desde el paso 0 (modelos sin marcadores). |
latent_exit_text | No | Final answer: | Se usa solo con latent_phase=prefix (tokens de vocabulario normales). |
latent_top_n | No | 15 | Soft top-n |
latent_entropy_tau | No | 0.05 | Entropía τ de Cold Stop |
latent_cold_stop_k | No | 256 | Pasos consecutivos de Cold Stop |
swi_dwell_window | No | 512 | Permanencia Swi Explicit→Latent |
swi_max_switches | No | 8 | Máximo de cambios Swi Latent→Explicit |
max_thinking_tokens | No | 1536 | Presupuesto estricto antes de forzar </think> / la salida del prefijo. Debe mantenerse claramente por debajo de `max_new_tokens`: un presupuesto de razonamiento igual o superior al presupuesto total de generación produce una respuesta cortada a media reflexión y sin ninguna respuesta. El plano de control vuelve a recortarlo según el presupuesto que la asignación elegida puede permitirse, de modo que un valor menor se respeta y uno mayor se limita. |
min_thinking_tokens | No | 0 | Mínimo: enmascara </think> del muestreo hasta que existan tantos tokens de razonamiento. 0 lo desactiva. Evita que un bloque de razonamiento se cierre con el primer token generado y se responda sin razonar en absoluto. |
prompt | Sí | — | Mensaje del usuario / prompt para el modelo de chat |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Consulte periódicamente con la misma clave de API hasta que status sea final (COMPLETED, FAILED, CANCELED o MODERATION_BLOCKED). Cuando la moderación de contenido está habilitada, los trabajos pueden empezar en MODERATION_PENDING antes de entrar en la cola de cómputo. Los trabajos completados incluyen valores download_url prefirmados en cada salida.
Respuesta de creación
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Respuesta de trabajo completado
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}