LLM
MiniCPM 2B Chat
Posez une question ou essayez une courte tâche de rédaction. Vous vous connecterez en envoyant votre premier message.
MiniCPM by OpenBMB
Licences du modèle
MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0
Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.
Choisir un modèle
Modèle actuel :
MiniCPM 2B Chat
Qualité du résultat : 50 %
La meilleure qualité que votre appareil peut exécuter. Ajoutez plus d’appareils pour terminer plus vite.
Écrivez votre message et appuyez sur Envoyer pour vous connecter et commencer.
Envoyez un prompt de chat et obtenez une réponse de MiniCPM 2B. Chat LLM gratuit en ligne dans le navigateur, sur les appareils que vous connectez. C'est un petit modèle de chat plus performant que le Llama 3.2 1B au format téléphone, et il ne traite que du texte. Un seul ordinateur puissant peut le contenir ; sinon le travail se répartit entre les machines que vous ajoutez. La première exécution télécharge le modèle ; les réponses suivantes démarrent plus vite.
Référence de l’API
Envoyer via REST
Utilisez votre clé API personnelle (msk_…) pour créer des tâches pour ce workload depuis vos propres outils. Les tâches lancées ainsi s’exécutent sur les mêmes appareils que ceux que vous avez connectés dans Vos appareils ; au moins l’un d’eux doit être en ligne.
https://cp.meshlabs.cloud/v1/organizations/jobsAuthentifiez-vous avec X-Organization-Api-Key: msk_your_personal_api_key. Le nom de l’en-tête est le même que pour les clés d’organisation ; les clés personnelles utilisent le même point de terminaison.
POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign avec la même clé API, envoyez votre fichier vers l’upload_url renvoyée, puis transmettez download_url dans job_spec (par exemple en tant que input_image_url).Corps de la requête
{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}Champs de job_spec
| Champ | Requis | Par défaut | Description |
|---|---|---|---|
system_prompt | Non | — | Prompt système facultatif |
enable_thinking | Non | true | Active la réflexion de MiniCPM5 avant la réponse finale (<think> / </think>). Laissez cette option activée. |
max_new_tokens | Non | 2048 | Nombre maximal de tokens générés (réflexion + réponse). Augmentez-le pour des sorties longues. Le prompt et la génération partagent la fenêtre de contexte : la génération s'arrête donc au contexte au lieu d'augmenter le plancher de mémoire de l'étape. |
max_context | Non | 8192 | Nombre total de tokens pour lesquels les hôtes d'étape allouent l'état KV/récurrent : prompt plus génération. Le plafond est le plus grand contexte avec lequel l'Oracle a mesuré ce modèle, de sorte que le placement n'a jamais à extrapoler au-delà des mesures. L'augmenter relève le plancher de mémoire et réduit donc le nombre d'appareils pouvant exécuter la tâche. |
kv_hot_window | Non | 32768 | Le KV d'attention physique est limité aux N tokens les plus récents : une conversation plus longue que N oublie donc ses tours les plus anciens au lieu de s'arrêter à la limite de contexte. 0 garde tout le contexte résident. À la fenêtre de contexte ou en dessous, cela ne change rien (même mémoire, même attention) ; l'abaisser sous le contexte échange le rappel à longue portée contre une longueur de conversation illimitée, car le modèle ne peut réellement pas voir au-delà de la fenêtre. |
turns | Non | — | Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`. |
temperature | Non | 1 | Temperature |
top_p | Non | 0.95 | Top P |
top_k | Non | 0 | Top K |
presence_penalty | Non | 0 | Presence Penalty |
repetition_penalty | Non | 1 | Repetition Penalty |
seed | Non | — | Graine aléatoire pour la reproductibilité |
speculative_ngram | Non | false | Brouillon par recherche dans le prompt : les n-grammes répétés du contexte sont rejoués sous forme de blocs de brouillon et vérifiés par le modèle en UNE seule passe, de sorte qu'un seul aller-retour réseau peut valider plusieurs tokens. Aucun modèle supplémentaire ; la sortie est identique à un décodage séquentiel. |
speculative_draft_model | Non | false | Exécute un minuscule modèle de brouillon GGUF sur le nœud de checkpoint pour proposer des blocs de brouillon (préférez « Nom de fichier du modèle de brouillon intégré » ; l'URL externe reste disponible en solution de repli). Se rabat sur le brouillon par n-grammes lorsque le modèle de brouillon n'est pas disponible. |
draft_model_file | Non | — | Nom de fichier d'un modèle de brouillon GGUF non partitionné dans le bundle de cette tâche. Le SDK le résout à partir de required_files, de sorte que les buckets S3 privés peuvent utiliser l'URL signée/proxy fournie par le serveur au lieu d'une URL publique. |
draft_model_url | Non | — | URL HTTPS externe facultative du minuscule modèle de brouillon GGUF. Utilisée en solution de repli lorsque « Nom de fichier du modèle de brouillon intégré » est absent ou manquant dans required_files. |
speculative_max_draft | Non | 8 | Limite supérieure de tokens de brouillon vérifiés par bloc. La longueur effective s'adapte au taux d'acceptation observé. |
min_remote_stages | Non | 0 | Réglage de placement de diagnostic pour les tests de parallélisme de pipeline GGUF. Lorsqu'il est > 0, le checkpoint n'est attribué qu'aux nœuds qui exécuteraient au moins ce nombre d'étapes via WebRTC plutôt qu'en local. Se rabat après le délai de grâce du pair de checkpoint pour ne pas affamer les tâches de production. |
wire_hidden_dtype | Non | f16 | Type de données des activations cachées entre les étapes du pipeline GGUF. f16 divise par deux la charge réseau pour le préremplissage et les blocs spéculatifs ; f32 est une solution de repli de diagnostic. |
wire_hidden_codec | Non | fp16 | Codec expérimental pour les blocs d'activations cachées multi-tokens entre les étapes du pipeline GGUF. Le décodage d'un seul token garde le chemin de type de données peu coûteux ; les codecs génériques ne servent que pour les blocs de préremplissage/spéculatifs où l'économie d'octets peut compenser le coût du codec. fp16 est le plus sûr ; auto8/hq8 sont des diagnostics. |
stage_chaining | Non | true | Lorsque toutes les étapes GGUF sont distantes et prennent en charge le protocole de chaînage, envoie les activations cachées directement d'une étape à l'autre au lieu de relayer chaque frontière par le coordinateur de checkpoint. |
latent_mode | Non | off | Soft Thinking / SwiReasoning sans entraînement pendant <think>…</think>. Nécessite un WASM GGUF avec _lstage_eval_soft sur les hôtes d'étape ; sinon se rabat sur un décodage discret. Désactivé par défaut tant que le WASM du CDN n'est pas reconstruit. Mutuellement exclusif avec la spéculation lorsque Soft Thinking est actif. |
latent_phase | Non | tagged | tagged = marqueurs de réflexion ; prefix = dès l'étape 0 (modèles sans marqueurs). |
latent_exit_text | Non | Final answer: | Utilisé uniquement lorsque latent_phase=prefix (tokens ordinaires du vocabulaire). |
latent_top_n | Non | 15 | Soft top-n |
latent_entropy_tau | Non | 0.05 | Entropie τ de Cold Stop |
latent_cold_stop_k | Non | 256 | Étapes consécutives de Cold Stop |
swi_dwell_window | Non | 512 | Maintien Swi Explicite→Latent |
swi_max_switches | Non | 8 | Basculements Swi Latent→Explicite max. |
max_thinking_tokens | Non | 1536 | Budget strict avant la fermeture forcée de </think> / la sortie du préfixe. Doit rester nettement inférieur à `max_new_tokens` : un budget de raisonnement égal ou supérieur au budget total de génération produit une réponse coupée en pleine réflexion, sans aucune réponse. Le plan de contrôle recalcule cette valeur à partir du budget que le placement choisi peut réellement se permettre : une valeur plus petite est respectée, une plus grande est plafonnée. |
min_thinking_tokens | Non | 0 | Plancher : masque </think> de l'échantillonnage tant que ce nombre de tokens de raisonnement n'existe pas. 0 désactive. Évite qu'un bloc de réflexion se ferme dès le premier token généré et réponde sans aucun raisonnement. |
prompt | Oui | — | Message / prompt de l'utilisateur pour le modèle de discussion |
cURL
curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
-H "X-Organization-Api-Key: msk_your_personal_api_key" \
-H "Content-Type: application/json" \
-d '{
"workload_type": "minicpm5-2b-gguf-pp",
"job_spec": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
}
}'https://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}Interrogez l’API avec la même clé jusqu’à ce que status soit dans un état final (COMPLETED, FAILED, CANCELED ou MODERATION_BLOCKED). Lorsque la modération du contenu est activée, les tâches peuvent commencer à l’état MODERATION_PENDING avant d’entrer dans la file de calcul. Les tâches terminées incluent des valeurs download_url présignées pour chaque sortie.
Réponse de création
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "PENDING",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [],
"outputs": [],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "2026-06-08T12:00:00Z"
}Réponse de fin d’exécution
{
"id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
"workload_type": "minicpm5-2b-gguf-pp",
"status": "COMPLETED",
"job_spec_json": {
"enable_thinking": true,
"max_new_tokens": 2048,
"max_context": 8192,
"kv_hot_window": 32768,
"temperature": 1,
"top_p": 0.95,
"top_k": 0,
"presence_penalty": 0,
"repetition_penalty": 1,
"speculative_ngram": false,
"speculative_draft_model": false,
"speculative_max_draft": 8,
"min_remote_stages": 0,
"wire_hidden_dtype": "f16",
"wire_hidden_codec": "fp16",
"stage_chaining": true,
"latent_mode": "off",
"latent_phase": "tagged",
"latent_exit_text": "\n\nFinal answer:\n",
"latent_top_n": 15,
"latent_entropy_tau": 0.05,
"latent_cold_stop_k": 256,
"swi_dwell_window": 512,
"swi_max_switches": 8,
"max_thinking_tokens": 1536,
"min_thinking_tokens": 0,
"prompt": "A photorealistic lighthouse at dusk"
},
"work_units": [
{
"id": "…",
"index": 0,
"status": "COMPLETED"
}
],
"outputs": [
{
"id": "…",
"output_type": "<output type>",
"filename": "<output filename>",
"size_bytes": 524288,
"download_url": "<presigned output download URL>"
}
],
"created_at": "2026-06-08T12:00:00Z",
"updated_at": "<completion timestamp>"
}