LLM

MiniCPM 2B Συνομιλία

Κάντε μια ερώτηση ή δοκιμάστε μια σύντομη εργασία γραφής. Θα συνδεθείτε όταν στείλετε το πρώτο σας μήνυμα.

MiniCPM by OpenBMB

Άδειες μοντέλου

MiniCPM5-2B official Q4_K_M GGUF and tokenizer derivative · Apache-2.0

Apache-2.0. Preserve licence and notices, including the MESH container-modification notice. Publisher cautions: lawful and ethical use, user safeguards, AI labels where required, no deliberate harmful-output inducement or injection/jailbreak abuse; outputs are not professional advice. These limitations are preserved in the distributed notice.

Συνοδευτική άδεια

Γνωστοποίηση

ΔωρεάνOnlineΧωρίς όριαMiniCPM by OpenBMB Πρόσβαση API

Όποτε είστε έτοιμοι.

Γράψτε το μήνυμά σας και πατήστε Αποστολή για να συνδεθείτε και να ξεκινήσετε.

Στείλτε μια οδηγία συνομιλίας και λάβετε απάντηση από το MiniCPM 2B. Δωρεάν online συνομιλία LLM στο πρόγραμμα περιήγησης, στις συσκευές που συνδέετε. Είναι ισχυρότερη μικρή συνομιλία από το Llama 3.2 1B στο μέγεθος του κινητού και είναι μόνο κειμένου. Ένας ισχυρός υπολογιστής μπορεί να το κρατήσει· αλλιώς η εργασία μοιράζεται στα μηχανήματα που προσθέτετε. Την πρώτη φορά γίνεται λήψη του μοντέλου· οι επόμενες απαντήσεις ξεκινούν πιο γρήγορα.

Αναφορά API

Υποβολή μέσω REST

Χρησιμοποιήστε το προσωπικό σας κλειδί API (msk_…) για να δημιουργείτε εργασίες για αυτόν τον φόρτο εργασίας από τα δικά σας εργαλεία. Οι εργασίες που ξεκινούν με αυτόν τον τρόπο εκτελούνται στις ίδιες συσκευές που συνδέσατε στη σελίδα Οι συσκευές σας — τουλάχιστον μία πρέπει να είναι online.

Απόκρυψη λεπτομερειών API
POSThttps://cp.meshlabs.cloud/v1/organizations/jobs

Έλεγχος ταυτότητας με X-Organization-Api-Key: msk_your_personal_api_key. Το όνομα της κεφαλίδας είναι ίδιο με των κλειδιών οργανισμού· τα προσωπικά κλειδιά χρησιμοποιούν το ίδιο τελικό σημείο.

Αρχεία εισόδου:Καλέστε το POST https://cp.meshlabs.cloud/v1/organizations/job-inputs/presign με το ίδιο κλειδί API, μεταφορτώστε το αρχείο σας στο upload_url που επιστρέφεται και μετά περάστε το download_url στο job_spec (για παράδειγμα ως input_image_url).

Σώμα αιτήματος

{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}

Πεδία του job_spec

ΠεδίοΥποχρεωτικόΠροεπιλογήΠεριγραφή
system_promptΌχι—Προαιρετική οδηγία συστήματος
enable_thinkingΌχιtrueΕνεργοποίηση σκέψης MiniCPM5 πριν από την τελική απάντηση (<think> / </think>). Αφήστε το ενεργό.
max_new_tokensΌχι2048Μέγιστα παραγόμενα tokens (σκέψη + απάντηση). Αυξήστε το για μακροσκελή έξοδο. Η οδηγία και η παραγωγή μοιράζονται το παράθυρο πλαισίου, επομένως η παραγωγή σταματά στο πλαίσιο αντί να αυξάνει το κατώτατο όριο μνήμης της βαθμίδας.
max_contextΌχι8192Συνολικά tokens για τα οποία οι κόμβοι βαθμίδων διαθέτουν κατάσταση KV/recurrent — οδηγία συν παραγωγή. Το ανώτατο όριο είναι το μεγαλύτερο πλαίσιο στο οποίο το Oracle μέτρησε αυτό το μοντέλο, ώστε η τοποθέτηση να μη χρειάζεται ποτέ να προεκτείνει πέρα από τα δεδομένα. Η αύξησή του ανεβάζει το κατώτατο όριο μνήμης και συνεπώς περιορίζει τις συσκευές που μπορούν να εκτελέσουν την εργασία.
kv_hot_windowΌχι32768Το φυσικό KV προσοχής περιορίζεται στα νεότερα N tokens, ώστε μια συνομιλία μεγαλύτερη από N να ξεχνά τις παλαιότερες στροφές της αντί να σταματά στο όριο του πλαισίου. Το 0 κρατά ολόκληρο το πλαίσιο στη μνήμη. Σε τιμή ίση ή μικρότερη από το παράθυρο πλαισίου δεν αλλάζει τίποτα — ίδια μνήμη, ίδια προσοχή — και η μείωσή του κάτω από το παράθυρο πλαισίου ανταλλάσσει την ανάκληση μεγάλης εμβέλειας με απεριόριστο μήκος συνομιλίας, επειδή το μοντέλο πραγματικά δεν βλέπει πέρα από το παράθυρο.
turnsΌχι—Prior turns of this conversation, oldest first, including the current user message as the final row. Supplying them lets a stage host that still holds this conversation's KV state extend it instead of re-prefilling the whole history. Omit for a single-shot request; the workload then reads `prompt`.
temperatureΌχι1Temperature
top_pΌχι0.95Top P
top_kΌχι0Top K
presence_penaltyΌχι0Presence Penalty
repetition_penaltyΌχι1Repetition Penalty
seedΌχι—Τυχαίο seed για αναπαραγωγιμότητα
speculative_ngramΌχιfalseΣχεδιασμός με αναζήτηση στην οδηγία: επαναλαμβανόμενα n-gram από το περιβάλλον επαναλαμβάνονται ως μπλοκ πρόχειρου και επαληθεύονται από το μοντέλο σε ΕΝΑ πέρασμα, ώστε ένας μόνο γύρος δικτύου να μπορεί να επικυρώσει αρκετά tokens. Χωρίς επιπλέον μοντέλο· η έξοδος είναι ίδια με την ακολουθιακή αποκωδικοποίηση.
speculative_draft_modelΌχιfalseΕκτελέστε ένα μικροσκοπικό μοντέλο πρόχειρου GGUF στον κόμβο checkpoint για να προτείνει μπλοκ πρόχειρου (προτιμήστε το 'Draft model bundled filename'· το εξωτερικό URL παραμένει διαθέσιμο ως εναλλακτική). Επιστρέφει σε σχεδιασμό n-gram όταν το μοντέλο πρόχειρου δεν είναι διαθέσιμο.
draft_model_fileΌχι—Όνομα αρχείου ενός μη διαμερισμένου μοντέλου πρόχειρου GGUF στο πακέτο αυτού του workload. Το SDK το επιλύει από το required_files, ώστε ιδιωτικοί κάδοι S3 να χρησιμοποιούν το υπογεγραμμένο/proxy URL που παρέχει ο διακομιστής αντί για δημόσιο URL.
draft_model_urlΌχι—Προαιρετικό εξωτερικό HTTPS URL του μικροσκοπικού μοντέλου πρόχειρου GGUF. Χρησιμοποιείται ως εναλλακτική όταν το 'Draft model bundled filename' λείπει ή δεν υπάρχει στο required_files.
speculative_max_draftΌχι8Ανώτατο όριο tokens πρόχειρου που επαληθεύονται ανά μπλοκ. Το πραγματικό μήκος προσαρμόζεται στον παρατηρούμενο ρυθμό αποδοχής.
min_remote_stagesΌχι0Διαγνωστική ρύθμιση τοποθέτησης για δοκιμές GGUF pipeline-parallel. Όταν είναι > 0, το checkpoint ανατίθεται μόνο σε κόμβους που θα εκτελούσαν τουλάχιστον τόσες βαθμίδες μέσω WebRTC αντί τοπικά. Επιστρέφει μετά το περιθώριο αναμονής του checkpoint peer για να μη λιμοκτονήσουν οι παραγωγικές εργασίες.
wire_hidden_dtypeΌχιf16Τύπος δεδομένων κρυφών ενεργοποιήσεων μεταξύ βαθμίδων GGUF pipeline. Το f16 μειώνει στο μισό το φορτίο μεταφοράς για prefill και speculative μπλοκ· το f32 είναι διαγνωστική εναλλακτική.
wire_hidden_codecΌχιfp16Πειραματικός κωδικοποιητής για μπλοκ κρυφών ενεργοποιήσεων πολλών tokens μεταξύ βαθμίδων GGUF pipeline. Η αποκωδικοποίηση ενός token διατηρεί τη φθηνή διαδρομή τύπου δεδομένων· οι γενικοί κωδικοποιητές χρησιμοποιούνται μόνο για μπλοκ prefill/speculative, όπου η εξοικονόμηση byte μπορεί να αντισταθμίσει το κόστος του κωδικοποιητή. Το fp16 είναι το ασφαλέστερο· τα auto8/hq8 είναι διαγνωστικά.
stage_chainingΌχιtrueΌταν όλες οι βαθμίδες GGUF είναι απομακρυσμένες και υποστηρίζουν το πρωτόκολλο αλυσίδας, στέλνει τις κρυφές ενεργοποιήσεις απευθείας από βαθμίδα σε βαθμίδα, αντί να αναμεταδίδει κάθε όριο μέσω του συντονιστή checkpoint.
latent_modeΌχιoffSoft Thinking / SwiReasoning χωρίς εκπαίδευση κατά τη διάρκεια του <think>…</think>. Απαιτεί GGUF WASM με _lstage_eval_soft στους κόμβους βαθμίδων· αλλιώς επιστρέφει σε διακριτή αποκωδικοποίηση. Προεπιλογή: ανενεργό μέχρι να ξαναχτιστεί το CDN WASM. Αμοιβαία αποκλειόμενο με το speculation όταν το Soft Thinking είναι ενεργό.
latent_phaseΌχιtaggedtagged = δείκτες σκέψης· prefix = από το βήμα 0 (μοντέλα χωρίς δείκτες).
latent_exit_textΌχι Final answer: Χρησιμοποιείται μόνο όταν latent_phase=prefix (συνηθισμένα tokens λεξιλογίου).
latent_top_nΌχι15Soft top-n
latent_entropy_tauΌχι0.05Εντροπία Cold Stop τ
latent_cold_stop_kΌχι256Διαδοχικά βήματα Cold Stop
swi_dwell_windowΌχι512Παραμονή Swi Explicit→Latent
swi_max_switchesΌχι8Μέγιστες εναλλαγές Swi Latent→Explicit
max_thinking_tokensΌχι1536Αυστηρός προϋπολογισμός πριν από το αναγκαστικό </think> / έξοδο prefix. Πρέπει να παραμένει αισθητά χαμηλότερος από το `max_new_tokens`: ένας προϋπολογισμός συλλογισμού ίσος ή μεγαλύτερος από τον συνολικό προϋπολογισμό παραγωγής δίνει απάντηση που κόβεται στη μέση της σκέψης, χωρίς καθόλου απάντηση. Το control plane τον επαναϋπολογίζει από τον προϋπολογισμό που μπορεί πραγματικά να αντέξει η επιλεγμένη τοποθέτηση, ώστε μια μικρότερη τιμή να τηρείται και μια μεγαλύτερη να περιορίζεται.
min_thinking_tokensΌχι0Κατώτατο όριο: αποκλείει το </think> από τη δειγματοληψία μέχρι να υπάρξουν τόσα tokens συλλογισμού. Το 0 το απενεργοποιεί. Εμποδίζει ένα μπλοκ σκέψης να κλείσει στο πρώτο παραγόμενο token και να απαντήσει χωρίς καθόλου συλλογισμό.
promptΝαι—Μήνυμα χρήστη / οδηγία για το μοντέλο συνομιλίας

cURL

curl -X POST https://cp.meshlabs.cloud/v1/organizations/jobs \
  -H "X-Organization-Api-Key: msk_your_personal_api_key" \
  -H "Content-Type: application/json" \
  -d '{
  "workload_type": "minicpm5-2b-gguf-pp",
  "job_spec": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  }
}'
GEThttps://cp.meshlabs.cloud/v1/organizations/jobs/{job_id}

Κάντε poll με το ίδιο κλειδί API μέχρι το status να γίνει τελικό (COMPLETED, FAILED, CANCELED ή MODERATION_BLOCKED). Όταν η εποπτεία περιεχομένου είναι ενεργή, οι εργασίες μπορεί να ξεκινούν σε MODERATION_PENDING πριν μπουν στην ουρά υπολογισμού. Οι ολοκληρωμένες εργασίες περιλαμβάνουν προϋπογεγραμμένες τιμές download_url σε κάθε έξοδο.

Απόκριση δημιουργίας

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "PENDING",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [],
  "outputs": [],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "2026-06-08T12:00:00Z"
}

Απόκριση ολοκλήρωσης

{
  "id": "3fa85f64-5717-4562-b3fc-2c963f66afa6",
  "workload_type": "minicpm5-2b-gguf-pp",
  "status": "COMPLETED",
  "job_spec_json": {
    "enable_thinking": true,
    "max_new_tokens": 2048,
    "max_context": 8192,
    "kv_hot_window": 32768,
    "temperature": 1,
    "top_p": 0.95,
    "top_k": 0,
    "presence_penalty": 0,
    "repetition_penalty": 1,
    "speculative_ngram": false,
    "speculative_draft_model": false,
    "speculative_max_draft": 8,
    "min_remote_stages": 0,
    "wire_hidden_dtype": "f16",
    "wire_hidden_codec": "fp16",
    "stage_chaining": true,
    "latent_mode": "off",
    "latent_phase": "tagged",
    "latent_exit_text": "\n\nFinal answer:\n",
    "latent_top_n": 15,
    "latent_entropy_tau": 0.05,
    "latent_cold_stop_k": 256,
    "swi_dwell_window": 512,
    "swi_max_switches": 8,
    "max_thinking_tokens": 1536,
    "min_thinking_tokens": 0,
    "prompt": "A photorealistic lighthouse at dusk"
  },
  "work_units": [
    {
      "id": "…",
      "index": 0,
      "status": "COMPLETED"
    }
  ],
  "outputs": [
    {
      "id": "…",
      "output_type": "<output type>",
      "filename": "<output filename>",
      "size_bytes": 524288,
      "download_url": "<presigned output download URL>"
    }
  ],
  "created_at": "2026-06-08T12:00:00Z",
  "updated_at": "<completion timestamp>"
}