Công nghệ: Bên trong hệ thống
MESH tự động định tuyến workload AI của bạn đến các node có độ trễ thấp nhất và thông lượng cao nhất. Giao thức được thiết kế cho môi trường có đối thủ: mọi kết quả đều được xác thực bằng đồng thuận trước khi trả về.
Đường đi của yêu cầu
Tác vụ của bạn chạy như thế nào.
- Bước 1Gửi
Gọi API hoặc dùng SDK. Tác vụ được đưa vào hàng đợi MESH.
- Bước 2Ghép cặp
WorkMatcher ghép tác vụ với node phù hợp nhất đang sẵn sàng trong chưa đầy 100 ms.
- Bước 3Giao việc
Node nhận việc được giao qua đẩy WebSocket, với thăm dò HTTP làm phương án dự phòng.
- Bước 4Thực thi
ONNX Runtime và WebGPU chạy suy luận bên trong sandbox của trình duyệt.
- Bước 5Xác thực
Hash của kết quả được nhân bản trên N node và đối chiếu với ngưỡng đồng thuận.
- Bước 6Trả kết quả
Đầu ra đã xác minh được trả về, tác vụ được đánh dấu hoàn tất và việc thanh toán được quyết toán.
Cam kết của giao thức
- SLA trả kết quả
99,7%
- Xác thực kết quả
Đồng thuận dựa trên hash với mức nhân bản có thể cấu hình.
- Khả năng chịu lỗi
Tự động giao lại lease khi một node rớt mạng, trong chưa đầy 15 giây.
- Bằng chứng nonce
Nonce cho từng tác vụ ngăn chặn tấn công phát lại từ các node có ý đồ xấu.
- Khóa epoch
Epoch của lease ngăn chặn việc chèn kết quả đã cũ.
- Chọn node
Chấm điểm theo độ trễ, VRAM và mức sử dụng.
Workload tính toán & khả năng
Tổng hợp đa phương thức: văn bản, hình ảnh, video và 3D. FLUX.2, LTX-2.3, Hunyuan3D.
Mô phỏng Monte Carlo, động lực học phân tử và mô hình hóa toán học trên WebGPU.
Xử lý vector, biến đổi đám mây điểm và trích xuất đặc trưng quy mô lớn.
Nâng cấp độ phân giải 4K/8K theo thời gian thực, ước lượng độ sâu, xóa nền, nội suy khung hình.
Chế độ thực thi
- Đơn
- Một node xử lý toàn bộ tác vụ. Lý tưởng cho mô hình nhỏ với chi phí điều phối thấp nhất.
- Song song (chia ô)
- Đầu vào được chia thành các ô, mỗi ô được giao cho một node khác nhau, và kết quả được ghép lại. Được dùng bởi các bộ nâng cấp độ phân giải với đầu vào lớn.
- Phân mảnh
- Mô hình được chia trên N node, mỗi node giữ một phần trọng số, giao tiếp qua WebRTC. Được dùng bởi FLUX.2-klein, LTX-2, Wan 2.2, Hunyuan3D 2.1, TRELLIS.2-4B và ACE-Step.
Vòng đời node
Trình duyệt của bạn trở thành một node tính toán. ONNX Runtime Web chạy suy luận trực tiếp trên GPU của bạn qua WebGPU: không cần cài driver, không CLI, không máy chủ.
- Bước 1Kết nối
Node đăng ký qua MESH SDK và khai báo VRAM cùng năng lực tính toán của nó.
- Bước 2Thông báo
Node thông báo trạng thái sẵn sàng qua WebSocket và vào nhóm sẵn sàng.
- Bước 3Nhận việc
WorkMatcher đẩy một việc được giao. Node giữ một lease có TTL kiểm tra hoạt động.
- Bước 4Thực thi
Suy luận chạy trong một Web Worker trên ONNX Runtime. GPU được dành riêng cho tác vụ.
- Bước 5Gửi kết quả
Hash kết quả và đầu ra được tải lên và lease được giải phóng.
- Bước 6Sẵn sàng
Node thông báo lại trạng thái sẵn sàng. Heartbeat làm mới trạng thái hoạt động mỗi 30 giây.
Yêu cầu hệ thống
- Trình duyệt
Chrome 113+ hoặc Edge 113+ (bắt buộc có WebGPU).
- GPU
Bất kỳ GPU nào hỗ trợ WebGPU: NVIDIA, AMD, Apple Silicon, Intel Arc.
- VRAM tối thiểu
4 GB (Hạng 3) · 8 GB (Hạng 2) · 16 GB+ (Hạng 1).
- Băng thông
Khuyến nghị từ 10 Mbps trở lên để truyền mô hình ngang hàng.
- Dung lượng lưu trữ
2–20 GB cho mỗi bộ mô hình trong hệ thống tệp của trình duyệt (OPFS).
- Thời gian hoạt động
Không yêu cầu tối thiểu. Thiết bị có thể dùng bất cứ khi nào trực tuyến.
Hạng node
- Hạng 1 · VRAM 16 GB+
- Tác vụ cao cấp · mức 2,2×
- Hạng 2 · VRAM 8–15 GB
- Tác vụ tiêu chuẩn · mức 1,4×
- Hạng 3 · VRAM 4–7 GB
- Tác vụ nhẹ · mức cơ bản
