Teknologia: konepellin alla
MESH ohjaa tekoälytyökuormasi automaattisesti solmuille, joilla on pienin viive ja suurin läpäisykyky. Protokolla on suunniteltu vihamielisiin ympäristöihin: jokainen tulos vahvistetaan konsensuksella ennen toimittamista.
Pyynnön kulku
Näin työsi suoritetaan.
- Vaihe 1Lähetä
API-kutsu tai SDK. Työ siirtyy MESH-jonoon.
- Vaihe 2Yhdistä
WorkMatcher yhdistää työn parhaaseen vapaaseen solmuun alle 100 ms:ssa.
- Vaihe 3Osoita
Solmu vastaanottaa tehtävän WebSocket-pushina, ja varalla on HTTP-kysely.
- Vaihe 4Suorita
ONNX Runtime ja WebGPU suorittavat päättelyn selaimen hiekkalaatikossa.
- Vaihe 5Vahvista
Tulosten tiivisteet monistetaan N solmulle ja verrataan konsensuskynnykseen.
- Vaihe 6Toimita
Vahvistettu tulos palautetaan, työ merkitään valmiiksi ja laskutus selvitetään.
Protokollan takuut
- Toimituksen SLA
99,7 %
- Tulosten vahvistus
Tiivistepohjainen konsensus määritettävällä monistuksella.
- Vikasietoisuus
Automaattinen vuokrauksen uudelleenosoitus alle 15 sekunnissa, kun solmu putoaa pois.
- Nonce-todiste
Työkohtaiset noncet estävät vihamielisten solmujen toistohyökkäykset.
- Epookkilukitus
Vuokrausepookit estävät vanhentuneiden tulosten syöttämisen.
- Solmujen valinta
Viiveen, VRAM-muistin ja käyttöasteen pisteytys.
Laskenta- ja kyvykkyystyökuormat
Multimodaalinen synteesi: teksti, kuva, video ja 3D. FLUX.2, LTX-2.3, Hunyuan3D.
Monte Carlo -simulaatiot, molekyylidynamiikka ja matemaattinen mallinnus WebGPU:lla.
Vektorilaskenta, pistepilvimuunnokset ja laajamittainen piirteiden poiminta.
Reaaliaikainen 4K/8K-skaalaus, syvyyden arviointi, taustan poisto, välikuvien interpolointi.
Suoritustilat
- Yksittäinen
- Yksi solmu käsittelee koko työn. Ihanteellinen pienille malleille, koska koordinointikuorma on pienin.
- Rinnakkainen (ruudutettu)
- Syöte jaetaan ruutuihin, jotka osoitetaan kukin eri solmulle, ja tulokset yhdistetään. Skaalaimet käyttävät tätä suurille syötteille.
- Osiin jaettu
- Malli jaetaan N solmulle, joista kukin sisältää osan painoista ja jotka viestivät WebRTC:n kautta. Käytössä malleilla FLUX.2-klein, LTX-2, Wan 2.2, Hunyuan3D 2.1, TRELLIS.2-4B ja ACE-Step.
Solmun elinkaari
Selaimestasi tulee laskentasolmu. ONNX Runtime Web suorittaa päättelyn suoraan näytönohjaimellasi WebGPU:n kautta: ei ajurien asennusta, ei komentoriviä, ei palvelinta.
- Vaihe 1Yhdistä
Solmu rekisteröityy MESH SDK:n kautta ja ilmoittaa VRAM-muistinsa ja laskentakapasiteettinsa.
- Vaihe 2Ilmoita
Se ilmoittaa olevansa käytettävissä WebSocketin kautta ja liittyy käytettävissä olevien solmujen pooliin.
- Vaihe 3Vastaanota
WorkMatcher lähettää tehtävän. Solmu pitää hallussaan vuokrausta, jolla on elossaolon TTL.
- Vaihe 4Suorita
Päättely suoritetaan Web Workerissa ONNX Runtimella. Näytönohjain pysyy omistettuna työlle.
- Vaihe 5Lähetä
Tuloksen tiiviste ja tuloste ladataan, ja vuokraus vapautetaan.
- Vaihe 6Valmis
Solmu ilmoittautuu uudelleen. Sykesignaali päivittää sen elossaolon 30 sekunnin välein.
Järjestelmävaatimukset
- Selain
Chrome 113+ tai Edge 113+ (WebGPU vaaditaan).
- Näytönohjain
Mikä tahansa WebGPU:ta tukeva näytönohjain: NVIDIA, AMD, Apple Silicon, Intel Arc.
- VRAM-vähimmäismäärä
4 Gt (taso 3) · 8 Gt (taso 2) · 16 Gt+ (taso 1).
- Kaistanleveys
Vähintään 10 Mbit/s suositellaan mallien vertaissiirtoon.
- Tallennustila
2–20 Gt mallijoukkoa kohden selaimen tiedostojärjestelmässä (OPFS).
- Käytettävyysaika
Ei vähimmäisvaatimusta. Laite on käytettävissä aina, kun se on verkossa.
Solmutasot
- Taso 1 · 16 Gt+ VRAM
- Premium-työt · 2,2× hinta
- Taso 2 · 8–15 Gt VRAM
- Vakiotyöt · 1,4× hinta
- Taso 3 · 4–7 Gt VRAM
- Kevyet työt · perushinta
