Risolverò gli errori mediapipe GPU delegate su arm linux, docker o headless


Informazioni su questo servizio
Traduzione automatica.
Il MediaPipe GPU delegate fallisce sul tuo dispositivo ARM, contenitore Docker o server headless?
Gli errori più comuni che risolvo:
"Failed creating base context during opening of kernel driver"
"eglGetDisplay() returned EGL_NO_DISPLAY"
"Kernel module may not have been loaded"
Il GPU delegate si ripiega silenziosamente sulla CPU senza errori
MediaPipe funziona sul desktop ma crasha su edge/embedded
Ho compilato MediaPipe 0.10.35 da sorgente Bazel con EGL/GBM GPU delegate su GPU ARM Mali in modalità completamente headless (senza X11, senza Wayland, senza Xvfb). Ho ottenuto un aumento di velocità di 2.3x rispetto alla CPU.
Ciò che la maggior parte dei venditori non sa:
Il mediapipe GPU delegate usa EGL, NON CUDA anche su Jetson
EGL richiede di default un display server, ma l'ho patchato per usare GBM (Generic Buffer Management) per un vero headless
Questo funziona su Mali (RK3576/RK3588), VideoCore (RPi 5) e GPU Adreno
Demo live (registrazione terminale): https://asciinema.org/a/Mv4LEGvaroBSs6oJ
Gestisco:
Compilazione ARM aarch64 da sorgente (Bazel + CMake)
Pass-through GPU in Docker per MediaPipe
Patch headless EGL/GBM
Benchmark di performance (CPU vs GPU)
Piattaforma: Python 3.10-3.12, Linux ARM64, compatibile con Docker
Scopri di più su Richter
- DaCina
- Membro daott 2024
- Ultima consegna1 anno
Lingue
Cinese, Tedesco, Inglese
Traduzione automatica.
Il mio portfolio
FAQ
Traduzione automatica.
Funziona senza monitor collegato?
Sì! Questo è il punto. Ho patchato MediaPipe per usare EGL GBM invece di X11. Il tuo dispositivo può eseguire inferenze GPU in un rack server, contenitore Docker o box embedded senza display collegato.
Quale hardware supporti?
Testato su RK3576 (Mali-G52 MC3). Compatibile anche con RK3588 (Mali-G610), Raspberry Pi 5 (VideoCore VII) e altri SBC ARM con supporto EGL 1.5. Se la tua GPU supporta OpenGL ES 3.1+ dovrebbe funzionare.
Supporti anche NVIDIA Jetson?
Jetson usa GPU NVIDIA con EGL — l'approccio headless è simile ma non ancora testato nel mio setup. Posso aiutare con il debug EGL su Jetson, ma la compilazione headless è stata verificata finora solo su Mali.
Questo risolverà anche il mio TFLite GPU delegate?
In parte. MediaPipe e TFLite condividono la stessa infrastruttura EGL/GLES di base. L'approccio headless GBM si applica a entrambi. Posso consigliare sui passaggi specifici per TFLite.
Puoi lavorare con la mia base di codice esistente?
Sì. Condividi il tuo codice via GitHub/GitLab o file zip. Diagnosticherò il fallimento del GPU delegate, applicherò la correzione e verificherò che funzioni.
