Risolverò gli errori mediapipe GPU delegate su arm linux, docker o headless

R
richter1976
R
richter1976
Richter
Alcune informazioni sono state tradotte automaticamente.

Informazioni su questo servizio

Traduzione automatica.

Il MediaPipe GPU delegate fallisce sul tuo dispositivo ARM, contenitore Docker o server headless?


Gli errori più comuni che risolvo:

"Failed creating base context during opening of kernel driver"

"eglGetDisplay() returned EGL_NO_DISPLAY"

"Kernel module may not have been loaded"

Il GPU delegate si ripiega silenziosamente sulla CPU senza errori

MediaPipe funziona sul desktop ma crasha su edge/embedded


Ho compilato MediaPipe 0.10.35 da sorgente Bazel con EGL/GBM GPU delegate su GPU ARM Mali in modalità completamente headless (senza X11, senza Wayland, senza Xvfb). Ho ottenuto un aumento di velocità di 2.3x rispetto alla CPU.


Ciò che la maggior parte dei venditori non sa:

Il mediapipe GPU delegate usa EGL, NON CUDA anche su Jetson

EGL richiede di default un display server, ma l'ho patchato per usare GBM (Generic Buffer Management) per un vero headless

Questo funziona su Mali (RK3576/RK3588), VideoCore (RPi 5) e GPU Adreno


Demo live (registrazione terminale): https://asciinema.org/a/Mv4LEGvaroBSs6oJ


Gestisco:

Compilazione ARM aarch64 da sorgente (Bazel + CMake)

Pass-through GPU in Docker per MediaPipe

Patch headless EGL/GBM

Benchmark di performance (CPU vs GPU)


Piattaforma: Python 3.10-3.12, Linux ARM64, compatibile con Docker


Scopri di più su Richter

Richter
4,8(4)
  • DaCina
  • Membro daott 2024
  • Ultima consegna1 anno
  • Lingue

    Cinese, Tedesco, Inglese
I build computer vision systems that ship — on NVIDIA CUDA servers and ARM edge. Not demos. Production. 6 projects deployed in 12 months: YOLO detection + tracking on CUDA and NPU (17x speedup), multi-camera RTSP pipelines with FFmpeg hardware decoding, MediaPipe GPU compiled from source for ARM Mali (2.3x faster, headless), PyTorch custom model training, and rPPG contactless vital signs from video. Stack: Python, C++, PyTorch, OpenCV, CUDA, ONNX, YOLO, Docker. GPUs: RTX 4060 Ti, Hailo-8L NPU, Mali-G52. 3600+ lines in a real school. 20K+ lines in a shipping edge AI product.

Traduzione automatica.

Il mio portfolio

Tag correlati