Configurerò, validerò e risolverò i problemi del tuo cluster gpu e infrastruttura ai

Hai GPU. Hai bisogno che si comportino come una piattaforma di calcolo affidabile.

Costruisco e gestisco infrastrutture GPU e HPC in produzione: provisioning, validazione driver e stack CUDA, scheduling, networking ad alta velocità e monitoraggio. Lavoro a livello di infrastruttura. Non sono un ingegnere ML e non pretendo di esserlo.

COSA FACCIO

Avvio del nodo GPU: allineamento driver NVIDIA, toolkit CUDA e runtime, modalità persistence, MIG

Validazione dello stato di salute: diagnostica DCGM, triage errori Xid ed ECC, controlli termici e di alimentazione

Comunicazione multi-nodo GPU: benchmarking nccl-tests all-reduce, tuning NCCL, validazione percorso di rete

Scheduling: partizioni GPU SLURM e GRES, cgroups e binding, o Kubernetes con il plugin dispositivo NVIDIA e GPU Operator

Monitoraggio: Prometheus, DCGM exporter, dashboard Grafana

Automazione: ruoli Ansible per rendere il processo ripetibile

PRIMA DI ORDINARE

Contattami con il numero di nodi, modello GPU, interconnessione e cosa stai osservando. Se non è qualcosa che posso risolvere realmente, te lo dirò.

Riceverai configurazione funzionante, output del benchmark che mostra cosa è cambiato e documentazione scritta.