Progetterò e costruirò pipeline ai mlops e microservizi ml
Sviluppatore appassionato di AI
Informazioni su questo servizio
Le tue modelli di AI sono lenti, si bloccano sotto traffico intenso o consumano troppo il budget cloud?--- La maggior parte dei team di data science può creare ottimi modelli, ma scalarli per la produzione è una sfida completamente diversa. Se il tuo modello è legato al monolito della tua applicazione principale, un picco di traffico può far crashare tutto il sistema aziendale.
Decouplerò i tuoi modelli di machine learning in microservizi scalabili e di livello produzione usando Docker e Kubernetes così puoi ridurre i costi dell'infrastruttura e ottenere velocità di inferenza incredibili.
Ciò che risolvo per te:
- Deployment in produzione: Trasformo script Python/ML grezzi in endpoint API pronti per la produzione, containerizzati.
- Ottimizzazione dei costi GPU: Separò il traffico web dall'inferenza del modello, assicurandomi che paghi solo per il calcolo cloud costoso quando il tuo AI è attivo.
- Infrastruttura senza downtime: Costruisco setup resilienti e automatizzati che mantengono attiva la tua app principale anche se un pod del modello dà errore.
- Debugging esperto: Intervengo su cluster esistenti per risolvere errori di out-of-memory dei container, pipeline rotte e mismatch ambientali.
Strumenti:
Kubernetes
•
Docker
Framework:
Terraform
•
Pulumi
•
Ansible
•
Crossplane
Linguaggio di programmazione:
Bash
•
C
•
Go
•
JavaScript
•
Python
Expertise:
Debug
•
Sviluppo
•
Configurazione
