Ottimizzerò e distribuirò il tuo modello PyTorch con ONNX e TensorRT
Ingegnere di AI e Computer Vision
Informazioni su questo servizio
Il tuo modello funziona, ma è troppo lento o pesante per la produzione? Lo convertirò e lo ottimizzerò con ONNX e TensorRT in modo che giri più velocemente su GPU e dispositivi edge, e verificherò che l’accuratezza resti quella giusta.
Sono un Computer Vision Engineer con oltre 3 anni di esperienza nello sviluppo di sistemi CV in produzione. Ottimizzo modelli con ONNX/TensorRT per chioschi e dispositivi mobili e li servo tramite FastAPI in sistemi che operano in 60+ negozi al dettaglio.
Cosa posso fare:
- Esportare modelli PyTorch in ONNX e verificare che gli output corrispondano all’originale
- Costruire motori TensorRT FP16 e misurare lo speed-up
- Mettere alla prova latenza e accuratezza prima e depois
- Risolvere problemi comuni di esportazione (operazioni non supportate, forme dinamiche)
- Servire il modello ottimizzato con FastAPI + Docker
Cosa ottieni:
- File del modello ottimizzato + codice di inferenza
- Rapporto di benchmark (latenza, accuratezza, hardware usato)
- Istruzioni chiare per farlo girare sulla tua macchina
Per favore scrivimi prima di ordinare indicando tipo di modello, versione del framework e hardware di destinazione (modello GPU o dispositivo edge), così posso confermare l’estensione del lavoro.
Linguaggio di programmazione:
Python
Strumenti:
opencv
•
tensorflow
•
PyTorch
Framework:
PyTorch
