Ottimizzerò e distribuirò il tuo modello PyTorch con ONNX e TensorRT

Alcune informazioni sono state tradotte automaticamente.

Corea del Sud

Parlo Uzbeko, Coreano, Inglese, Russo

Ingegnere di AI e Computer Vision

Ingegnere AI / Visione artificiale con oltre 3 anni che spedisce CV di produzione. I miei modelli girano in 60+ punti vendita al dettaglio e hanno processato oltre 8 milioni di analisi per marchi glob...
Informazioni su questo servizio

Il tuo modello funziona, ma è troppo lento o pesante per la produzione? Lo convertirò e lo ottimizzerò con ONNX e TensorRT in modo che giri più velocemente su GPU e dispositivi edge, e verificherò che l’accuratezza resti quella giusta.


Sono un Computer Vision Engineer con oltre 3 anni di esperienza nello sviluppo di sistemi CV in produzione. Ottimizzo modelli con ONNX/TensorRT per chioschi e dispositivi mobili e li servo tramite FastAPI in sistemi che operano in 60+ negozi al dettaglio.


Cosa posso fare:

- Esportare modelli PyTorch in ONNX e verificare che gli output corrispondano all’originale

- Costruire motori TensorRT FP16 e misurare lo speed-up

- Mettere alla prova latenza e accuratezza prima e depois

- Risolvere problemi comuni di esportazione (operazioni non supportate, forme dinamiche)

- Servire il modello ottimizzato con FastAPI + Docker


Cosa ottieni:

- File del modello ottimizzato + codice di inferenza

- Rapporto di benchmark (latenza, accuratezza, hardware usato)

- Istruzioni chiare per farlo girare sulla tua macchina


Per favore scrivimi prima di ordinare indicando tipo di modello, versione del framework e hardware di destinazione (modello GPU o dispositivo edge), così posso confermare l’estensione del lavoro.

Expertise:

Classificazione

•

Sviluppo di software

Linguaggio di programmazione:

Python

Strumenti:

opencv

•

tensorflow

•

PyTorch

Framework:

PyTorch

Il mio portfolio