Sfoglia categorie
Esplora
Fiverr Pro
Italiano
$
USD
Ottimizzerò e accelererò il tuo modello AI con onnx e tensorrt
Ricky
Informazioni su questo servizio
Traduzione automatica.
Il tuo modello AI è preciso ma troppo lento per l'uso reale?
Ottimizzo pipeline di inferenza di machine-learning e computer-vision per ridurre la latenza, migliorare il throughput e semplificare il deployment su GPU NVIDIA, dispositivi edge, API e sistemi di produzione.
Posso aiutarti con:
Profiling del modello PyTorch e analisi dei colli di bottiglia nell'inferenza
Esportazione da PyTorch a ONNX
Ottimizzazione di ONNX Runtime
Conversione del motore NVIDIA TensorRT
Ottimizzazione FP16 e INT8 dove supportato
Benchmark di latenza, throughput e FPS
Validazione dell'output rispetto al modello originale
Ottimizzazione di preprocessing e postprocessing
Gestione dinamica di input e batch-size
Ambienti di inferenza Dockerizzati
Integrazione di model-serving con FastAPI
Workflow di deployment su NVIDIA Jetson / GPU
Ottimizzazione di inferenza YOLO e computer-vision
Il mio obiettivo non è semplicemente convertire un formato di file. Verifico che il modello ottimizzato produca ancora output corretti e misuro il miglioramento delle prestazioni effettive.
Le consegne tipiche possono includere:
File del modello / engine ottimizzati
Script di inferenza Python
Risultati di benchmark prima/dopo
Risultati di validazione dell'output
Istruzioni di configurazione
Contattami prima di ordinare.
Scopri di più su Ricky
Ricky
High Performance Python and AI Engineer, APIs, Vision, Optimization
- DaIndia
- Membro dalug 2023
- Ultima consegna2 settimane
Lingue
Hindi, Inglese
I'm a Python and AI engineer focused on performance and production machine learning.
I help clients solve technical problems such as slow Python/Pandas code, broken or incomplete FastAPI backends, custom YOLO computer-vision pipelines, and slow AI inference workflows.
My work includes:
- Python, Pandas, NumPy, Cython and C/C++ performance optimization
- FastAPI and Flask backend development and debugging
- REST APIs, databases, Docker and production deployment
- YOLO object detection, tracking and computer-vision pipelines
- PyTorch, ONNX and TensorRT inference optimization
Traduzione automatica.
Il mio portfolio
FAQ
Traduzione automatica.
Quali modelli puoi ottimizzare?
Lavoro principalmente con modelli PyTorch, inclusi modelli di computer-vision e deep-learning esportabili in ONNX. La compatibilità dipende dall'architettura del modello e dagli operatori usati.
ONNX o TensorRT cambieranno le previsioni del mio modello?
L'obiettivo è preservare il comportamento del modello. Validio gli output ottimizzati rispetto al modello originale e segnalo eventuali differenze numeriche significative introdotte dalla conversione o dalla riduzione della precisione.
Che tipo di velocizzazione posso aspettarmi?
Dipende dal modello, hardware, batch size, preprocessing e dal collo di bottiglia attuale. Eseguo benchmark prima e dopo l'ottimizzazione, piuttosto che promettere un aumento di velocità fisso.
Supporti la quantizzazione FP16 e INT8?
Sì, dove il modello e l'hardware di destinazione le supportano. INT8 può richiedere dati di calibrazione e può comportare compromessi sull'accuratezza, quindi valuto i risultati prima della consegna.
Puoi ottimizzare modelli YOLO?
Sì. Posso esportare e ottimizzare modelli YOLO per workflow ONNX/TensorRT e aiutare a migliorare l'inferenza in tempo reale di immagini o video.
Puoi distribuire il modello ottimizzato?
Sì. Progetti premium o personalizzati possono includere FastAPI, Docker, NVIDIA Jetson, server GPU o altri workflow di deployment.
Cosa succede se il mio modello non può essere esportato in ONNX?
Alcuni modelli contengono operatori non supportati o personalizzati. Posso indagare sul fallimento dell'esportazione e, dove possibile, modificare o sostituire componenti incompatibili. Lavori complessi con operatori personalizzati potrebbero richiedere un'offerta personalizzata.
