Costruirò pipeline ETL automatizzate e integrazione dati in Python
Python Developer, Data Engineering
Informazioni su questo servizio
Stai cercando una pipeline ETL affidabile, pronta per la produzione, per integrare, pulire e automatizzare i tuoi flussi di dati? Non cercare oltre!
Mi specializzo nella costruzione di pipeline di data engineering personalizzate e ad alte prestazioni usando Python, SQL e strumenti moderni. Che tu abbia bisogno di uno script semplice o di una pipeline complessa con più fonti, fornirò codice pulito, manutenibile e ben testato.
Cosa offro:
Ingestione Multi-Sorgente: Estrai dati da REST API, SQL (PostgreSQL, MySQL), NoSQL (MongoDB), CSV, JSON o Web Scraping.
Trasformazione e Validazione dei Dati: Pulisci i dati grezzi, applica controlli di qualità, isola record malformati e applica logiche di business personalizzate.
Caricamento Incrementale Intelligente: Implementa caricamenti idempotenti basati su watermark nei tuoi database di destinazione.
Orchestrazione dei Workflow: Programma e monitora automaticamente l'esecuzione dei pipeline usando DAG di Apache Airflow
Containerizzazione: Impacchetta la pipeline con Docker e Docker Compose per esecuzione senza problemi ovunque.
Gestione degli errori robusta: Ripetizioni automatiche, fallback e logging dettagliato della pipeline.
Perché lavorare con me?
Codice Python modulare, pulito e ottimizzato (guidato dagli OOP).
Focus profondo su accuratezza dei dati e tolleranza ai guasti.
Comunicazione chiara e consegna veloce
Destination Platform:
PostgreSQL
•
MySQL
•
Altro
Strumenti e piattaforme:
Altro
Il mio portfolio
Altri servizi della categoria Data engineer offerti da me
FAQ
Traduzione automatica.
Cosa devo fornire prima di effettuare un ordine?
Devi fornire dati di esempio, accesso/API (se applicabile) e una breve spiegazione dell’output richiesto o del database di destinazione.
Puoi programmare la pipeline per farla partire automaticamente?
Sì, posso impostare una pianificazione automatica usando DAG di Apache Airflow o pianificatori task Dockerizzati.
Cosa succede se i dati di origine contengono record mancanti o corrotti?
Creo porte di qualità dati personalizzate che mettono in quarantena i record malformati senza fermare l’intera esecuzione della pipeline.

