Costruirò pipeline ETL automatizzate usando Python airflow e SQL
Data Engineer, Sviluppatore Python e SQL, Esperto di Automazione
Informazioni su questo servizio
Soluzioni professionali di Data Engineering e ETL automatizzati
Stai cercando un modo affidabile per automatizzare i tuoi flussi di dati? Sono un Ingegnere del Software (specializzato in Data Engineering) dedicato a creare sistemi ad alte prestazioni che trasformano dati grezzi in risorse strutturate e utili.
Ciò che offro:
- ETL/ELT end-to-end: pipeline completamente automatizzate usando Apache Airflow.
- Data Lakehouse moderno: implementazione dell'architettura Medallion (Bronzo, Argento, Oro) con PostgreSQL, dbt e MinIO.
- Elaborazione in tempo reale: soluzioni di streaming scalabili usando Apache Kafka e Spark.
- Integrità dei dati: sistemi a "Zero Tolerance" con zone di quarantena automatizzate per dati corrotti.
- Deploy completo: tutto containerizzato con Docker per una configurazione facile con un clic.
Il mio stack tecnologico:
- Lingue: Python (Pandas, PySpark), SQL.
- Strumenti: Airflow, dbt, Spark, Kafka, Hadoop.
- Storage: PostgreSQL, MySQL, Amazon S3 (MinIO).
Perché lavorare con me? Mi concentro sulla scrittura di codice pulito, pronto per la produzione e fornisco Diagrammi di Architettura professionali per ogni progetto. Garantisco che i tuoi dati siano precisi, partizionati per la velocità e pronti per l'analisi.
Contattami prima di effettuare un ordine per discutere i requisiti del tuo progetto!
Il mio portfolio
FAQ
Traduzione automatica.
Devo fornire accesso al cloud?
Sì, per distribuire la pipeline, avrò bisogno dell'accesso al tuo ambiente (AWS, GCP o un server privato) oppure posso fornire un file Docker Compose per il deployment locale.
Con quali database lavori?
Lavoro principalmente con PostgreSQL, MySQL e storage compatibile S3 come MinIO, ma posso adattarmi a Snowflake o BigQuery se necessario.
Fornirai la documentazione?
Assolutamente. Ogni progetto include istruzioni chiare in README e un diagramma dell'architettura per garantirti una gestione facile del sistema.

