Costruirò pipeline ETL scalabili con adf e databricks

Alcune informazioni sono state tradotte automaticamente.

Pakistan

Parlo Inglese, Urdu

Con il duro lavoro e lo sforzo, puoi ottenere qualsiasi cosa

Data Engineer Sono un professionista Data Engineer con esperienza pratica nella creazione di pipeline di dati affidabili e soluzioni strutturate di data warehouse. Aiuto le aziende a raccogliere, puli...
Informazioni su questo servizio

Stai cercando un esperto tecnico per progettare la tua infrastruttura cloud e sviluppare pipeline ETL/ELT ad alte prestazioni? Sei nel posto giusto.

Sono specializzato nella progettazione e implementazione di soluzioni complete di dati. Che tu abbia bisogno di un Data Lakehouse moderno su Azure, di una pipeline robusta su AWS o di trasformazioni complesse in Databricks, fornisco architetture pronte per la produzione.

Le mie competenze e servizi:

  • Data Architecture: Progettazione di framework scalabili per le esigenze di dati dell'organizzazione.
  • Batch & Streaming ETL: Lavori ad alte prestazioni usando Apache Spark e PySpark.
  • Excel in Databricks: Creazione di workflow automatizzati e pipeline Delta Lake.
  • Integrazione dati Azure: Sviluppo usando Data Factory (ADF) e Synapse.
  • Ingestione API: Connessione di API a S3/Blob/SQL tramite AWS Lambda o Functions.
  • Preparazione BI: Ottimizzazione dei dati per Power BI, Tableau e Qlik.
  • Transformazioni personalizzate: Pulizia esperta con Python e SQL.

La stack tecnologica:

  • Piattaforme: Azure, AWS, GCP.
  • Motori: Databricks, Spark, Glue.
  • Orchestrazione: ADF, Airflow.

Expertise:

Integrazione API

Big data

Estrazione dati

etl

SQL

NoSQL

Tecnologia:

Apache Hadoop

Azure data factory

BigQuery

Python

SQL

Il mio portfolio