Costruirò pipeline di dati end to end su azure usando adf e databricks
Ingegnere di dati cloud
Informazioni su questo servizio
Costruirò una soluzione di data engineering end-to-end per ingerire, trasformare, processare e preparare i tuoi dati per l'analisi.
Sono specializzato in Azure, Azure Data Factory, Azure Databricks, PySpark, Python, SQL, ADLS Gen2 e Delta Lake.
Ciò che posso costruire:
- Pipeline di dati ETL/ELT
- Ingestione di dati tramite API, CSV, Excel e SQL
- Orchestrazione con Azure Data Factory
- Soluzioni di data lake con ADLS Gen2
- Trasformazioni con Databricks e PySpark
- Delta Lake e architettura Medallion
- Elaborazione di dati batch e incrementale
- SCD Tipo 1 / Tipo 2
- Modellazione dei dati e dataset pronti per l'analisi
- Qualità e convalida dei dati
- Layer di dati pronti per Power BI
Architettura tipica:
Source ADF ADLS Databricks/PySpark Delta Lake Livello Gold Analisi
Se hai bisogno di un nuovo pipeline, di ottimizzare un pipeline esistente o di una piattaforma dati completa, posso progettare la soluzione in base alle tue esigenze.
Hai un progetto in mente? Contattami prima di ordinare così posso capire le tue esigenze e consigliarti la soluzione migliore.
Strumenti e piattaforme:
Azure data factory
Il mio portfolio
FAQ
Traduzione automatica.
Con quali origini dati puoi lavorare?
Posso lavorare con CSV, JSON, Excel, API REST e database relazionali come SQL Server, a seconda delle esigenze del progetto.
Puoi lavorare con pipeline esistenti?
Sì. Posso risolvere problemi, ottimizzare, modificare ed estendere pipeline di dati esistenti in base alla loro architettura e alle esigenze.
Offri soluzioni complete end-to-end?
Sì. Per progetti più grandi, posso lavorare su ingestione, storage, trasformazione, modellazione dei dati e layer di dati pronti per l'analisi.

